Экстрактор данных 1С в ClickHouse

Обработка для выгрузки данных из подготовленных СКД в фоновом режиме в базу ClickHouse. Это дополнительная подключаемая обработка.

Арт.: 1970328

Лицензии

12000 руб.

Техподдержка и обновления

6000 руб.

5000 руб.

Область применения

Чтобы вывести данные из информационных систем в облако так, чтобы оперативные данные всегда был под рукой и в одном месте, т.е. можно было открыть сразу графики на смартфоне.

Чтобы выгружать данные из информационной системы во внешнюю базу данных для дальнейшего анализа и создания BI дэшбордов, например в Yandex DataLens.

Технические требования

Решение протестировано на конфигурациях:

  • 1С:Управление торговлей 11.5.17.122
  • 1С:Бухгалтерия предприятия от 3.0.157.32
  • 1С:Зарплата и управление персоналом 3.1.30.35
  • 1С:Розница 3.0.10.178
  • 1C:Комплексная автоматизация 2.5.20.91

В рамках внедрения (2 часа) после приобретения производится оценка возможности использования на вашей конфигурации. Если не укладываемся в 2 часа, то обговариваем стоимость дополнительных работ.

Код открыт.

Создание виртуальной машины с базой данных

Создаем свой виртуальный или физических сервер (#VM, #VDS, #VDI и др.)

Для своей VDS вам понадобиться 1-2 ядра, 4Gb RAM, 15-20 GB SSD/HDD.

У которого есть ай пи адрес и порт снаружи.

  • Создать базу #ClickHouseDB.

Адрес

<адрес вашей ВМ, где лежит база данных>

порт по умолчанию

8123

  • Подготовить логин и пароль ClickHouseDB.

<имя пользователя>

<пароль пользователя с правами на вставку данных и создание таблиц>

  • Настроить свои фаерволлы, кому ходить можно, а кому нельзя
  • Зайти на веб морду базы

http:// <адрес вашей ВМ, где лежит база данных>:8123/play

Как создать новую базу данных в ClickHouseDB
Создаем тестовую базу командой:

CREATE DATABASE db_1c_test COMMENT 'The 1C Test Metrics database';

Что нужно сделать в своей информационной базе

  • Открыть обработку в информационной базе, например тестовую или демо базу
  • Включите использование дополнительных и внешних обработок для своей конфигурации
  • Предоставьте своего пользователю права на открытие внешних обработок
  • Ввести все данные во вкладке параметры
  • Указать имя таблицы, например «Test»
  • Закрыть и открыть, убедиться, что параметры сохраняются
  • Вставить запрос из конструктора, взять срез последних любого регистра
  • Переименовать поле «Период» в «ПериодРегистратор»
  • Выставить свои даты в поля стандартного периода
  • Ограничить запрос датами «Дата1» и «Дата2»
  • Выставить глубину смещения дат назад
  • Отправить свой запрос

Чтобы ваша обработка запускалась в фоново в файловом варианте базы, то вам понадобиться создать еще одного пользователя, например «exchange» и создать задание в планировщике Windows или Cron на запуск программы без интерфейса.

Как проверить что отправилось в БД

Проверяем свой запрос в базе:

  • select * from db_1c_test.Test;

Чтобы проверить какие ключи и типы полей создались используем:

  • SHOW CREATE TABLE db_1c_test.Test;

Чтобы уничтожить таблицу, пишем:

  • DROP TABLE db_1c_test.Test;

Чтобы просто очистить:

  • TRUNCATE TABLE db_1c_test.Test;

или если хотите с условием что-то удалить:

  • DELETE FROM db_1c_test.Test where date_record > '2023-11-24 12:00:00';

Какие тонкие настройки можно сделать через конфигуратор обработки

Чтобы более тонко настроить ключи, ресурсы и реквизиты, то открываем обработку через конфигуратор:

  • Добавляем свой новый макет компоновки данных
  • В своей СКД создаем свой запрос, а в полях, все что ключи не ставим никакой тип данных
  • Все, что ресурсы указываем числовые
  • Все, что ресурсы, строки или дата, или булево. Все остальное будет конвертироваться в строку или 0.
  • В полях не допускается поле "Периода", поэтому переименовываем в «ПериодРегистратор».
  • Или не указываем вовсе, поле "Период" подставится автоматически исходя из вашего запроса и параметров.

Можно не лезть в конфигуратор для нескольких выгрузок?

Чтобы сделать несколько выгрузок с разными настройками в конфигуратор вам придется залезть, чтобы просто сделать копий обработки с разными именами. Далее цепляете их, как разные обработки с регламентной операцией.

Просто, если разбираетесь, то можно сделать несколько схем и команд в одной обработке и ее одну администрировать.

Создание #BI дэшборда в #Yandex #DataLens и что может получится

На картинках представлены примеры из Демо базы 1С Управление торговлей 11.5.17.122.

Представлены картинки из мобильной версии DataLens.

Техническая поддержка и обновления

Бесплатный период техподдержки составляет 1 месяц со дня покупки.

Также после приобретения вы получаете 1 месяц бесплатных обновлений.

По окончании бесплатного периода вы можете приобрести услугу технической поддержки с доступом к обновлениям на платной основе.

Проверить наличие обновлений можно в личном кабинете. Если обновления недоступны - загрузить новую версию можно после покупки обновлений/технической поддержки.

Задать вопрос по программе можно по кнопке "Техподдержка" на странице описания.

При создании тикета необходимо предоставить:

  1. Номер заказа
  2. Описание вопроса. Если это ошибки - напишите порядок ваших действий с программой, которые к ней привели (приложите видео/скриншоты/отчеты об ошибке)
  3. Точную конфигурацию 1С, и версию платформы, на которой используете купленное решение (наименование и версию 1С можно взять из раздела "О программе"), версию купленной программы.

К созданной заявке подключается специалист. Дальнейшее обсуждение проблемы будет проходить в тикете техподдержки. Стандартный срок реакции - 24 часа в рабочие дни с момента обращения.

 

Техподдержка
 

Проверено на следующих конфигурациях и релизах:

  • Бухгалтерия предприятия, редакция 3.0, релизы 3.0.157.32
  • Управление торговлей, редакция 11, релизы 11.5.17.122
  • Зарплата и управление персоналом, редакция 3.1, релизы 3.1.30.35
  • Розница, редакция 3.0, релизы 3.0.10.178
  • 1С:Комплексная автоматизация 2, релизы 2.5.20.91
1. JohnyDeath 23.08.24 11:27 Сейчас в теме
Как отслеживаются и отправляются измененные записи?
Например, пользователь что-то исправил задним числом (прошлый месяц/квартал)
3. Техподдержка 23.08.24 12:25
(1)
Спасибо за ваш вопрос.
Это экстрактор (выборка) по вашему запросу из информационной базы, а не иструмент отслеживания.
"Как отслеживаются"
-никак
"и отправляются измененные записи?"
-все что будет запрошено вашим запрос будет отправлено. Записи с одинаковым ключем заменят предыдущие.
-вы можете выставить глубину данных, чтобы обработка выгружала нужный период заново
"Например, пользователь что-то исправил задним числом (прошлый месяц/квартал)"
-если изменения пользователя попадают в "глубину" дней, то ресурс (сумма документа) с одинаковым ключем заменится на новое значение.
-по умолчанию, все числовые данные, это ресурсы

Произвольные ключи необходимо продумать аналитиком и сделать свою схему запроса через конфигуратор.

Вы также можете обратиться с этим вопросом через менеджера, чтобы подготовить свое уникальное ТЗ под вашу задачу. И она будет решена.
2. Техподдержка 23.08.24 12:17
Спасибо за ваш вопрос.
Это экстрактор (выборка) по вашему запросу из информационной базы, а не иструмент отслеживания.
"Как отслеживаются"
-никак
"и отправляются измененные записи?"
-все что будет запрошено вашим запрос будет отправлено. Записи с одинаковым ключем заменят предыдущие.
-вы можете выставить глубину данных, чтобы обработка выгружала нужный период заново
"Например, пользователь что-то исправил задним числом (прошлый месяц/квартал)"
-если изменения пользователя попадают в "глубину" дней, то ресурс (сумма документа) с одинаковым ключем заменится на новое значение.
-по умолчанию, все числовые данные, это ресурсы

Произвольные ключи необходимо продумать аналитиком и сделать свою схему запроса через конфигуратор.

Вы также можете обратиться с этим вопросом через менеджера, чтобы подготовить свое уникальное ТЗ под вашу задачу. И она будет решена.

Оставьте свое сообщение

См. также

Экстрактор данных 1С в BI

Готовое решение для автоматической выгрузки данных из 1С 8.3 в базу данных ClickHouse, PostgreSQL или Microsoft SQL для работы с данными 1С в BI-системах. «Экстрактор данных 1С в BI» работает со всеми типовыми и нестандартными конфигурациям...

28500 руб.

Перенос данных из Парус 8 в ЗГУ 3

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактическим удержаниям, НДФЛ, вычетам, страховым взносам из базы Парус 8 учреждений (далее Парус) в конфигурацию 1С:Зарплата и кадры государственного учреждения...

120000 руб.

Интеграция 1С и СКУД RusGuard

Готовая интеграция для управляемых форм. Встраивается в вашу 1С как расширение. Реализует автоматический обмен данными между 1С (1С:Фитнес клуб и аналогов) и СКУД RusGuard, автоматизирует бизнес-процессы по созданию и учету сотрудников в СК...

94999 руб.

Загрузка данных из F3 TAIL 3 (еФарма 2) в 1С:Бухгалтерия 3.0 версии базовая, ПРОФ, КОРП, ФРЕШ

Внешняя обработка загрузки данных из файла-выгрузки, сформированного в программе F3 TAIL версии 3.4 (и выше) или еФарма версии 2.1, в базу конфигурации 1С: Бухгалтерия предприятия 8, ред. 3.0 (базовая, ПРОФ, КОРП, ФРЕШ).

13200 руб.

Перенос данных из Парус 7.хх в ЗГУ ред.3

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактическим удержаниям, НДФЛ, вычетам, страховым взносам из базы Парус 7.хх учреждений (далее Парус) в конфигурацию 1С:Зарплата и кадры государственного учрежде...

84000 руб.

Загрузка остатков и цен номенклатуры поставщиков в 1С:УТ 11, КА 2, ERP 2

Хотите, чтобы остатки и цены товаров в вашей базе всегда были актуальными без лишних усилий? Теперь это возможно - автоматизируйте процесс загрузки и обновления данных о номенклатуре от ваших поставщиков или конкурентов. Как это работает? В...

15000 руб.

Импорт документов из розничной программы учета (ТрейдФарм, Манускрипт Солюшн, Е-Фарма и др.) в Бухгалтерию 3.0 с формировани...

Представлена обработка для импорта документов из розничной программы учета товара в торговых точках и аптеках, необходимых для ведения бухгалтерского и налогового учёта, в Бухгалтерию 3.0. При загрузке данных в бухгалтерию переносятся докум...

18000 руб.