Экстрактор данных 1С в ClickHouse

Обработка для выгрузки данных из подготовленных СКД в фоновом режиме в базу ClickHouse. Это дополнительная подключаемая обработка.

Арт.: 1970328

2024-04-19_14-45-40.png
2024-04-19_15-21-40.png
2024-08-19_22-29-38.png
2024-08-19_22-30-11.png
2024-08-19_22-30-28.png
2024-08-19 17-11-34.JPG
2024-04-19_14-45-40.png
2024-04-19_15-21-40.png
2024-08-19_22-29-38.png
2024-08-19_22-30-11.png
2024-08-19_22-30-28.png
2024-08-19 17-11-34.JPG
Лицензии

12000 руб.

Техподдержка

5000 руб.

Техподдержка и обновления

5000 руб.

Область применения

Чтобы вывести данные из информационных систем в облако так, чтобы оперативные данные всегда был под рукой и в одном месте, т.е. можно было открыть сразу графики на смартфоне.

Чтобы выгружать данные из информационной системы во внешнюю базу данных для дальнейшего анализа и создания BI дэшбордов, например в Yandex DataLens.

Технические требования

Протестировано и совместимо:

  • 1С:Управление торговлей 11.5.x, 11.1.x
  • 1С:Бухгалтерия предприятия 3.x
  • 1С:Зарплата и управление персоналом  3.x

Код открыт.

Создание виртуальной машины с базой данных

Создаем свой виртуальный или физических сервер (#VM, #VDS, #VDI и др.)

Для своей VDS вам понадобиться 1-2 ядра, 4Gb RAM, 15-20 GB SSD/HDD.

У которого есть ай пи адрес и порт снаружи.

  • Создать базу #ClickHouseDB.

Адрес

<адрес вашей ВМ, где лежит база данных>

порт по умолчанию

8123

  • Подготовить логин и пароль ClickHouseDB.

<имя пользователя>

<пароль пользователя с правами на вставку данных и создание таблиц>

  • Настроить свои фаерволлы, кому ходить можно, а кому нельзя
  • Зайти на веб морду базы

http:// <адрес вашей ВМ, где лежит база данных>:8123/play

Как создать новую базу данных в ClickHouseDB
Создаем тестовую базу командой:

CREATE DATABASE db_1c_test COMMENT 'The 1C Test Metrics database';

Что нужно сделать в своей информационной базе

  • Открыть обработку в информационной базе, например тестовую или демо базу
  • Включите использование дополнительных и внешних обработок для своей конфигурации
  • Предоставьте своего пользователю права на открытие внешних обработок
  • Ввести все данные во вкладке параметры
  • Указать имя таблицы, например «Test»
  • Закрыть и открыть, убедиться, что параметры сохраняются
  • Вставить запрос из конструктора, взять срез последних любого регистра
  • Переименовать поле «Период» в «ПериодРегистратор»
  • Выставить свои даты в поля стандартного периода
  • Ограничить запрос датами «Дата1» и «Дата2»
  • Выставить глубину смещения дат назад
  • Отправить свой запрос

Чтобы ваша обработка запускалась в фоново в файловом варианте базы, то вам понадобиться создать еще одного пользователя, например «exchange» и создать задание в планировщике Windows или Cron на запуск программы без интерфейса.

Как проверить что отправилось в БД

Проверяем свой запрос в базе:

  • select * from db_1c_test.Test;

Чтобы проверить какие ключи и типы полей создались используем:

  • SHOW CREATE TABLE db_1c_test.Test;

Чтобы уничтожить таблицу, пишем:

  • DROP TABLE db_1c_test.Test;

Чтобы просто очистить:

  • TRUNCATE TABLE db_1c_test.Test;

или если хотите с условием что-то удалить:

  • DELETE FROM db_1c_test.Test where date_record > '2023-11-24 12:00:00';

Какие тонкие настройки можно сделать через конфигуратор обработки

Чтобы более тонко настроить ключи, ресурсы и реквизиты, то открываем обработку через конфигуратор:

  • Добавляем свой новый макет компоновки данных
  • В своей СКД создаем свой запрос, а в полях, все что ключи не ставим никакой тип данных
  • Все, что ресурсы указываем числовые
  • Все, что ресурсы, строки или дата, или булево. Все остальное будет конвертироваться в строку или 0.
  • В полях не допускается поле "Периода", поэтому переименовываем в «ПериодРегистратор».
  • Или не указываем вовсе, поле "Период" подставится автоматически исходя из вашего запроса и параметров.

Можно не лезть в конфигуратор для нескольких выгрузок?

Чтобы сделать несколько выгрузок с разными настройками в конфигуратор вам придется залезть, чтобы просто сделать копий обработки с разными именами. Далее цепляете их, как разные обработки с регламентной операцией.

Просто, если разбираетесь, то можно сделать несколько схем и команд в одной обработке и ее одну администрировать.

Создание #BI дэшборда в #Yandex #DataLens и что может получится

На картинках представлены примеры из Демо базы 1С Управление торговлей 11.5.17.122.

Представлены картинки из мобильной версии DataLens.

Техническая поддержка и обновления

Бесплатный период техподдержки составляет 1 месяц со дня покупки.

Также после приобретения вы получаете 1 месяц бесплатных обновлений.

По окончании бесплатного периода вы можете приобрести услугу технической поддержки с доступом к обновлениям на платной основе.

Проверить наличие обновлений можно в личном кабинете. Если обновления недоступны - загрузить новую версию можно после покупки обновлений/технической поддержки.

Задать вопрос по программе можно по кнопке "Техподдержка" на странице описания.

При создании тикета необходимо предоставить:

  1. Номер заказа
  2. Описание вопроса. Если это ошибки - напишите порядок ваших действий с программой, которые к ней привели (приложите видео/скриншоты/отчеты об ошибке)
  3. Точную конфигурацию 1С, и версию платформы, на которой используете купленное решение (наименование и версию 1С можно взять из раздела "О программе"), версию купленной программы.

К созданной заявке подключается специалист. Дальнейшее обсуждение проблемы будет проходить в тикете техподдержки. Стандартный срок реакции - 24 часа в рабочие дни с момента обращения.

 

Техподдержка
 

Проверено на следующих конфигурациях и релизах:

  • Бухгалтерия предприятия, редакция 3.0, релизы 3.0.157.32
  • Управление торговлей, редакция 11, релизы 11.5.17.122
  • Зарплата и управление персоналом, редакция 3.1, релизы 3.1.30.35
Статистика:
Просмотры 661
Загрузки 0
Рейтинг 2
Создание 21.08.24 09:10
Обновление 21.08.24 09:10
№ Публикации 1970328
Характеристики:
Теги

Экстрактор 1C ClickHouse БП УТ ЗУП ERP КАРГО

Рубрики Внешние источники данных
Кому Программист ,
Бизнес-аналитик
Тип файла Внешняя обработка (ert,epf)
Платформа Платформа 1С v8.3
Конфигурация Конфигурации 1cv8 ,
1С:Бухгалтерия 3.0 ,
1С:Управление торговлей 11 ,
1С:Зарплата и Управление Персоналом 3.x
Операционная система Не имеет значения
Страна Не имеет значения
Отрасль Не имеет значения
Налоги Не имеет значения
Вид учета Не имеет значения
Доступ к файлу Платные (руб)
Код открыт Да
1. JohnyDeath 23.08.24 11:27 Сейчас в теме
Как отслеживаются и отправляются измененные записи?
Например, пользователь что-то исправил задним числом (прошлый месяц/квартал)
3. Техподдержка 23.08.24 12:25
(1)
Спасибо за ваш вопрос.
Это экстрактор (выборка) по вашему запросу из информационной базы, а не иструмент отслеживания.
"Как отслеживаются"
-никак
"и отправляются измененные записи?"
-все что будет запрошено вашим запрос будет отправлено. Записи с одинаковым ключем заменят предыдущие.
-вы можете выставить глубину данных, чтобы обработка выгружала нужный период заново
"Например, пользователь что-то исправил задним числом (прошлый месяц/квартал)"
-если изменения пользователя попадают в "глубину" дней, то ресурс (сумма документа) с одинаковым ключем заменится на новое значение.
-по умолчанию, все числовые данные, это ресурсы

Произвольные ключи необходимо продумать аналитиком и сделать свою схему запроса через конфигуратор.

Вы также можете обратиться с этим вопросом через менеджера, чтобы подготовить свое уникальное ТЗ под вашу задачу. И она будет решена.
2. Техподдержка 23.08.24 12:17
Спасибо за ваш вопрос.
Это экстрактор (выборка) по вашему запросу из информационной базы, а не иструмент отслеживания.
"Как отслеживаются"
-никак
"и отправляются измененные записи?"
-все что будет запрошено вашим запрос будет отправлено. Записи с одинаковым ключем заменят предыдущие.
-вы можете выставить глубину данных, чтобы обработка выгружала нужный период заново
"Например, пользователь что-то исправил задним числом (прошлый месяц/квартал)"
-если изменения пользователя попадают в "глубину" дней, то ресурс (сумма документа) с одинаковым ключем заменится на новое значение.
-по умолчанию, все числовые данные, это ресурсы

Произвольные ключи необходимо продумать аналитиком и сделать свою схему запроса через конфигуратор.

Вы также можете обратиться с этим вопросом через менеджера, чтобы подготовить свое уникальное ТЗ под вашу задачу. И она будет решена.

Оставьте свое сообщение

См. также

Экстрактор данных 1С в BI - выгрузка данных из 1С в BI-аналитику

Готовое решение для автоматической выгрузки данных из 1С 8.3 в базу данных ClickHouse, PostgreSQL или Microsoft SQL для работы с данными 1С в BI-системах. «Экстрактор данных 1С в BI» работает со всеми типовыми и нестандартными конфигурациям...

28500 руб.

Интеграция 1С 8.3 с Power BI (Генератор представлений (View) в MS SQL/PostgreSQL по структуре базы данных 1С 8.3)

Если вам нужно автоматически генерировать представления (view) к вашей базе данных 1С (есть две версии - для СУБД MS SQL Server и для PostgreSQL) по структуре метаданных 1С, то вам необходима данная обработка. Наш "Генератор View"...

230000 руб.

Перенос данных из Парус 7.хх в ЗГУ ред.3

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактических удержаниях, НДФЛ, вычетах, страховых взносах из базы Парус 7.хх учреждений в конфигурацию 1С:Зарплата и кадры государственного учреждения ред. 3 (ЗГ...

48000 руб.

Перенос данных из Парус 8 в ЗГУ 3

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактических удержаниях, НДФЛ, вычетах, страховых взносах из базы Парус 8 учреждений в конфигурацию 1С:Зарплата и кадры государственного учреждения ред. 3 (ЗГУ) ...

84000 руб.

Перенос данных из Парус 10 в ЗГУ ред.3

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактических удержаниях, НДФЛ, вычетах, страховых взносах из базы Парус 10 учреждений в конфигурацию 1С:Зарплата и кадры государственного учреждения ред. 3 (ЗГУ)...

60000 руб.

Интеграция с сервисом "CARDPR". Управление электронными картами лояльности из 1С

Расширение позволяет автоматизировать управление картами лояльности и взаимодействие с покупателями при помощи интеграции корпоративной системы 1С и специализированного облачного сервиса "CARDPR". Автоматическая онлайн синхрониза...

36000 руб.

Базис-Мебельщик и 1С: Загрузка спецификаций в УНФ

Обработка предназначена для загрузки файлов, выгруженных из системы Базис-мебельщик, в справочник 1С "Спецификации" для последующих процессов учета и диспетчирования полуфабрикатов и изделий.

10200 руб.

Загрузка данных из F3 TAIL 3 (еФарма 2) в 1С: Бухгалтерия 3.0 (базовая, ПРОФ, КОРП, ФРЕШ)

Внешняя обработка загрузки данных из файла-выгрузки, сформированного в программе F3 TAIL версии 3.4 (и выше) или еФарма версии 2.1, в базу конфигурации 1С: Бухгалтерия предприятия 8, ред. 3.0 (базовая, ПРОФ, КОРП, ФРЕШ).

13200 руб.