Асинхронный обмен между базами 1С

25.02.26

Интеграция - Перенос данных 1C

Обмен между базами 1С, как правило, строится по одному из классических сценариев - РИБ или с помощью правил конвертации данных. Эти подходы хорошо известны и в большинстве проектов работают удовлетворительно и полностью покрывают потребности в обмене. Проблемы начинаются при росте системы. В этой статье я хочу разобрать альтернативный подход — асинхронный обмен.

Асинхронный обмен между базами 1С

Введение

Обмен между базами 1С, как правило, строится по одному из классических сценариев - РИБ или с помощью правил конвертации данных. Эти подходы хорошо известны и в большинстве проектов работают удовлетворительно и полнстью покрывают потребности в обмене. Проблемы начинаются не на старте, а при росте системы:

* увеличивается количество узлов
* растёт объём передаваемых данных
* появляются внешние интеграции
* нагрузка становится неравномерной
* каналы связи перестают быть идеально стабильными

И в этот момент выясняется, что основная сложность не в правилах обмена и не в конкретной реализации, а в самой архитектуре — большинство обменов построены по синхронной модели «точка-точка»:

* одна база отправляет данные другой и ждёт результата
* если принимающая сторона недоступна — обмен останавливается
* если сеть нестабильна — возникают повторы
* если поток большой — могут начать проблемы на уровне железа

Это естественное ограничение синхронной архитектуры. В этой статье я хочу разобрать альтернативный подход — асинхронный обмен через брокер сообщений — и показать, в каких случаях он действительно оправдан.

 

Проблемы классического обмена

На практике чаще всего встречаются следующие узкие места:

1. Жадная выгрузка

В файл или пакет попадают все связанные данные, даже если они уже были переданы ранее. Это увеличивает:

* объём трафика
* нагрузку на процессор
* время выгрузки
* время загрузки

2. Синхронность

В случае если данные передаются через COM-соединение отправитель фактически зависит от состояния получателя. Если принимающая база занята или недоступна — процесс блокируется. С ростом числа узлов количество связей между ними растёт экспоненциально.

3. Скорость обмена

Эта проблема является следствием архитектуры жадной выгрузки и усугубляется при обмене через выгрузку в файл.

 

Архитектурная идея: асинхронный обмен

Альтернатива синхронной модели — разделить участников обмена через посредника (брокера сообщений).

Архитектура становится следующей:

1. Отправитель передаёт сообщение Брокеру и не ждёт обработки получателем
2. Брокер сохраняет сообщение
3. Получатель самостоятельно запрашивает данные у Брокера
4. Обработка происходит независимо от отправителя

Таким образом устраняется жёсткая зависимость между узлами. Базы перестают «ждать друг друга».

 

Роль WebSocket и сервера брокера

Начиная с версии 8.3.27 в платформе 1С появился WebSocketКлиент. Это позволяет базе выступать клиентом при постоянном соединении. Однако WebSocket-сервером 1С быть не может, поэтому требуется отдельный сервис. В моём случае брокер реализован на Go — из-за высокой производительности и удобной параллельной обработки. Важно подчеркнуть: выбор языка не принципиален. Принципиальна сама модель — асинхронный обмен через персистентный посредник.

 

Как работает отправитель

Перед отправкой объект регистрируется к обмену. Для каждого объекта формируется уникальный идентификатор обмена (exchange_id) в следующем формате:

```
guid#version#type
```

Пример:

```
ad178c88-1b07-4234-11f1-063fc697887f#AAAA-BFAA#Документ.ПриходнаяНакладная
```

В сообщении передаются:

* exchange_id
* JSON с данными


Это принципиальный момент: обмен строится не вокруг ссылок 1С, а вокруг независимых идентификаторов.

 

Как работает Брокер

Брокер:

* принимает сообщения
* сохраняет их персистентно
* выдаёт по запросу получателям
* фиксирует факт передачи

Он не интерпретирует данные и не знает ничего о бизнес-логике.

Модель доставки — **at least once**. Это означает, что сообщение гарантированно будет доставлено, но возможно повторно. Повторная обработка должна быть безопасной — это обеспечивается идемпотентностью на стороне получателя.

 

Как работает получатель

Получатель не обрабатывает сообщения «на лету». Алгоритм следующий:

1. Получение пакета сообщений
2. Сохранение в регистр предзагрузки
3. Проверка зависимостей
4. Если все зависимости получены — загрузка объекта
5. Если нет — ожидание следующего цикла загрузки

Таким образом решается проблема порядка поступления данных. Получатель может безопасно получать объекты в любом порядке, а воспроизводить их только при наличии всех ссылок. В целях оптимизации в отправителе можно (но не обязательно) установить приоритет выгрузки для разных объектов, Получателя тогда тоже имеет смысл настроить на загрузку по приоритету.


Гарантии и устойчивость

При такой архитектуре:

* падение получателя не влияет на отправителя
* падение отправителя не блокирует других участников
* сообщения не теряются при кратковременных сбоях
* возможна горизонтальная масштабируемость брокера

Ответственность за полноту данных лежит на отправителе. Брокер отвечает только за доставку.


Когда такой подход оправдан

Асинхронный обмен через брокер имеет смысл, если выполняется хотя бы одно из условий:

* 3 и более узлов
* большой поток сообщений
* нестабильные каналы связи
* требования к отказоустойчивости
* необходимость масштабирования

Если же обмен происходит между двумя базами в локальной сети с небольшим объёмом данных — классические механизмы могут быть проще и достаточны.


Итог

Асинхронная архитектура не заменяет привычные механизмы обмена. Она решает конкретную задачу — устойчивый обмен в распределённой системе с ростом нагрузки. Когда система выходит за пределы «файлов раз в ночь», появляется необходимость:

* убрать синхронные блокировки
* минимизировать объём передаваемых данных
* обеспечить гарантированную доставку
* разделить ответственность между узлами

Брокер сообщений — один из способов этого добиться.

Вступайте в нашу телеграмм-группу Инфостарт

обмен асинхронный брокер сообщения

Вы можете заказать платную адаптацию этой статьи под ваши задачи на «Бирже заказов».

  • 0% комиссии — оплата напрямую исполнителю;
  • Исполнители любого масштаба — от отдельных специалистов до команд под проект;
  • Прямой обмен контактами между заказчиком и исполнителем;
  • Безопасная сделка — при необходимости;
  • Рейтинги, кейсы и прозрачная система откликов.

См. также

Перенос данных 1C Разработчик 1С:Предприятие 8 1С:Управление производственным предприятием 1С:ERP Управление предприятием 2 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х Россия Платные (руб)

Перенос документов, начальных остатков и справочной информации из УПП 1.3 в ERP 2 | из УПП 1.3 в УТ 11 | из УПП в КА 2 | Правила конвертации (КД 2) | Более 360 предприятий выполнили переход с использованием этого продукта! | Сэкономьте время - используйте готовое решение для перехода! | Позволяет перенести из УПП 1.3 в ERP / УТ 11 / КА 2 всю возможную информацию | В переносе есть фильтр по организации и множество других опциональных параметров выгрузки | Есть несколько алгоритмов выгрузки остатков на выбор

58000 руб.

04.08.2015    195003    479    310    

474

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Розница 2 1С:Управление нашей фирмой 1.6 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х 1С:Управление нашей фирмой 3.0 1С:Розница 3.0 Россия Платные (руб)

Правила в универсальном формате обмена для ERP 2.5, ERP 2.6, КА 2.5, КА 2.6, УТ 11.5, УТ 11.6, БП 3.0, Розница, УНФ, для последних версий конфигураций. Ссылки на другие конфигурации в описании публикации. Правила совместимы со всеми другими версиями конфигураций новыми и старыми, поддерживающими обмен и синхронизацию в формате EnterpriseData. Не требуется синхронного обновления правил после обновления другой конфигурации, участвующей в обмене. Типовой обмен через планы обмена кнопкой Синхронизация вручную или автоматически по расписанию, или вручную обработкой.

27633 руб.

12.06.2017    165246    1009    329    

493

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Управленческий учет Платные (руб)

Переносите справочную информацию, остатки и документы из УПП 1.3 в Бухгалтерию 3.0 с помощью готовых правил. Переносится более 50 видов документов. Простой интерфейс и понятные настройки.

42000 37800 руб.

15.12.2021    37236    270    68    

204

Перенос данных 1C Разработчик Бухгалтер 1С:Предприятие 8 1С:Зарплата и Управление Персоналом 3.x Россия Бухгалтерский учет НДФЛ ФОМС, ЕФС Платные (руб)

Обработки для быстрого перехода с конфигураций «КАМИН:Расчет заработной платы 3.0», «КАМИН:Зарплата для бизнеса 4.0» и «КАМИН:Зарплата 5.0» на конфигурацию «Зарплата и управление персоналом» версии 3.1.

20740 руб.

25.09.2016    93474    429    268    

356

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Управление торговлей 10 1С:Управление производственным предприятием Россия Платные (руб)

Регулярный обмен, выгрузка, перенос из КА 1.1, УПП 1.3, УТ 10.3 для обмена с любыми конфигурациями, поддерживающими обмен в формате EnterpriseData (КД3) - БП 3.0, ERP, КА 2, УТ 11, Розница 3, УНФ 3 и другими. Правила для старых и доработанных конфигураций не требуют синхронного обновления и совместимы с новыми и будущими конфигурациями. Обмен по расписанию, через папку, FTP, почту.

27572 руб.

18.02.2016    209445    686    559    

566

Внешние источники данных Кадровый учет Файловый обмен (TXT, XML, DBF), FTP Перенос данных 1C Разработчик 1С:Предприятие 8 1С:Зарплата и кадры государственного учреждения 3 Государственные, бюджетные структуры Россия Бухгалтерский учет Бюджетный учет Платные (руб)

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактическим удержаниям, НДФЛ, вычетам, страховым взносам из базы Парус 10 учреждений (далее Парус) в конфигурацию 1С:Зарплата и кадры государственного учреждения ред. 3 (далее 1С) и начать с ней работать с любого месяца года.

85400 руб.

05.10.2022    14612    17    8    

17

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Управление торговлей 10 1С:Управление производственным предприятием 1С:ERP Управление предприятием 2 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х Россия Платные (руб)

Перенос данных из ERP в УПП 1.3 | из КА 2 в КА 1.1 | из КА 2 в УПП 1.3 | из КА 2 в УТ 10.3 | из ERP в КА 1.1 | из ERP в УТ 10.3 | из УТ 11 в УТ 10.3 | из УТ 11 в УПП 1.3 | из УТ 11 в КА 1.1 | Можно переносить только новые объекты, найденные в приемнике перезаписываться не будут | Есть фильтр по организации при выгрузке данных | Оперативно обновляем на новые релизы 1С

60200 руб.

28.11.2015    89541    40    152    

71
Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. user-z99999 77 25.02.26 09:42 Сейчас в теме
В моём случае брокер реализован на Go

А где скачать, посмотреть?
2. VladC# 73 25.02.26 09:48 Сейчас в теме
(1) брокер ещё в разработке, но есть бета, могу отправить ссылку, но здесь ссылки наверное нельзя размещать, напишите в личку
3. user-z99999 77 25.02.26 09:52 Сейчас в теме
(2) Можно указать ссылку на проект в github.
Или кусочки кода разместить в статье.
Может написать продолжение статьи уже с кодом, примером на инфостарте.
4. VladC# 73 25.02.26 10:06 Сейчас в теме
(3) статья с примерами кода обязательно будет, ссылку на брокера в ней тоже предоставлю
chng; user-z99999; +2 – Ответить
5. roman-gofman 02.03.26 17:49 Сейчас в теме
(1) По Websocket лучше подключаться к проверенным временем брокерам, например RabbitMQ
user-z99999; +1 – Ответить
6. VladC# 73 04.03.26 06:51 Сейчас в теме
(5) ещё есть Kafka, ActiveMQ, SQS и др, но мне захотелось реализовать свой - легкий, нетребовательный и быстрый, а ещё практически не требующий настроек, он просто запускается и всё, вся работа производится на стороне 1С
7. roman-gofman 04.03.26 11:52 Сейчас в теме
(6) Ну насчет Kafka спорный вопрос из платформы вы не подключитесь)
Для отправки сообщения требуется регистрация/авторизация