Быстрый бинарный перенос регистров между клонами

10.07.26

Интеграция - Перенос данных 1C

Быстрый бинарный перенос регистров между базами 1С: чанки + манифест, многопоток, RabbitMQ 🐇. Расширение, MIT.

Быстрый перенос регистров между базами 1С: своё расширение вместо XML-обмена

 

Штатный обмен 1С (планы обмена, выгрузка через XML/XDTO) универсален и потому медленный: построчная сериализация в текст, оверхед на разбор схемы, одна нитка. Когда базы разные — это оправдано. Но когда нужно перелить миллионы строк регистров между базами с идентичной конфигурацией (клон-синк, наполнение тестового контура с боевого, перенос архива движений), платить за эту универсальность гигабайтами XML и минутами ожидания незачем.

Инструмент делает проще: раз конфигурации совпадают — наборы записей пишутся во внутренний бинарный формат платформы (ЗначениеВФайл) порциями-чанками, рядом кладётся manifest.json, и на приёмнике всё грузится замещением по регистратору. Никакой построчной сериализации в текст. Поставка — расширение конфигурации (AddOn, 6 объектов метаданных, ноль зависимостей от базовой конфы): дропается в любую конфигурацию, включая БСП-релизы, без правки основной.

 

Что умеет

  • Бинарные чанки + manifest.json. Набор режется на порции, каждая пишется одним ЗначениеВФайл; манифест хранит состав, версию, формат, сжатие и отбор — загрузка самодостаточна по манифесту.
  • Параллельная выгрузка и загрузка фоновыми заданиями. Запуск адаптивный: есть БСП — через ОбщегоНазначения.ВыполнитьМетодКонфигурации, нет — через собственный тонкий шим; отдельное ветвление для файловой и клиент-серверной ИБ.
  • Портативный JSON-формат чанков (СериализаторXDTO с явным назначением типов) — переживает смену версии платформы, когда .bin уже нельзя.
  • Опциональное сжатие deflate — ~15% исходного размера ценой ~×1,3 по времени; для передачи по сети выгодно, для локального клон-синка — нет.
  • Отбор по периоду для РН/РБ и периодических РС (с защитой от смешивания периодических и непериодических регистров в одной выгрузке).
  • Живой прогресс с отменой и докачкой после обрыва (уже загруженные чанки пропускаются по sidecar-файлу).
  • Профили СУБД (файловая / MS SQL / PostgreSQL) сами подбирают размер чанка и число потоков под приёмник.
  • Метрики OpenMetrics (.prom) рядом с отчётами — подключается к Grafana через node_exporter.
  • Транспорт через RabbitMQ (PoC): «папка → очередь → папка», ack после записи файла, валидация имени файла из очереди (защита от path traversal).
  • Встроенный самотест — план прогона с пресетами: сборочные тесты корректности (в т.ч. потеря данных в подчинённых регистрах, path traversal, отмена/зомби-воркеры) и бенчмарки со сводным HTML-отчётом.

 

Сколько это в цифрах

Регистр сведений, синтетика ~160 байт/строку. Два стенда — файловая ИБ на NVMe и MS SQL Server на SSD.

Сценарий Результат
Round-trip 5 млн строк (bin / deflate / json) 1:1, сверка байт-в-байт
Выгрузка, MS SQL, 8 потоков 241 000 строк/с (×4,72 к одному потоку)
Загрузка, MS SQL, 8 потоков 72 800 строк/с (×4,24) — на серверной СУБД параллелится и запись
Выгрузка, файловая ИБ, 8 потоков 208 000 строк/с (×2,2; плато после ~4 потоков — упор в СУБД)
Сжатие deflate=9 14,8% исходного размера (151,5 → 22,4 МБ на 1 млн строк)

На файловой ИБ запись упирается в монопольную блокировку .1CD (загрузка масштабируется лишь до ×1,25) — серверная СУБД снимает этот потолок. Дефолты (размер чанка, число потоков, режим сжатия) подобраны по замерам, не по наитию: «теоретически правильная» балансировка через полную сортировку однажды уронила параллелизм с ×1,70 до ×1,06 — с тех пор любая перф-правка только с бенчмарком до/после.

 

Как пользоваться

  1. Подключить .cfe к обеим базам и снять «Безопасный режим» / «Защиту от опасных действий» (движку нужен файловый I/O).
  2. В источнике: выбрать регистры чек-листом, указать папку обмена, при необходимости — формат/сжатие/потоки/период → «Выгрузить».
  3. Перенести папку на приёмник (или указать общую) → в приёмнике «Загрузить».

Для переноса между разными версиями платформы — переключить формат на JSON. Профиль СУБД приёмника подберёт остальное.

 

Ограничения

  • Только идентичные конфигурации: GUID-ссылки между разными базами не транслируются (клон, копия, синхронизированные справочники). Маппинг ссылок — отдельная задача, инструмент её не решает.
  • .bin — внутренний формат платформы: чувствителен к версии платформы и метаданным. Для устойчивости — JSON.
  • Загрузка по умолчанию однопоточная (параллелится в первую очередь выгрузка); на файловой ИБ параллелизм выгрузки выходит на плато после ~4 потоков.
  • Расширение исполняется доверенным кодом от rphost — встроена валидация пути папки обмена.

 

Где взять

Исходники, собранный .cfe, документация и бенчмарки — в открытом репозитории (MIT): https://github.com/ohmyfcingod/fast-register-transfer-1c


P.S. Присмотритесь к скриншотам вкладки «Тесты». В типовых 1С-формах такое обычно не водится; что именно — оставим сюрпризом. 🙂

Вступайте в нашу телеграмм-группу Инфостарт

Расширение перенос данных регистры

Вы можете заказать платную адаптацию этой статьи под ваши задачи на «Бирже заказов».

  • 0% комиссии — оплата напрямую исполнителю;
  • Исполнители любого масштаба — от отдельных специалистов до команд под проект;
  • Прямой обмен контактами между заказчиком и исполнителем;
  • Безопасная сделка — при необходимости;
  • Рейтинги, кейсы и прозрачная система откликов.

См. также

Перенос данных 1C Разработчик 1С:Предприятие 8 1С:Управление производственным предприятием 1С:ERP Управление предприятием 2 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х Россия Платные (руб)

Перенос документов, начальных остатков и справочной информации из УПП 1.3 в ERP 2 | из УПП 1.3 в УТ 11 | из УПП в КА 2 | Правила конвертации (КД 2) | Более 360 предприятий выполнили переход с использованием этого продукта! | Сэкономьте время - используйте готовое решение для перехода! | Позволяет перенести из УПП 1.3 в ERP / УТ 11 / КА 2 всю возможную информацию | В переносе есть фильтр по организации и множество других опциональных параметров выгрузки | Есть несколько алгоритмов выгрузки остатков на выбор

58000 руб.

04.08.2015    194961    479    310    

474

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Розница 2 1С:Управление нашей фирмой 1.6 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х 1С:Управление нашей фирмой 3.0 1С:Розница 3.0 Россия Платные (руб)

Правила в универсальном формате обмена для ERP 2.5, ERP 2.6, КА 2.5, КА 2.6, УТ 11.5, УТ 11.6, БП 3.0, Розница, УНФ, для последних версий конфигураций. Ссылки на другие конфигурации в описании публикации. Правила совместимы со всеми другими версиями конфигураций новыми и старыми, поддерживающими обмен и синхронизацию в формате EnterpriseData. Не требуется синхронного обновления правил после обновления другой конфигурации, участвующей в обмене. Типовой обмен через планы обмена кнопкой Синхронизация вручную или автоматически по расписанию, или вручную обработкой.

27633 руб.

12.06.2017    165222    1009    329    

493

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Управленческий учет Платные (руб)

Переносите справочную информацию, остатки и документы из УПП 1.3 в Бухгалтерию 3.0 с помощью готовых правил. Переносится более 50 видов документов. Простой интерфейс и понятные настройки.

42000 37800 руб.

15.12.2021    37214    270    68    

204

Перенос данных 1C Разработчик Бухгалтер 1С:Предприятие 8 1С:Зарплата и Управление Персоналом 3.x Россия Бухгалтерский учет НДФЛ ФОМС, ЕФС Платные (руб)

Обработки для быстрого перехода с конфигураций «КАМИН:Расчет заработной платы 3.0», «КАМИН:Зарплата для бизнеса 4.0» и «КАМИН:Зарплата 5.0» на конфигурацию «Зарплата и управление персоналом» версии 3.1.

20740 руб.

25.09.2016    93451    429    268    

356

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Управление торговлей 10 1С:Управление производственным предприятием Россия Платные (руб)

Регулярный обмен, выгрузка, перенос из КА 1.1, УПП 1.3, УТ 10.3 для обмена с любыми конфигурациями, поддерживающими обмен в формате EnterpriseData (КД3) - БП 3.0, ERP, КА 2, УТ 11, Розница 3, УНФ 3 и другими. Правила для старых и доработанных конфигураций не требуют синхронного обновления и совместимы с новыми и будущими конфигурациями. Обмен по расписанию, через папку, FTP, почту.

27572 руб.

18.02.2016    209413    686    559    

566

Внешние источники данных Кадровый учет Файловый обмен (TXT, XML, DBF), FTP Перенос данных 1C Разработчик 1С:Предприятие 8 1С:Зарплата и кадры государственного учреждения 3 Государственные, бюджетные структуры Россия Бухгалтерский учет Бюджетный учет Платные (руб)

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактическим удержаниям, НДФЛ, вычетам, страховым взносам из базы Парус 10 учреждений (далее Парус) в конфигурацию 1С:Зарплата и кадры государственного учреждения ред. 3 (далее 1С) и начать с ней работать с любого месяца года.

85400 руб.

05.10.2022    14600    17    8    

17

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Разработчик 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Бухгалтерия 3.0 Россия Платные (руб)

Перенос данных из 1С:Комплексной автоматизации 1.1 в 1С:Бухгалтерия предприятия 3.0 с помощью правил обмена. Переносятся остатки, документы (обороты за период), справочная информация. Правила проверены на конфигурациях КА 1.1 (1.1.115.1) и БП 3.0 (3.0.210.x). Правила подходят для версии ПРОФ и КОРП.

40000 36000 руб.

11.07.2019    30993    129    32    

38
Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. SerVer1C 1146 10.07.26 14:42 Сейчас в теме
Почему бы не лить напрямую между скулями ?
2. Baronello 36 10.07.26 14:46 Сейчас в теме
(1) Можно и скриптом SQL закинуть, но каждый сам решает когда ему начать нарушать лицензионное соглашение 1С.)

Я недавно снес пароль пользователю обмена, закинул его строчку из ночной копии в прод через SQL. SQL с ночной копией полезная штука.
3. SerVer1C 1146 10.07.26 15:41 Сейчас в теме
(2) Да просто на больших базах (от ТБ и выше) всякие эсные обмены по времени будут стремиться к бесконечности. Скажу по секрету, что все хайлоады нарушают обходят правила лиц соглашения )
5. Baronello 36 10.07.26 16:10 Сейчас в теме
(3) Знаю, админил ДО на 5Тб, думаю можно придумать куда эту обработку применить. А так я тут в том числе и интерфейсы 8.5 изучал, красивости с анимациями наводил, в коде всё описано почему именно так. Проект больше 6+, а не DBA+, он про плотный код и решения от безопасности до разделения ядра и тестовых шлейфов, замеры снимать с системы, сравнивать как разные конфиги ведут себя при передаче данных.

Да и сама тема переноса регистра через бинарники раскрыта.

Если хочется DBA+, то ткни в репо в следующий проект.
4. gybson 15 10.07.26 15:45 Сейчас в теме
а почему обычный обмен то не использовать c Fast InfoSet?
6. Baronello 36 10.07.26 16:11 Сейчас в теме
(4) Используйте, я разве запрещаю.
Для отправки сообщения требуется регистрация/авторизация