Обнаружение и разрешение коллизий данных: альтернативная реализация типовой стратегии РИБ 1С

13.11.22

Интеграция - Перенос данных 1C

Отказ от использования механизма планов обмена в РИБ не означает отказа от необходимости решать проблему выявления и разрешения коллизий. Данная статья предлагает рассмотреть один из вариантов решения этой проблемы.

Предположим, что для преодоления проблем механизма планов обмена, используемого в распределённой информационной базе данных (РИБД), было принято решение о реализации альтернативного обмена данными с гарантированной доставкой при помощи очередей сообщений.

Реализация подобного варианта обмена данными рассмотрена в моей статье "DaJet Exchange: обмен данными с 1С (часть 1)".

Так же, как и РИБД 1С, альтернативная реализация должна предусматривать выявление коллизий и их разрешение.

Первым делом необходимо сформулировать практически целесообразные требования к системе обмена данными по типу РИБД, имеющей топологию "звезда".

Требования к асинхронному обмену данными:

1. Сообщения доставляются и обрабатываются при помощи очередей FIFO.

2. Используется гарантированная доставка при помощи брокера сообщений.

3. Изменение данных и отправка сообщения выполняются в одной транзакции.

4. Получение сообщения и изменение данных выполняются в одной транзакции.

 

Правила разрешения коллизий:

1. Root node always wins!

Центральный узел всегда имеет наивысший приоритет своих изменений по отношению к изменениям любого периферийного узла.

Все узлы должны получить и принять изменения центрального узла.

2. Leaf node may be allowed to make changes.

До тех пор пока центральный узел не сделал изменений, любой периферийный узел может предложить свои изменения.

Центральный узел и заинтересованные периферийные узлы должны получить и принять предложенные инициирующим периферийным узлом изменения.

3. First leaf node wins!

Первый периферийный узел, предложенное изменение которого было зафиксировано в центральном узле, имеет приоритет по отношению к изменениям, одновременно сделанным в других периферийных узлах.

Другие узлы должны получить и принять такое изменение.

 

Следствия из правил разрешения коллизий:

1. Центральный узел при получении сообщения от периферийного узла должен принимать и маршрутизировать сообщения, соответствующие правилу № 2. Все остальные сообщения центральный узел отбрасывает.

2. Периферийный узел всегда обязан принять сообщение от центрального узла, так как именно центральный узел обеспечивает строгое соблюдение всех правил разрешения коллизий.

 

Для реализации правил разрешения коллизий используется адаптированная к вышеуказанным требованиям методика синхронизации потоков при помощи мьютексов.

Жизненный цикл мьютекса начинается в статусе мьютекса изменения (change mutex), используемого для захвата данных в центральном узле и их изменения. Change mutex генерируется текущим узлом для исходящих сообщений, его значение должно быть уникально в пределах РИБ. Change mutex используется для захвата записей в центральном узле с целью изменения данных.

В случае успешного захвата данных в центральном узле мьютекс переходит в статус разделяемого мьютекса (shared mutex) для синхронизации изменений между заинтересованными в этих изменениях периферийными узлами. Shared mutex получается периферийным узлом во входящих сообщениях. Получение shared mutex свидетельствует о том, что данные центрального узла были захвачены другим узлом. Таким образом выполняется синхронизация доступа к данным между узлами. Shared mutex необходимо запомнить, чтобы в будущем использовать его для снятия захвата данных в центральном узле.

Жизненный цикл использования мьютекса завершается в статусе вышедшего из употребления мьютекса (obsolete mutex).

 

Таким образом можно выделить следующие состояния данных РИБ:

1. Синхронизированное состояние данных - данные во всех узлах идентичны.

2. Изменение данных в периферийном узле и отправка сообщения захвата и изменения данных в центральный узел.

3. Захват, изменение и отправка сообщений данных в центральном узле.

4. Получение, изменение и синхронизация данных в периферийном узле.

5. Новое синхронизированное состояние.

 

Для того, чтобы было понятнее как работает всё вышесказанное, ниже будут приведены схемы изменения состояния РИБ в зависимости от происходящих в системе событий. Работа алгоритма основана на том, что для каждого объекта конфигурации, участвующего в обмене данными РИБ, создаётся дополнительная таблица метаданных обмена. Данная таблица по сути своей расширяет основную таблицу объекта дополнительными полями для хранения информации о мьютексах.

 
1. Центральный узел создаёт данные
 
2. Центральный узел изменяет данные
 
3. Периферийный узел изменяет данные
 
4. Центральный и периферийный узлы изменяют данные одновременно
 
5. Периферийные узлы изменяют данные одновременно

Дополнительные материалы в формате презентаций расположены здесь.

Псевдо код обработки входящего сообщения центральным узлом:

Если (metadata.MutexOwner = message.SourceNode          // Владелец мьютекса и узел отправителя сообщения равны
 Или  metadata.ChangeMutex = message.SharedMutex) Тогда // Мьютекс изменения равен разделяемому мьютексу сообщения

   // Начало транзакции
   НачатьТранзакцию();

   // 1. Обновляем метаданные записи
   metadata.MutexOwner = message.SourceNode;
   metadata.ChangeMutex = message.ChangeMutex;
   ОбновитьМетаданные(metadata);

   // 2. Применяем изменения в центральном узле
   ОбновитьДанные(message.Data);

   // 3. Маршрутизируем сообщение в другие узлы
   МаршрутизироватьСообщение(message);

   // Конец транзакции
   ЗафиксироватьТранзакцию();

Иначе

   // Игнорируем и удаляем сообщение из очереди
   УдалитьСообщение(message);

КонецЕсли;

Псевдо код обработки входящего сообщения периферийным узлом:

// Начало транзакции
НачатьТранзакцию();

// 1. Обновляем метаданные записи
metadata.SharedMutex = message.ChangeMutex;
ОбновитьМетаданные(metadata);

// 2. Периферийный узел обязан всегда применять изменения,
//    пришедшие из центрального узла
ОбновитьДанные(message.Data);

// Конец транзакции
ЗафиксироватьТранзакцию();

Псевдо код формирования исходящего сообщения периферийным узлом:

// Начало транзакции
НачатьТранзакцию();

// 1. Обновляем метаданные записи
metadata.ChangeMutex = GenerateNewChangeMutex();
ОбновитьМетаданные(metadata);

// 2. Выполняется изменение данных
ОбновитьДанные(data);

// 3. Отправляем сообщение в центральный узел
Message message = new Message(data);
message.SharedMutex = metadata.SharedMutex; // Shared mutex был ранее получен и сохранён
message.ChangeMutex = metadata.ChangeMutex;
ОтправитьСообщение(sourceNode, targetNode, message);

// Конец транзакции
ЗафиксироватьТранзакцию();

Ссылки на дополнительные материалы:

1. Распределенные алгоритмы РИБ 1С

2. Мартин Клеппман: Высоконагруженные приложения. Программирование, масштабирование, поддержка. 2018 год.

3. Why Logical Clocks are Easy (Как легко понять логические часы)

4. Calvin: обеспечение принципов ACID для высоконагруженных распределенных систем

Вступайте в нашу телеграмм-группу Инфостарт

интеграция РИБ РИБД обмен данными синхронизация двусторонний

Вы можете заказать платную адаптацию этой статьи под ваши задачи на «Бирже заказов».

  • 0% комиссии — оплата напрямую исполнителю;
  • Исполнители любого масштаба — от отдельных специалистов до команд под проект;
  • Прямой обмен контактами между заказчиком и исполнителем;
  • Безопасная сделка — при необходимости;
  • Рейтинги, кейсы и прозрачная система откликов.

См. также

Перенос данных 1C Разработчик 1С:Предприятие 8 1С:Управление производственным предприятием 1С:ERP Управление предприятием 2 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х Россия Платные (руб)

Перенос документов, начальных остатков и справочной информации из УПП 1.3 в ERP 2 | из УПП 1.3 в УТ 11 | из УПП в КА 2 | Правила конвертации (КД 2) | Более 360 предприятий выполнили переход с использованием этого продукта! | Сэкономьте время - используйте готовое решение для перехода! | Позволяет перенести из УПП 1.3 в ERP / УТ 11 / КА 2 всю возможную информацию | В переносе есть фильтр по организации и множество других опциональных параметров выгрузки | Есть несколько алгоритмов выгрузки остатков на выбор

58000 руб.

04.08.2015    195056    480    310    

474

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Платные (руб)

Перенос данных из 1С:Управление производственным предприятием 1.3 в 1С:Бухгалтерия предприятия 3.0 с помощью правил обмена | Можно выполнить переход с УПП на БП 3 или запускать выгрузку данных за выбранный период времени | Переносятся документы, начальные остатки и вся справочная информация | Есть фильтр по организации и множество других параметров выгрузки | Поддерживается несколько сценариев работы: как первичный полный перенос, так и перенос только новых документов | Перенос данных возможен в "1С: Бухгалтерия 3.0" версии ПРОФ, КОРП или базовую | Переход с "1С: УПП1.3" / "1С:КА 1.1" на "1С:БП3.0" с помощью правил конвертации будет максимально комфортным! | Можно бесплатно проверить перенос на вашем сервере!

55050 руб.

25.02.2015    192750    385    296    

438

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Розница 2 1С:Управление нашей фирмой 1.6 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х 1С:Управление нашей фирмой 3.0 1С:Розница 3.0 Россия Платные (руб)

Правила в универсальном формате обмена для ERP 2.5, ERP 2.6, КА 2.5, КА 2.6, УТ 11.5, УТ 11.6, БП 3.0, Розница, УНФ, для последних версий конфигураций. Ссылки на другие конфигурации в описании публикации. Правила совместимы со всеми другими версиями конфигураций новыми и старыми, поддерживающими обмен и синхронизацию в формате EnterpriseData. Не требуется синхронного обновления правил после обновления другой конфигурации, участвующей в обмене. Типовой обмен через планы обмена кнопкой Синхронизация вручную или автоматически по расписанию, или вручную обработкой.

27633 руб.

12.06.2017    165332    1009    329    

493

Перенос данных 1C Взаиморасчеты Оптовая торговля Логистика, склад и ТМЦ Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Управление торговлей 10 1С:ERP Управление предприятием 2 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х Россия Управленческий учет Платные (руб)

Можно проверить до покупки, оставьте заявку! Воспользовались более 268 компаний! Перенос данных из УТ 10.3 в УТ 11 | из УТ 10.3 в КА 2 | из УТ 10.3 в ERP. Решение для перехода с УТ 10.3. Можно перенести начальные остатки, нормативно-справочную информацию и все возможные документы. При выгрузке можно установить отбор по периоду, организациям и складам.

55200 руб.

24.04.2015    211624    186    254    

303

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Разработчик 1С:Предприятие 8 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Управленческий учет Платные (руб)

Переносите справочную информацию, остатки и документы из УПП 1.3 в Бухгалтерию 3.0 с помощью готовых правил. Переносится более 50 видов документов. Простой интерфейс и понятные настройки.

42000 37800 руб.

15.12.2021    37267    270    68    

204

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Разработчик 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Управление производственным предприятием 1С:Зарплата и Управление Персоналом 3.x Россия Бухгалтерский учет Платные (руб)

Правила переноса кадровых и расчетных данных и справочной информации из "1С:УПП1.3" или "1С:КА 1.1" в "1С:ЗУП 3.1 | Разработан в формате КД 2 (правила конвертации данных) | При выгрузке есть фильтр по организациям | Обновляется при выходе новых релизов 1С | Развитие алгоритмов | Расчетные документы переносятся в документ "Перенос данных" | Создаются документы "Начальная штатная расстановка" и "Начальная задолженность по зарплате", переносятся кадровые документы

63000 руб.

29.10.2018    64586    87    137    

83

Перенос данных 1C Разработчик Бухгалтер 1С:Предприятие 8 1С:Зарплата и Управление Персоналом 3.x Россия Бухгалтерский учет НДФЛ ФОМС, ЕФС Платные (руб)

Обработки для быстрого перехода с конфигураций «КАМИН:Расчет заработной платы 3.0», «КАМИН:Зарплата для бизнеса 4.0» и «КАМИН:Зарплата 5.0» на конфигурацию «Зарплата и управление персоналом» версии 3.1.

20740 руб.

25.09.2016    93530    429    268    

356
Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. legrey 67 12.02.21 15:09 Сейчас в теме
Блин... основательно !
2. zhichkin 1573 12.02.21 15:34 Сейчас в теме
(1) Спасибо. Я боялся, что непонятно будет =)
Но, в конце концов, решил написать как есть, хотя бы для себя на память.
3. Dormouzze 12.11.22 11:22 Сейчас в теме
Спасибо, очень интересный материал. Подскажите, если мьютексы реализовывать штатными объектами 1с - какую реализацию вы бы посоветовали (отдельные справочники или регистр общий, или может пару реквизитов добавить в каждый справочник, который участвует в обмене)?
4. zhichkin 1573 12.11.22 18:50 Сейчас в теме
(3) Оба, названных Вами способа, имеют право на существование:
1. Добавление служебных реквизитов к существующим объектам.
2. Создание служебных таблиц, дополняющих существующие объекты.
3. В случае 1С - использование для этих целей расширения.
Первый способ считается наиболее предпочтительным, если это "всерьёз и надолго", а также с точки зрения производительности и более простого программного сопровождения.
Второй способ более распространён, так как он более гибкий, а также если нет возможности изменять объекты метаданных или это просто нежелательно по той или иной причине. Широко использовался Microsoft для синхронизации своих продуктов в том числе мобильных устройств. Я думаю в той или иной модификации используется до сих пор. Для справки как это у них работает можно почитать про Microsoft Sync Framework.
Третий способ я бы рекомендовал просто "чтобы попробовать" и если не взлетит, то отключить, а если взлетит, то уже использовать первый или второй способ.
5. Dormouzze 12.11.22 20:26 Сейчас в теме
(4)
Спасибо за развернутый ответ!
6. zhichkin 1573 13.11.22 19:20 Сейчас в теме
(5) Дополнил статью полезными ссылками на дополнительные материалы по теме.
7. KuzNik 04.07.23 08:45 Сейчас в теме
Спасибо за материал!

Кое что меня смутило в части описания состояния системы: блок "периферийный узел меняет данные", на 5ом слайде в заголовке указано, что данные меняет узел "ПУ:2", а на схеме данные меняет узел "ПУ:1". Видимо, в заголовке должен быть указан узел "ПУ:1". Соответственно, для полноты картины не хватает описания состояний, когда "ПУ:2" меняет данные, при mutex owner = "ПУ:1".
Прикрепленные файлы:
8. zhichkin 1573 04.07.23 10:26 Сейчас в теме
(7) Феноменальная внимательность! =) Да, Вы правы, это я проглядел.

Соответственно, для полноты картины не хватает описания состояний, когда "ПУ:2" меняет данные, при mutex owner = "ПУ:1".

Согласен, но вряд ли уже когда-нибудь сделаю.
Для отправки сообщения требуется регистрация/авторизация