gifts2017

Организация B2B интеграции с использованием 1С и JMS

Опубликовал Андрей Межов (mini_root) в раздел Программирование - Практика программирования

В данной статье будет рассмотрен, пример организации автоматизированного взаимодействия Business2Business при помощи шины сообщений ActiveMQ (реализация Java Message Service). Основное внимание будет уделено специфичным вещам, которые требуются при интеграции разнородных систем с помощью шины сообщений: промежуточной обработке и преобразованию сообщений, маршрутизации и вопросам безопасности.

 Из Википедии.

Основная задача систем В2В — повышение эффективности работы компаний на В2В-рынке за счёт снижения затрат на подготовку торговых процедур и расширения географии бизнеса до масштаба всего мира.

В задачи B2B систем также входит:

  • организация взаимодействия между предприятиями — быстро и удобно
  • построение защищённых надёжных каналов обмена информацией между фирмами
  • координация действий предприятий и совместное их развитие на основе информационного обмена

Взаимодействие может быть связано с торговлей, обменом технологиями, опытом, инвестиционной деятельностью и.т.д.


Общие соображения.

Аббревиатуру B2B очень любят разные гламурные консультанты, евангелисты от IT и прочие впариватели и профессиональные гипнотизеры "серьезных бузинес дядей". А что же за ней стоит? Из чего состоит B2B? А состоит она ровно из двух частей: административной (договориться о взаимодействии, принять необходимые административные шаги) и технической (согласовать и реализовать техническую сторону вопроса). В самом просто виде B2B реализуется при помощи электронной почты, офисного пакета и/или сайта с закрытой зоной (взаимодействие поставщика и менеджера по закупками - переписка, анализ прайсов, согласование, обмен документами и пр.) Данный вариант предельно прост, но в нем очень много ручной работы.

Между тем, у обеих сторон обычно есть свои информационные системы, в которых отражены их бизнес-процессы, и, так и напрашивается, автоматизировать это взаимодействие, приземляя его непосредственно на информационные системы взаимодействующих предприятий. К примеру, организация сразу может получить информацию о номенклатуре поставщика, и привязать ее к своей, узнать об остатках и их прогнозируемых изменениях, ценах и пр. А потом, исходя из этих данных, в полуавтоматическом режиме сформировать заказ на нужное число, показать его менеджеру по закупкам и, после исправления и одобрения, заказ приземлится напрямую в ИС поставщика.... Ляпота.... :)

Поле для усовершенствований и улучшений со всех сторон тут бесконечное,  но можно выделить ряд принципиальных требований, которым должны соответствовать такие решения с технической стороны:

1. Защищенность от несанкционированного вмешательства и преднамеренных деструктивных воздействий.
2. Устойчивость к изменениям, чтобы при добавление еще одной стороны не пришлось выкидывать всю систему.
3. Надежность, имеется в виду защищенность от сбоев и непреднамеренных ошибочных действий.
4. Оперативность.
5. Расширяемость и интегрируемость с другими системами.

 

Инструментарий.

1. Netbeans 6.5/6.7 + жаба + ActiveMQ (я взял снапшот версии 5.3)
2. SharpDevelop 3.1 + .NET 3.5 SP1
3. 1С 8.1

Краткое описание примера.

В качестве центрального элемента в примере будете выступать шина сообщений ActiveMQ, реализующая спецификацию JMS с прикрученной "искаропки" реализацией Enterprise Intergration Patterns, в виде апачевского проекта Camel. Более подробно про шины сообщений можно почитать в статье "Организация обмена с помощью шины сообщений MSMQ"(1), здесь же я сразу перейду к описанию возможностей Camel'а, вот лишь некоторые:
1. Описания маршрутов движения сообщений в конфигурационном файле - позволяет легко изменять их без кодирования.
2. Простота написания компонентов, обрабатывающих сообщениях на этих маршрутах (минимум кода, массовое использования аннотаций жабы, Spring в качестве IoC фреймворка) — все это позволяет легко разрабатывать различные фильтры, преобразователи, ретранслятор,а также легко устанавливать их, достаточно кинуть JAR в каталог lib и можно начинать использовать компоненты в конфигурационном файле.
3. Готовая реализация шаблонов интеграции.

В данном примере шина будет использоваться для сбора информации с внешней системы, ее преобразования и приземления в 1С, а также для отправки ответных сообщений по обратном маршруту.

Роль внешней системы будет играть набор скриптов на Питоне (красноглазики захватили контору-контрагента :) ).

Вопросы безопасности будут решены следующим образом:
1. Аутентфикация при доступе к шине со стороны внешней системы будет проверятся по паролю – в примере будет использоваться самый простой плагин для аутентифакции, с явным заданием пароля в конфигурационном файле ActiveMQ.
2. Защищенность канала будет осуществляться путем организации SSH туннеля (пробрасывание портов) - в примере реализовано не будет.

Основной сценарий взаимодействия имеет вид:
1. Контрагент формирует заказ в виде XML(исходим из того, что коды номенклатуры ему известныи помещает его в некую очередь шины сообщений.

2. Заказ двигается по некоторому маршруту, подвергаясь обработке и преобразованию, например, к схеме CommerceML, хотя в примере все будет гораздо более упрощенно — просто будет добавляться код контрагента. В конце-концов заказ попадает в очередь, которую, с помощью адаптера, опрашивает 1С.

3. В 1С обеспечивается прием и сохранение заказа в виде документа, с возможностью заполнения полей, исходя из которых формируется ответ. Ну и наконец, собственно отправка ответа на выбранный заказ.

4. Ответ на заказ двигается по обратному маршруту, который определяется исходя из кода контрагента, если задан код, для которого не определен маршрут — сообщение отправляется по маршруту обработки ошибок маршрутизации (в примере, просто сохраняется в виде файла на жесткий диск).

 


Предложенная схема удовлетворяет (в первом приближении) всем вышеприведенным требованиям:
1. Она обеспечивает защищенный доступ с аутентфикацией.
2. Гибкость за счет полной развязки систем (они видят только шину) и простоты изменения маршрутов сообщений.

3. Возможность определение для каждого контрагента свое входящего и исходящего маршрута, с уникальной обработкой и преобразованием сообщений.

4. Надежность доставки, за счет транзакционности шины и сохранения сообщений в постоянном хранилище.
 

Схема входящих и исходящих маршрутов, рассмотренных в примере, будет иметь вид:

routes
здесь, голубым цветом обозначены очереди и другие штатные элементыа светло-зеленым — компоненты, в данном случае, компонент осуществляющий преобразования XML.

 

Общая схема будет иметь вид:

 

 schem



здесь, зеленым цветом обозначены входящие маршруты, а желтым — исходящие.



Примечание. В данном примере будет реализовано только верхняя часть схемы, пример реализации нижней части есть в статье про обмен через MSMQ(1). Также входящий маршрут для 1С в примере явно не используется, сообщения сразу передаются на очередь, которую опрашивает 1С.

Ограничения примера.

1. В примере не используется SSH-туннель.
2. В примере реализована чисто умозрительная схема обработки заказов, с самой простой структурой XML-сообщения.
3. В примере реализован упрощенный вариант обработки ошибок (в частности, ошибок маршрутизации) - они просто перенаправляются в специальную очередь, а потом сохраняются в файлы.
4. В примере используется снапшот ActiveMQ 5.3.
5. В ActiveMQ используется самый простой плагин для аутентификации - имя пользователя и пароль задаются в явном виде в конфигурации.


Реализация.


В данном примере используется расширенная библиотека адаптеров из (1), в нее добавлен AcitveMQAdapter, все с тем же интерфейсом:


    [ComVisible(true)]
   
public interface IAdapter : IDisposable
    {
        void SetParameter
(string _name, string _value);
       
void ClearParameters();

       
void SendFile(string _text);
       
void Send(string _text);
       
bool HasMessage();
       
string Receive();

       
void Start();
       
void Stop();

       
void Begin();
       
void Commit();
       
void Rollback();
   
}


Реализация обработки и трансформации сообщений вынесена в отдельный Java проект message-processing. Ключевое место в нем занимают классы ErrorConsumer (содержит компоененты-потребители, обрабатывающие сообщения попавшие в очереди для обработки ошибок) и XslProcessor, который выполняется XSL преобразование сообщений. Также в проект входит набор юнит-тестов. Рассмотрим в качестве примере один из методов класса ErrorConsumer


    @Consume(uri = "activemq:routeError")
   
public void onRouteError(byte[] _message)
   
{
       
try
       
{
            saveToFile
(getUniqueFileName("routeError"), _message);
       
}
        catch
(Throwable _t)
       
{
            logger
.log(Level.SEVERE, "Fatal exception in ErrorConsumenrt", _t);
       
}
    }

как видно из кода, с помощью аннотации явно указано, из какой очереди должен извлекать данные этот метод (routeError), о его вызове позаботится Camel.

Переходим к рассмотрению конфигурационного файла activemq.xml, в нем есть три важных участка: 

во-первых, это конфигурирования аутентификации и авторизации


    <plugins>
             <
authorizationPlugin>
                    <
map>
                        <
authorizationMap>
                                <
authorizationEntries>
                                    <
authorizationEntry queue=">" read="admins,users" write="admins,users" admin="admins,users"/>
                            <
authorizationEntry topic="ActiveMQ.Advisory.>" read="guests,users" write="guests,users" admin="guests,users"/>
                                </authorizationEntries
>
                        </authorizationMap
>
                    </map
>
                </authorizationPlugin
>
            <
simpleAuthenticationPlugin>
                <
users>
                    <
authenticationUser username="test" password="test" groups="users"/>
                    <
authenticationUser username="system" password="manager" groups="admins,users"/>
                </users
>
            </simpleAuthentincationPlugin
>
    </plugins
>

    <
destinationPolicy>
            <
policyMap>
                <
policyEntries>
                    <
policyEntry queue=">" memoryLimit="5mb"/>
                    <
policyEntry topic=">" memoryLimit="5mb">
                        <
dispatchPolicy>
                            <
strictOrderDispatchPolicy/>
                        </destinationPolicy
>
                        <
subscriptionRecoveryPolicy>
                            <
lastImageSubscriptionRecoveryPolicy/>
                        </subscriptionRecoveryPolicy
>
                    </policyEntry
>
                </policyEntries
>
           </policyMap
>
     </destinationPolicy
>

во-вторых, настройка маршрутов, и в-третьих, объявление используемых компонентов, их здесь полностью приводить не буду, ибо надоело бороться с разукрашкой, скажу лишь что секция описания маршрутов полностью совпадает с первым рисунком, а в качестве примера, приведу часть исходящего маршрута:

 

    <!-- OneC outbound route -->
    <
route>
        <
from uri="activemq:oneCOut"/>
        <
choice>
                 <
when>
                        <
xpath>//contr-id = '1'</xpath>
                        <to uri
="activemq:contr1OutTransform"/>
                 </when>
                 <
otherwise>
                        <to uri="activemq:routeError"/>
                 </otherwise>
        </choice>
    </route>

 

 как видите, здесь все довольно прозрачно, маршрут определяется по коду контрагента, в случе если для данного кода контрагента не находится подходящего маршрута - сообщение направлется в очередь ошибок маршрутизации, где его и дожидается рассмотренный выше компонент ErrorConsumer. В реальной системе безусловно небходимо будет предусмотреть возможность повторной отправки такого сообщения, например, если маршрут для данного контрагента будет объявлен в будущем.


Рассматривать подробно базу 1С и питоновские скрипты тоже смысла нет: там все очень просто и примитивно (справочники "Номенклатура" и "Контрагенты", документ "Заказ", да обработка "СогласованиеЗаказов"; в скриптах - скрипт на отправку и скрипт на получение).


Недостатки реализации. 

1. У ActiveMQ иногда появляются очень интересные глюки.

Интеграция внутри и снаружи (подводя черту).
 

В развитии информационных систем любого предприятия или организации можно выделить несколько этапов:

1. Использования механизмов общего назначения с большой долей ручной работы, обмен данными через информационные технологии общего назначения. Небольшой и несложный учет (да-да, в странах более дружественных к малому бизнесу его ведут даже в *офисе, отдавая подготовку отчетности на аутсорс), минимальный обмен информацией со внешним миром (никто не пытается вручную сравнивать прайсы от десятка поставщиков с несколькими тысячами позиций в каждом). У нас в этом плане конечно проблем больше, но зато есть вполне доступные базовые версия 1С, которые эту нишу и закрывают.
2. Использование специализированного предметно ориентированного позволяющего снизить затраты на обработку, хранение информации и подготовку отчетности, обмен данными по прежнему через технологии общего назначения. Почти все небольшие и средние организации (и значительная часть крупных), непосредственные бизнес-процессы автоматизированы, обмен данными внутри организации обычно тоже автоматизирован (обычно это обмен между однотипными, но распределенными системами), но общение с внешним миром и внутренний документооборот ведется по старому.
3. Использования специализированного ПО, использование специализированных механизмов обмена данными внутри предприятия, использование специализированных стандартов и технологий для обмена данными с внешними системами. Обычно этот этап начинается с желания упорядочить документооборот и взаимоотношение с контрагентами. К этому моменту в организации уже появляются разные гламурные кадры, которые пробивают покупку какого-нибудь монстроузного ERP "все в одном". При этом обычно махровым цветом начинает цвести разнообразные подковерные игры. Дальше есть два варианта: неуспешный (70%) и успешный (30%). В любом случае организация таким шагом обычно цементирует свой информационную инфраструктуру (тем более, чем более монстроподобная система была куплена). При этом зачастую эффективность использования купленного решения (с технической точки зрения) оказывается в прямой зависимости от того, поддерживается ли интеграции с унаследованными системами и тем же офисным пакетом, чтобы как минимум было не хуже, чем на предыдущем этапе. А то заполнять одну табличную часть на основе другой, при невозможности копипаста, экспорта/импорта в Excel, и открытия второго окна - то еще удовольствие.... Да, чуть не забыл, гламурные системы иногда еще могут не распределяться (СОВСЕМ!) - на полном серьезе может предлагаться лазить терминалом в центр, связи нет - кури бамбук. Вот такой он, "тру Ынтырпрайз", бессмысленный и беспощадный.

Альтернативный вариант состоит построении гибкой распределенной информационной системы, включающей в себя разнородные компоненты: от системы документооборота, до учетной системы и офиса, подобранные таким образом, чтобы обеспечить максимальную степень интегрированности. Даже офис можно заинтегрировать по самое небалуйсь (начиная от бесконечных обработок для загрузки/выгрузки табличных частей, заканчивая прямым доступом к источнику данных через ADO прямо из Excel'я). Сюда же могут входить всевозможные порталы для взаимодействия как внутри предприятия, так и с контрагентами. Ну и как вершина - интеграция с внешними, по отношению к организации, информационными системами. Очевидно, что такому решению нужен некий фундамент, который позволит объединить воедино все компоненты такой сложной распределенной системы - вот так и всплывает вопрос о необходимости интеграционного ПО.

Хотя разумеется не стоит впадать в крайности: ни в лоскутной автоматизации, ни в монолитной прибитой гвоздями системе нету ничего хорошего. Как говаривал товарищ Парацельс: "все зависит от дозы". Хотя, ИМХО, последний альтернативный вариант наиболее перспективен. Важным моментом является также необходимость обеспечения контроля, мониторинга и управления для такой системы. Ну или по крайней мере для той ее части, которая отвечает за потоки обмена данными, функционирующие автоматически. Самая общая схема такой структуры может иметь вид:

 


layers

 

 


 Стоит обратите внимание на самый верхний уровень, который обеспечивает управление всей системой. Есть такая вещь как BPMN, основная идея банальна - бузинес аналитег рисует схему мышкой, а нижележащее ПО под нее подстраивается и... программист не нужен. Это конечно же утопия: продажная девка капитализма, кибернетика, учит нас, что система управления должна быть всегда более сложной чем подчиненная система (ну или упрощенная модель подчиненной системы, из которой исходят). А это значит, либо аналитег будет ограничен в свой действиях, либо ему придется знать и уметь управлять всем нижележащим хозяйством.

К слову сказать, BPMN пока это просто диаграммки - движка, в отличии от BPEL, для него нету.


 С другой стороны, можно предусмотреть в нижележащих уровнях возможность переключения между нескольким стратегиями поведения. Например, можно предусмотреть возможность менять маршрут движения сообщений в зависимости от некоторых глобально доступных переменных (например, доступных через веб-сервис) . И, изменяя это значение, менять маршрут движения и логику обработки информационных потоков. Такой механизм вполне сможет использоваться для организации нескольких режимов работы распределенной информационной системы и переключения между ними. Будучи настроенным и отлаженным он вполне может быть передан в руки тому самому бузинес аналитегу.


 Таким образом возникает градация по трудоемкости внесения изменений: проще всего в такой схеме выполнить переключение между разными, предопределенными стратегиями поведения, сложнее внести изменения в транспортные и координационные уровни или в исходные системы, которые они связывают.

 В целом такая схема обладает массой достоинств, например, очень хорошей масштабируемостью, потому что изрядную доли нагрузки берет на себя интеграционное решение, которые может быть разнесено на множество серверов. Применение промежуточного интеграционного ПО также приводит к развязывание конечных систем, что упрощают из замену или интеграцию с новыми. Хотя есть и недостатки, прежде это всего сложность реализации и сопровождения, кроме того сложность приведения всех предметно ориентированных приложения к единому интеграционному ПО.


Заключение.


Это заключительная статья цикла, в котором рассматриваются на конкретных примерах отдельные элементы гибкой распределенной и интегрированной системы. Были рассмотрены:


1. Организация обмена между однородными системами (1С через план обмена) с помощью шины сообщений MSMQ: http://infostart.ru/blogs/1178/
2. Интеграция 1С с сервисной шиной OpenESB (в более широком смысле, построение SOA с участием 1С, координация и обмен данными): http://infostart.ru/blogs/1236/
3. В этой статье - интеграция с внешними информационными системами с использованием шины ActiveMQ (JMS) и использование шаблонов интеграции.

Как обычно видео с демонстрацией можно посмотреть здесь: http://www.youtube.com/watch?v=7Lx0Orqb8rc

Архив лежит здесь: http://infostart.ru/projects/5877/

Более подробно про Camel можно прочитать здесь: http://camel.apache.org/


Как всегда жду вопросов и конструктивной критики. Адынэс рулЕз!


P.S. А еще, мне откровенно уже задолбал местный редактор статей - это полне убожество, особенно в плане вставки исходного кода!

См. также

Подписаться Добавить вознаграждение

Комментарии

1. Андрей Межов (mini_root) 06.09.09 21:12
ща, буду править то что разъехалось
2. Андрей Межов (mini_root) 06.09.09 21:31
Вроде все, лучше уже не будет. Найденные ошибки и неточности буду исправлять по ходу пьесы.
3. Андрей Скляров (coder1cv8) 07.09.09 07:03
Плюс авансом, буду читать внимательно на досуге... )
4. dushelov (Душелов) 07.09.09 07:55
Ну, в целом, нормально. Я как раз не так давно занимался подобными вещами.
5. Dmitry Afanasyev (afanasko) 07.09.09 09:51
Плюс, однозначно!
Автор, мне очень нравятся твои статьи. Пиши исчо :-). Считаю, что серьезных статей очень мало на инфостарте (и в интернете вообще), но тем они ценнее.
6. inse0f (inse0f) 07.09.09 23:38
неплохо конечно, но как то описано не профессионально, скорее с программистской точки зрения) как и пишет сам автор, что все, что впаривают модные IT консультанты b2b есть ничто :)
7. Андрей Межов (mini_root) 08.09.09 09:20
(6) А я и пишу с программистской точки зрения (вернее - "с технической"). В данный момент - это единственная точка зрения, позволяющая получить на выходе рабочее решение, а не кучу презентаций в поверпойнте, с последующим вопросом: "Шо делать!?".

К тому же про "ничто" я не писал, хотя предубеждение перед консультантской публикой таки есть... Непрофессионально? Хе-хе, к счастью мне еще далеко до стадии когда начинают говорить языком "профессионального консультанта".

8. desty (lustin) 12.09.09 02:09
(6)
в статьях Андрея сейчас больше теории чем практики. однако это не мешает увидеть реальное применение этих идей

а про консультантов, которые дейтствительно "впаривают" - замечено привильно...

минус вам Уважаемый inseOf за фразу

"не профессионально, скорее с программистской точки зрения"

этой фразой вы подразумеваете (на мой взгляд):
1. что профессионализм и программирование - понятие разные
2. и доказываете, что вы не поняли статью
9. sbv2005 (sbv2005) 26.04.13 12:34
Хорошая статья с точки зрения концепции. Вот пример из практики: мы связали 1С и сервер сообщений MQ с помощью самописного адаптера на JAVA. Мспользовали Jawin для вытаскивания из 1С данных для отправки. Схема не совсем оптимальная, но ... работает. И вообще для 1С вижу будущее за тесной интеграцией 1С и java ))))
10. Андрей Межов (mini_root) 26.04.13 14:15
Эти статьи писались по наработкам, которые были сделаны перед написанием одной распределенной системы для сети магазинов: как один из вариантов рассматривался свежий на тот момент 8.2 (само собой, с извращениями и не "по Радченко"), но в конечном счете здравый смысл победил и решили писать на банальной жабке (абсолютно правильно решили, кстати, скорость написания не сильно меньше, а технологичность и предсказуемость гораздо выше). Ну а наработки пошли в статьи....

Коллега, с которым мы это начинали делать, через один коммент выше, кстати (8).
11. Роман Иванов (MusaRB) 18.09.13 17:22
Да, статья хорошая. Жаль что она ориентирована на подготовленную аудиторию.
Стараюсь внедрить, не понимаю как зарегистрировать ActiveMQAdapter.
Андрей, ответите?
Прикрепленные файлы:
12. Сергей Скр (Nx6600) 31.08.16 16:29
(11) MusaRB, у вас котэ в прикрепленном файле.
Для написания сообщения необходимо авторизоваться
Прикрепить файл
Дополнительные параметры ответа