Анализ и редактирование файлов выгрузки EnterpriseData (синхронизация данных через универсальный формат)

19.07.22

Интеграция - Файловый обмен (TXT, XML, DBF), FTP

Почти все разработчики и консультанты сталкивались с задачами, связанных с обменом между базами через EnterpriseData (конвертация данных 3, обмен через универсальный формат и т.д.). Типовой механизм похож на черный ящик: что-то там долго-долго выгружает и выдает на выходе xml-файл циклопических размеров. А что в этом файле? Почему он такой большой? Что и сколько выгрузилось? Какие объекты занимают больше всего места? А можно ли вырезать ненужное? А можно ли разбить файл на части? А можно... А можно... На эти и многие другие вопросы ответит эта обработка!

Скачать файл

ВНИМАНИЕ: Файлы из Базы знаний - это исходный код разработки. Это примеры решения задач, шаблоны, заготовки, "строительные материалы" для учетной системы. Файлы ориентированы на специалистов 1С, которые могут разобраться в коде и оптимизировать программу для запуска в базе данных. Гарантии работоспособности нет. Возврата нет. Технической поддержки нет.

Наименование По подписке [?] Купить один файл
Анализ и редактирование файлов выгрузки EnterpriseData
.epf 24,54Kb ver:1.0.1
25
25 Скачать (1 SM) Купить за 1 850 руб.

Итак, фичи:

 

  • Чтение заголовка файла обмена с возможностью редактирования номеров сообщений, кодов узлов и т.п. Это можно и блокнотом сделать, конечно. Если он у вас откроет xml-файл на, скажем, 1.5 Гб.
  • Статистический анализ содержимого: типы объектов, их количество, размер занимаемый в файле с возможной детализацией до объекта, количество и состав дублей вы файле выгрузки.
  • Возможность пересохранить файл с набором опций: с измененной шапкой, изменить состав объектов в результирующем файле с точностью до каждого из них, возможность не выгружать дублирующую информацию.
  • Возможность разделить файл на примерно равные части по объему.

 

Тестирование: Проверял в работе на платформах 8.3.18, .20, .21. Должно работать и в более ранних версиях.
Требования: наличие БСП.
Ограничения: не умеет работать с расширениями формата обмена (Можно сделать, но не было примера для тестов).

 

Инструкция по использованию

 

Выбор файла и структура его шапки

На первом скрине представлена начальная страница обработки. В самом верху необходимо выбрать файл. Поддерживаются как xml, так и zip-архивы. После выбора файла нажимаем "Анализ" и ждем результатов. Работает достаточно быстро.

После анализа файла будет заполнены все поля на форме. Информация о плане обмена, кодах узлов и номерах сообщений будет доступна только если выбран файл выгрузки через план обмена. Поле "Узел корреспондента" будет заполнено только если обработка открыта в одной из баз, участвующих в обмене.

Все поля доступны для редактирования. При сохранении файла (последняя вкладка) в результирующий файл будет записана шапка с корректировками.

 

Анализ состава файла

На странице "Объекты в файле" есть две вкладки "Сводная информация" и "Подробно". Скрины 2 и 3. 

В сводной информации выводится две таблицы:

1. Перечень объектов в файле выгрузки. Группировка "Это удаление" тут и далее представляет собой признак, что передается информация об удалении объекта. Для каждого типа выводится количество объектов этого типа, общий размер в файле и средний размер одного объекта.

2. Объекты, выгруженные неоднократно. Тут стоит заметить, что уникальность объекта в файле выгрузки я определяю по тегу "Ключевые поля" в разрезе типов объектов и признака "это удаление". Типовая синхронизация грешит тем, что не ведет уникальность объектов, которые она получает на выгрузку не по ссылке, а в виде структуры. В моем примере - это 6+ тысяч раз выгружена структура, которая представляет собой один договор. В этой таблице будут собраны все дубли в выгрузке с указанием их количества и размера в файле.

На вкладке "Подробно" представлена таблица со всеми объектам из файла. Для каждого из них выведены:

  • тип объекта 
  • размер в файле 
  • полностью тег "ключевые поля" 
  • если есть УИД объекта, то он выведен. При этом из поля с УИДом можно открыть сам объект. (внимание! если в базе нет объекта метаданных с именем, как в поле "имя типа", то открываться объект будет достаточно долго!)
  • для справочников и документов выводятся код или номер соответственно 
  • для справочников выводится наименование, если оно было в ключевых полях
  • для документов выводится дата документа
  • колонка с признаком "это удаление"

 

Вкладка "Генерация новых файлов выгрузки"

На вкладке следует указать новое имя файла, в который будет произведена запись. Конечный файл не может быть исходным. Т.е. нельзя перезаписать тот же самый файл.

Если поставить галочку "Разделить выгрузку на части", то будет предложено указать размер каждой части в килобайтах. При сохранении обработка будет накапливать размер выгруженных объектов и при достижении лимита создаст новый файл. В этом режиме к имени файла будет добавляться суффикс с индексом. Так же стоит отметить, что в этом режиме (только в этом) не будет сохраняться информация об обмене через план обмена и типовая синхронизация этих "кусков" не увидит. Для загрузки полученных файлов нужно будет воспользоваться обработкой "Выгрузка EnterpriseData", которая идет вместе с БСП. Ссылка на нее есть на форме обработки.

Если поставить галочку "Не выгружать дубли", то при формировании файла выгрузки обработка проследит, чтобы в него не попали дубли по ключевым полям.

Ниже расположено дерево значений, где можно галочками отметить, какие объекты будут выгружены. Снимать галочки можно с узлов. Колонка "Размер в файле" динамически пересчитывается и даст вам представление о том, какого размера получится файл. Галочки можно устанавливать с точностью до объекта. Для каждого объекта выведена информация по аналогии с таблицей "Подробно" анализа содержимого файла. В поле УИД так же есть кнопка открытия объекта базы с этим УИДом.

После выполнения всех настроек выгрузки следует нажать "Сохранить файл".

 

Пара замечаний

1. Размер в файле. Это не точный размер. Это "оптимистичная оценка". Результат будет скорее всего немного больше.

2. При загрузке файла, разделенного на части, не имеет значения в каком порядке грузить данные. На практике я не увидел недостатков.

3. Как следствие п.2 - есть интересный вариант: последовательно отмечать к выгрузке объекты разных типов, а потом грузить данные параллельно из нескольких клиентов. Фантастический буст по скорости загрузки.

4. Допустим, в одной базе была заведена новая номенклатура и введен документ ее приобретения. Был сформирован файл выгрузки в бухгалтерию. Моей обработкой этот файл поделили на части так, что данные о новой номенклатуре оказались в одном файле, а данные о приобретении с этой номенклатурой - в другом. Эти два файла грузят в базу вручную. Причем первым грузят тот, где есть документ, но нет справочника. Что будет? Ошибка? Я специально моделировал такую ситуацию для проверки. В этом случае обработка загрузки загрузит документ и для его заполнения создаст новый элемент номенклатуры по ключевым полям. Т.е. никаких "объект не найден" не случится. Если следом загрузить второй файл с номенклатурой, то ее карточка будет дозаполнена корректно.

5. Желательно хорошо представлять, как работают типовые механизмы обмена, если вы собираетесь редактировать шапку файла обмена. Можно легко сбить номера принятых/полученных на узлах. Но это не смертельно, они выправляются легко. Главное, чтобы вы понимали, как это работает и зачем нужно.

Обработка Универсальный формат EnterpriseData анализ файл выгрузки синхронизация данных

См. также

SALE! 20%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист Платформа 1С v8.3 1С:Розница 2 1С:Управление нашей фирмой 1.6 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х 1С:Управление нашей фирмой 3.0 1С:Розница 3.0 Россия Платные (руб)

Правила в универсальном формате обмена для ERP 2.5, КА 2.5, УТ 11.5, БП 3.0, Розница, УНФ, для последних версий конфигураций. Ссылки на другие конфигурации в описании публикации. Правила совместимы со всеми другими версиями конфигураций новыми и старыми, поддерживающими обмен и синхронизацию в формате EnterpriseData. Не требуется синхронного обновления правил после обновления другой конфигурации, участвующей в обмене. Типовой обмен через планы обмена кнопкой Синхронизация вручную или автоматически по расписанию, или вручную обработкой.

26280 22338 руб.

12.06.2017    141466    798    297    

419

SALE! 10%

Перенос данных 1C Программист Платформа 1С v8.3 1С:Управление производственным предприятием 1С:ERP Управление предприятием 2 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х Россия Платные (руб)

Перенос документов, начальных остатков и справочной информации из УПП 1.3 в ERP 2 | из УПП 1.3 в УТ 11 | из УПП в КА 2 | Правила конвертации (КД 2) | Более 360 предприятий выполнили переход с использованием этого продукта! | Сэкономьте время - используйте готовое решение для перехода! | Позволяет перенести из УПП 1.3 в ERP / УТ 11 / КА 2 всю возможную информацию | В переносе есть фильтр по организации и множество других опциональных параметров выгрузки | Есть несколько алгоритмов выгрузки остатков на выбор

55778 50200 руб.

04.08.2015    166427    332    277    

373

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист Платформа 1С v8.3 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Управленческий учет Платные (руб)

Перенос данных из 1С:Управление производственным предприятием 1.3 в 1С:Бухгалтерия предприятия 3.0 с помощью правил обмена. Переносятся остатки, документы (обороты за период), справочная информация. Правила проверены на конфигурациях УПП 1.3 (1.3.234.x) и БП 3.0 (3.0.161.x). Правила подходят для версии ПРОФ и КОРП.

35000 31500 руб.

15.12.2021    23985    169    51    

127

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист Платформа 1С v8.3 Оперативный учет 1С:Управление торговлей 10 Россия Управленческий учет Платные (руб)

Перенос данных из 1С:Управление торговлей 10.3 в 1С:Управление торговлей 11.5 с помощью правил обмена. Переносятся остатки, документы (обороты за период), справочная информация. Правила проверены на конфигурациях УТ 10.3 (10.3.88.x) и УТ 11.5 (11.5.19.x).

35000 31500 руб.

23.07.2020    51189    228    69    

185

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Программист Платформа 1С v8.3 1С:ERP Управление предприятием 2 1С:Комплексная автоматизация 2.х 1С:Зарплата и Управление Персоналом 3.x Россия Бухгалтерский учет Управленческий учет Платные (руб)

Перенос данных из ERP в ЗУП 3 | из КА 2 в ЗУП | Готовые правила конвертации данных (КД 2) для переноса остатков, документов с движениями и справочной информации 3 | Есть перенос начальной задолженности по зарплате и начальной штатной расстановки на выбранную дату | Обороты за прошлые годы (данные для расчета среднего) переносятся свернуто в документ "Перенос данных" | Есть фильтр по организациям | Документы за текущий период переносятся сразу с движениями, поэтому не потребуется делать перерасчеты | Перенос можно проверить перед покупкой, обращайтесь!

53111 47800 руб.

03.12.2020    36568    94    66    

89

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист Платформа 1С v8.3 1С:Комплексная автоматизация 1.х 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Платные (руб)

Перенос данных из 1С:Управление производственным предприятием 1.3 в 1С:Бухгалтерия предприятия 3.0 с помощью правил обмена | Можно выполнить переход с УПП на БП 3 или запускать выгрузку данных за выбранный период времени | Переносятся документы, начальные остатки и вся справочная информация | Есть фильтр по организации и множество других параметров выгрузки | Поддерживается несколько сценариев работы: как первичный полный перенос, так и перенос только новых документов | Перенос данных возможен в "1С: Бухгалтерия 3.0" версии ПРОФ, КОРП или базовую | Переход с "1С: УПП1.3" / "1С:КА 1.1" на "1С:БП3.0" с помощью правил конвертации будет максимально комфортным! | Можно бесплатно проверить перенос на вашем сервере!

48278 43450 руб.

25.02.2015    171155    303    257    

378

SALE! 15%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист Платформа 1С v8.3 Платформа 1C v8.2 1С:Комплексная автоматизация 1.х 1С:Управление торговлей 10 1С:Управление производственным предприятием Россия Платные (руб)

Регулярный обмен, выгрузка, перенос из КА 1.1, УПП 1.3, УТ 10.3 для обмена с любыми конфигурациями, поддерживающими обмен в формате EnterpriseData (КД3) - БП 3.0, ERP, КА 2, УТ 11, Розница 2, УНФ 1.6 и другими. Правила для старых и доработанных конфигураций не требуют синхронного обновления и совместимы с новыми и будущими конфигурациями. Обмен по расписанию, через папку, FTP, почту.

15300 13005 руб.

18.02.2016    186855    589    509    

526

Перенос данных 1C Программист Бухгалтер Платформа 1С v8.3 Сложные периодические расчеты 1С:Зарплата и Управление Персоналом 3.x Россия Бухгалтерский учет НДФЛ ФОМС, ЕФС Платные (руб)

Обработки для быстрого перехода с конфигураций «КАМИН:Расчет заработной платы 3.0», «КАМИН:Зарплата для бизнеса 4.0» и «КАМИН:Зарплата 5.0» на конфигурацию «Зарплата и управление персоналом» версии 3.1.

12000 руб.

25.09.2016    80633    312    250    

264
Оставьте свое сообщение