Анализ и редактирование файлов выгрузки EnterpriseData (синхронизация данных через универсальный формат)

19.07.22

Интеграция - Файловый обмен (TXT, XML, DBF), FTP

Почти все разработчики и консультанты сталкивались с задачами, связанных с обменом между базами через EnterpriseData (конвертация данных 3, обмен через универсальный формат и т.д.). Типовой механизм похож на черный ящик: что-то там долго-долго выгружает и выдает на выходе xml-файл циклопических размеров. А что в этом файле? Почему он такой большой? Что и сколько выгрузилось? Какие объекты занимают больше всего места? А можно ли вырезать ненужное? А можно ли разбить файл на части? А можно... А можно... На эти и многие другие вопросы ответит эта обработка!

Файлы

ВНИМАНИЕ: Файлы из Базы знаний - это исходный код разработки. Это примеры решения задач, шаблоны, заготовки, "строительные материалы" для учетной системы. Файлы ориентированы на специалистов 1С, которые могут разобраться в коде и оптимизировать программу для запуска в базе данных. Гарантии работоспособности нет. Возврата нет. Технической поддержки нет.

Наименование Скачано Купить файл
Анализ и редактирование файлов выгрузки EnterpriseData
.epf 24,54Kb ver:1.0.1
29 2 500 руб. Купить

Подписка PRO — скачивайте любые файлы со скидкой до 85% из Базы знаний

Оформите подписку на компанию для решения рабочих задач

Оформить подписку и скачать решение со скидкой

Вы можете заказать платную доработку или адаптацию этой разработки под вашу конфигурацию на «Бирже заказов».

  • 0% комиссии — оплата напрямую исполнителю;
  • Исполнители любого масштаба — от отдельных специалистов до команд под проект;
  • Прямой обмен контактами между заказчиком и исполнителем;
  • Безопасная сделка — при необходимости;
  • Рейтинги, кейсы и прозрачная система откликов.

Итак, фичи:

 

  • Чтение заголовка файла обмена с возможностью редактирования номеров сообщений, кодов узлов и т.п. Это можно и блокнотом сделать, конечно. Если он у вас откроет xml-файл на, скажем, 1.5 Гб.
  • Статистический анализ содержимого: типы объектов, их количество, размер занимаемый в файле с возможной детализацией до объекта, количество и состав дублей вы файле выгрузки.
  • Возможность пересохранить файл с набором опций: с измененной шапкой, изменить состав объектов в результирующем файле с точностью до каждого из них, возможность не выгружать дублирующую информацию.
  • Возможность разделить файл на примерно равные части по объему.

 

Тестирование: Проверял в работе на платформах 8.3.18, .20, .21. Должно работать и в более ранних версиях.
Требования: наличие БСП.
Ограничения: не умеет работать с расширениями формата обмена (Можно сделать, но не было примера для тестов).

 

Инструкция по использованию

 

Выбор файла и структура его шапки

На первом скрине представлена начальная страница обработки. В самом верху необходимо выбрать файл. Поддерживаются как xml, так и zip-архивы. После выбора файла нажимаем "Анализ" и ждем результатов. Работает достаточно быстро.

После анализа файла будет заполнены все поля на форме. Информация о плане обмена, кодах узлов и номерах сообщений будет доступна только если выбран файл выгрузки через план обмена. Поле "Узел корреспондента" будет заполнено только если обработка открыта в одной из баз, участвующих в обмене.

Все поля доступны для редактирования. При сохранении файла (последняя вкладка) в результирующий файл будет записана шапка с корректировками.

 

Анализ состава файла

На странице "Объекты в файле" есть две вкладки "Сводная информация" и "Подробно". Скрины 2 и 3. 

В сводной информации выводится две таблицы:

1. Перечень объектов в файле выгрузки. Группировка "Это удаление" тут и далее представляет собой признак, что передается информация об удалении объекта. Для каждого типа выводится количество объектов этого типа, общий размер в файле и средний размер одного объекта.

2. Объекты, выгруженные неоднократно. Тут стоит заметить, что уникальность объекта в файле выгрузки я определяю по тегу "Ключевые поля" в разрезе типов объектов и признака "это удаление". Типовая синхронизация грешит тем, что не ведет уникальность объектов, которые она получает на выгрузку не по ссылке, а в виде структуры. В моем примере - это 6+ тысяч раз выгружена структура, которая представляет собой один договор. В этой таблице будут собраны все дубли в выгрузке с указанием их количества и размера в файле.

На вкладке "Подробно" представлена таблица со всеми объектам из файла. Для каждого из них выведены:

  • тип объекта 
  • размер в файле 
  • полностью тег "ключевые поля" 
  • если есть УИД объекта, то он выведен. При этом из поля с УИДом можно открыть сам объект. (внимание! если в базе нет объекта метаданных с именем, как в поле "имя типа", то открываться объект будет достаточно долго!)
  • для справочников и документов выводятся код или номер соответственно 
  • для справочников выводится наименование, если оно было в ключевых полях
  • для документов выводится дата документа
  • колонка с признаком "это удаление"

 

Вкладка "Генерация новых файлов выгрузки"

На вкладке следует указать новое имя файла, в который будет произведена запись. Конечный файл не может быть исходным. Т.е. нельзя перезаписать тот же самый файл.

Если поставить галочку "Разделить выгрузку на части", то будет предложено указать размер каждой части в килобайтах. При сохранении обработка будет накапливать размер выгруженных объектов и при достижении лимита создаст новый файл. В этом режиме к имени файла будет добавляться суффикс с индексом. Так же стоит отметить, что в этом режиме (только в этом) не будет сохраняться информация об обмене через план обмена и типовая синхронизация этих "кусков" не увидит. Для загрузки полученных файлов нужно будет воспользоваться обработкой "Выгрузка EnterpriseData", которая идет вместе с БСП. Ссылка на нее есть на форме обработки.

Если поставить галочку "Не выгружать дубли", то при формировании файла выгрузки обработка проследит, чтобы в него не попали дубли по ключевым полям.

Ниже расположено дерево значений, где можно галочками отметить, какие объекты будут выгружены. Снимать галочки можно с узлов. Колонка "Размер в файле" динамически пересчитывается и даст вам представление о том, какого размера получится файл. Галочки можно устанавливать с точностью до объекта. Для каждого объекта выведена информация по аналогии с таблицей "Подробно" анализа содержимого файла. В поле УИД так же есть кнопка открытия объекта базы с этим УИДом.

После выполнения всех настроек выгрузки следует нажать "Сохранить файл".

 

Пара замечаний

1. Размер в файле. Это не точный размер. Это "оптимистичная оценка". Результат будет скорее всего немного больше.

2. При загрузке файла, разделенного на части, не имеет значения в каком порядке грузить данные. На практике я не увидел недостатков.

3. Как следствие п.2 - есть интересный вариант: последовательно отмечать к выгрузке объекты разных типов, а потом грузить данные параллельно из нескольких клиентов. Фантастический буст по скорости загрузки.

4. Допустим, в одной базе была заведена новая номенклатура и введен документ ее приобретения. Был сформирован файл выгрузки в бухгалтерию. Моей обработкой этот файл поделили на части так, что данные о новой номенклатуре оказались в одном файле, а данные о приобретении с этой номенклатурой - в другом. Эти два файла грузят в базу вручную. Причем первым грузят тот, где есть документ, но нет справочника. Что будет? Ошибка? Я специально моделировал такую ситуацию для проверки. В этом случае обработка загрузки загрузит документ и для его заполнения создаст новый элемент номенклатуры по ключевым полям. Т.е. никаких "объект не найден" не случится. Если следом загрузить второй файл с номенклатурой, то ее карточка будет дозаполнена корректно.

5. Желательно хорошо представлять, как работают типовые механизмы обмена, если вы собираетесь редактировать шапку файла обмена. Можно легко сбить номера принятых/полученных на узлах. Но это не смертельно, они выправляются легко. Главное, чтобы вы понимали, как это работает и зачем нужно.

Вступайте в нашу телеграмм-группу Инфостарт

Обработка Универсальный формат EnterpriseData анализ файл выгрузки синхронизация данных

См. также

Перенос данных 1C Программист 1С:Предприятие 8 1С:Управление производственным предприятием 1С:ERP Управление предприятием 2 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х Россия Платные (руб)

Перенос документов, начальных остатков и справочной информации из УПП 1.3 в ERP 2 | из УПП 1.3 в УТ 11 | из УПП в КА 2 | Правила конвертации (КД 2) | Более 360 предприятий выполнили переход с использованием этого продукта! | Сэкономьте время - используйте готовое решение для перехода! | Позволяет перенести из УПП 1.3 в ERP / УТ 11 / КА 2 всю возможную информацию | В переносе есть фильтр по организации и множество других опциональных параметров выгрузки | Есть несколько алгоритмов выгрузки остатков на выбор

58000 руб.

04.08.2015    188023    451    305    

456

SALE! 15%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист 1С:Предприятие 8 1С:Розница 2 1С:Управление нашей фирмой 1.6 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х 1С:Управление нашей фирмой 3.0 1С:Розница 3.0 Россия Платные (руб)

Правила в универсальном формате обмена для ERP 2.5, КА 2.5, УТ 11.5, БП 3.0, Розница, УНФ, для последних версий конфигураций. Ссылки на другие конфигурации в описании публикации. Правила совместимы со всеми другими версиями конфигураций новыми и старыми, поддерживающими обмен и синхронизацию в формате EnterpriseData. Не требуется синхронного обновления правил после обновления другой конфигурации, участвующей в обмене. Типовой обмен через планы обмена кнопкой Синхронизация вручную или автоматически по расписанию, или вручную обработкой.

27633 руб.

12.06.2017    161095    970    321    

482

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Платные (руб)

Перенос данных из 1С:Управление производственным предприятием 1.3 в 1С:Бухгалтерия предприятия 3.0 с помощью правил обмена | Можно выполнить переход с УПП на БП 3 или запускать выгрузку данных за выбранный период времени | Переносятся документы, начальные остатки и вся справочная информация | Есть фильтр по организации и множество других параметров выгрузки | Поддерживается несколько сценариев работы: как первичный полный перенос, так и перенос только новых документов | Перенос данных возможен в "1С: Бухгалтерия 3.0" версии ПРОФ, КОРП или базовую | Переход с "1С: УПП1.3" / "1С:КА 1.1" на "1С:БП3.0" с помощью правил конвертации будет максимально комфортным! | Можно бесплатно проверить перенос на вашем сервере!

50050 руб.

25.02.2015    188493    360    290    

419

SALE! 10%

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист 1С:Предприятие 8 1С:Управление производственным предприятием 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Управленческий учет Платные (руб)

Переносите справочную информацию, остатки и документы из УПП 1.3 в Бухгалтерию 3.0 с помощью готовых правил. Переносится более 50 видов документов. Простой интерфейс и понятные настройки.

42000 37800 руб.

15.12.2021    34369    259    64    

195

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Системный администратор Программист Бухгалтер 1С:Предприятие 8 1С:Бухгалтерия 2.0 1С:Бухгалтерия 3.0 Россия Бухгалтерский учет Налоговый учет Платные (руб)

Перенос данных из БП 2 в БП 3 готовые правила конвертации данных (КД 2), сэкономьте свое время! | Выполнить переход с БП 2 на БП 3 в ситуациях, когда простым обновлением перейти не получается | Переносится вся справочная информация, документы за выбранный период, а также начальные остатки на выбранную дату (то есть можно еще и свертку базы сделать при переносе) | Есть фильтр по организациям при выгрузке данных | Перенос можно проверить перед покупкой прямо на вашем сервере! Обращайтесь за проверкой!

50600 руб.

21.05.2019    58346    81    132    

73

Перенос данных 1C Файловый обмен (TXT, XML, DBF), FTP Программист 1С:Предприятие 8 1С:Комплексная автоматизация 1.х 1С:Управление производственным предприятием 1С:Зарплата и Управление Персоналом 3.x Россия Бухгалтерский учет Платные (руб)

Правила переноса кадровых и расчетных данных и справочной информации из "1С:УПП1.3" или "1С:КА 1.1" в "1С:ЗУП 3.1 | Разработан в формате КД 2 (правила конвертации данных) | При выгрузке есть фильтр по организациям | Обновляется при выходе новых релизов 1С | Развитие алгоритмов | Расчетные документы переносятся в документ "Перенос данных" | Создаются документы "Начальная штатная расстановка" и "Начальная задолженность по зарплате", переносятся кадровые документы

58000 руб.

29.10.2018    62963    82    133    

81

Внешние источники данных Кадровый учет Файловый обмен (TXT, XML, DBF), FTP Перенос данных 1C Программист 1С:Предприятие 8 1С:Зарплата и кадры государственного учреждения 3 Государственные, бюджетные структуры Россия Бухгалтерский учет Бюджетный учет Платные (руб)

Обработка позволяет перенести кадровую информацию и данные по заработной плате, фактическим удержаниям, НДФЛ, вычетам, страховым взносам из базы Парус 10 учреждений (далее Парус) в конфигурацию 1С:Зарплата и кадры государственного учреждения ред. 3 (далее 1С) и начать с ней работать с любого месяца года.

85400 руб.

05.10.2022    13547    15    8    

16
Для отправки сообщения требуется регистрация/авторизация