В процессе работы информационной базы ее размер неминуемо увеличивается. В крупных компаниям он может достигать от 5 Гигабайт в год и более. Такой стремительный рост может сказываться как на быстродействии программы, так и на сохранности данных. Чем больше размер информационной базы, тем более вероятны сбои, влекущие за собой потерю данных.
Как очистить информационную базу 1С, сохранив всю необходимую информацию?
В этом вопросе поможет “свертка информационной базы 1С” – процесс обработки документов и регистров конфигурации, позволяющий удалить старые, ненужные документы. Вместо них формируется несколько документов ввода остатков на заданный период. Таким образом мы “обрезаем” ведение учета до заданного периода.
Основными целями свертки являются:
-
Увеличение скорости работы системы
-
Уменьшение размера информационной базы
О свертке стоит задуматься, если:
-
“тормозит” 1С
-
Большой размер базы 1С (от 5 Гигабайт и более)
-
Долго выполняется обновление 1С
-
“Мозолят” глаза документы прошлых лет
В рамках проекта передо мной встала задача: Как свернуть базу 1С при переходе с 1С:ERP 2.0 на 1C:ERP 2.1?
На момент необходимости свертки фирма 1С разработала штатные механизмы только для 1С:УТ 11 и 1С:БП 3.0, а также для более старых версий.
Для разработки свертки я взял за основу механизм из 1С:УТ 11. Релиз 1С:УТ 11 брал приблизительно того же времени выпуска, что и 1С: ERP 2.0.
Этапы свертки базы 1С
Свертка информационной базы осуществляется в три этапа:
-
ввод остатков
-
удаление данных прошлых периодов (удаление движений и пометка на удаление документов)
- сверка остатков с рабочей базой
Ввод остатков
Для ввода остатков в любой конфигурации предусмотрены специальные документы.
Конфигурация 1С:ERP является симбиозом нескольких подсистем. Для каждой подсистемы используются свои документы ввода начальных остатков.
Для части документов ввода остатков в 1С:УТ 11 предусмотрены процедуры автоматического заполнения остатками по регистрам.
Например, “товары на складах”, “взаиморасчеты с клиентами/поставщиками”, “заказы клиента/поставщику”, “возвратная тара”, “денежные средств”)
Для других документов необходимо разрабатывать свои процедуры.
Например, “расчеты с сотрудниками”, частично по регистрам бухгалтерии, кадровому учету, Внеоборотные активы.
Перед переносом остатков нужно провести анализ: какие данные исходной базы подлежат переносу. Для того, чтобы ничего не упустить при разработке, я определил, по каким регистрам накопления, бухгалтерии и сведений есть остатки (данные) в базе-источнике на дату ввода - разработал отчет по остаткам и движениям по всем регистрам накопления, сведений, бухгалтерии.
- Заполнение документов «Ввод начальных остатков»
По каждому виду операции ввода остатков я провел анализ на существование механизма ввода остатков в обработке из 1С:УТ 11, определил, какие регистры двигают данный вид операции. Для несуществующих механизмов ввода остатков разработал собственные.
- Заполнение документов “Корректировка регистров”, “Перенос данных” и “Операция(регламентированный учет)”
После разработки ввода остатков стандартными документами выяснилось, что для некоторых подсистем, механизмов, регистров нет соответствующих документов ввода остатков.
Например, остатков на производственных регистрах, “прочие активы и пассивы”, “заказы на перемещение”, “распоряжения на выпуск”, “расчеты с фондами по страховым взносам”.
Можно доработать конфигурацию для ввода остатков по таким регистрам (механизмам) или разработать заполнение остатков с помощью документов:
-
“Перенос данных” - подходит для регистров подсистем расчета зарплаты и управления кадрами
-
“Операция(регламентированный учет)” - подходит для остатков на регистрах бухгалтерии по тем данным, которые не отразились документами “Ввода остатков”
- “Корректировка регистров” - подходит для остальных подсистем.
- Сложные схемы ввода остатков
Для некоторых механизмов 1С:ERP нельзя ограничиться внесением остатков на дату свертки. Это обусловлено тем, что для определенных механизмов ключевые данные хранятся не только в регистрах, но и в самих документах. В основном это документы, на которые ссылаются данные регистров. В стандартной обработке ввода остатков такой механизм разработан для учета заказов покупателя. Суть его заключается в следующем:
1. Берутся остатки по незакрытым остаткам заказов
2. Документы из остатков помечаются специальным комментарием
3. Для частично не закрытых заказов табличная часть перезаполняется только данными остатков на дату свертки
В таком случае у нас не вводятся документы ввода остатков по регистрам механизма заказов, а документы заказа, по которым есть остатки, помечаются специальным комментарием. Такие документы при последующих этапах свертки не удаляются.
Такой же механизм я применил для кадровых документов. Документы сотрудников, работающих на дату свертки, пометил специальным комментарием, остальные документы были удалены на последующих этапах свертки.
Удаление данных прошлых периодов
Удаление данных производится в два этапа:
-
удаление движений документов
-
пометка документов на удаление
При удалении движений по каждому регистру:
1. Выбираются все документы, которые:
-
“двигали” регистр до даты свертки
-
не содержат специальные комментарии, оставленные на предыдущем этапе
2. Отключается использование итогов
3. Для каждого документа удаляются движения
Для каждого вида документов формируется список документов, не содержащих специальный комментарий. На них ставится пометка на удаление.
Сверка правильности ввода остатков с рабочей базой
Сначала проверяются остатки в целом по каждому регистру, по всем ресурсам (без детализации по измерениям). Если итоговая сумма каждого ресурса совпадает, то проверяем следующий регистр. Если есть разница, то анализируем более детальные остатки в разрезе измерений. Начинать необходимо с измерений, имеющих наименьшее количество разных значений.
Например, для большинства регистров первым анализируется измерение Организации. Выявляется, по каким организациям есть расхождения. Далее для каждой организации анализируются более детальные данные.
Если такие сложные системы как 1С:ERP, 1С:УПП, 1С:Комплексная автоматизация, 1С:Управление холдингом используются в большей степени для решения бухгалтерского учета, то возможно неполное или частично неправильное использование некоторого функционала программы. Это происходит из-за того, что сотрудники бухгалтерской службы производят контроль по регистрам бухгалтерии, выполняя ручные корректировки документами Операция(регламентированный учет) и не контролируют данные в соответствующих регистрах накопления.
В 1С:ERP основой для операций бухгалтерского учета являются регистры накопления. Операции формирования документов ввода остатков выполняются на основании данных регистров накопления.
В этой ситуации остатки, введенные сверткой базы по данным регистров накопления, по регистрам бухгалтерии будут различаться между новой и рабочей базой.
Существует два варианта решения проблемы:
1. В рабочей базе привести остатки по регистрам накопления в порядок
2. Переписать процедуры ввода остатков с данных регистров накопления на данные регистров бухгалтерии (если данные в регистрах бухгалтерии покрывают данные в регистрах накопления). Я использовал второй способ.
Организация процесса свертки данных
Для орагнизации свертки информационной базы обычно создается отдельная ее копия и в ней запускается обработка, которая выполняет операции, описанные выше. Копия базы делается для того чтобы сохранить в отдельной базе старые данные, а в новой свернутой базе продолжить работу.
Все было бы просто, если бы не большое время выполнения обработки – от нескольких часов до нескольких недель.
Длительность процесса свертки зависит от:
-
конфигурации базы
-
используемых подсистем
-
объема внесенных данных до даты свертки
Из-за длительности процесса возникают две существенные проблемы:
1. Двойная нагрузка на пользователей. Пока не будет готова новая свернутая база, необходимо продолжать учет: выписывать документы, расчитывать и фиксировать измененные данные, сдавать отчетность. После создания новой свернутой базы пользователям необходимо в новой базе внести всю информацию, которая вносилась в старую во время процесса свертки и параллельно вносить новые данные, т.е. выполнять текущую работу . Кроме того еще надо сверить в новой остатки и проверить работу системы после внесения остатков, т.к. могут быть скрытые ошибки свертки базы.
2. Сложность тестирования обработки свертки. На этапе разработки методологии свертки или написания кода обработки возрастает цена ошибки. Если, например, процесс свертки занимает 1 день, то процесс тестирования при 10 ошибках может занять 10 дней, если каждая ошибка выявлялась не сразу, а после каждого нового тестирования. А если свертка занимает не 1 день, а неделю? А если не 10 ошибок, а больше?...
Для решения этих проблем я использовал план обмена и обработку “Выгрузка и загрузка данных XML”.
В рабочей базе я добавил план обмена, фиксирующий все изменения после создания копии базы для свертки. После свертки измененные данные в рабочей базе переносил обработкой “Выгрузка и загрузка данных XML”. Таким образом пользователям не пришлось вносить данные в Новую базу, они были перенесены автоматически.
Выявление ошибок написания кода обычно происходит на этапе сверки остатков, т.е. после введения остатков и удаления данных прошлых периодов. Так как этап удаления довольно длительный, а правильность введения остатков в большинстве случаев не зависит от этапа удаления, то практичнее тестирование и доработку ввода остатков делать в отдельной третьей базе. Пока в Новой базе проходил процесс удаления данных прошлых периодов, я устранял выявленные ошибки в обработке свертки и дорабатывал новые процедуры свертки. После окончания удаления старых документов и движений у меня была готова Новая база, но с неправильными остатками. На отдельной копии рабочей базы я формировал документы остатков, изменения автоматически фиксировались в плане обмена, и обработкой “Выгрузка и загрузка данных XML” переносил измененные остатки в Новую рабочую базу. При выявлении новых ошибок – повторял эти операции. Данный метод значительно ускорил разработку и тестирование процедур ввода остатков.
Советы из личного опыта по свертке базы 1С:ERP
База клиента содержала 1,5 млн. документов в прошлом периоде.
Длительность операций составляла:
1 час – ввод остатков
6 суток – удаление движений
4 суток – установка пометок удаления
Так как процесс разработки довольно трудоемкий, а продолжительность выполнения этапов свертки велика, то на будущее я определил для себя следующую последовательность действий:
1. Добавление в рабочей базе плана обмена.
2. Создание копии базы – «новая свернутая база»
3. Запуск в свернутой базе процедуры удаления всех данных до даты свертки (самая длительная операция)
4. Анализ остатков и разработка операций ввода остатков
5. Формирование в отдельной копии процедуры ввода остатков (с регистрацией изменений в плане обмена)
6. Перенос данных ввода остатков из копии рабочей в «новую свернутую базу»
7. Проверка остатков, при необходимости повторение пунктов 5,6,7.
Сложно с первого, да и со второго раза написать идеальную обработку свертки базы для 1С:ERP, необходимо досконально знать изнутри каждый механизм, каждую подсистему, но с каждым разом будет получаться все лучше и лучше.
