Очистка периодических регистров посредством T-SQL (удаление записей, кроме среза последних)

03.07.18

База данных - Чистка данных

Обработка для ленивых. Составит вместо Вас запрос для SQL, который удалит все не актуальные записи (т.е все, кроме среза последних)

Скачать файл

ВНИМАНИЕ: Файлы из Базы знаний - это исходный код разработки. Это примеры решения задач, шаблоны, заготовки, "строительные материалы" для учетной системы. Файлы ориентированы на специалистов 1С, которые могут разобраться в коде и оптимизировать программу для запуска в базе данных. Гарантии работоспособности нет. Возврата нет. Технической поддержки нет.

Наименование По подписке [?] Купить один файл
Очистка периодических регистров
.epf 10,17Kb
28
28 Скачать (5 SM) Купить за 3 050 руб.

Не впервой надо было "чистить" базы данных разных клиентов от избыточных и не нужных данных. Апогеем разгребания шлаков, лично для меня, стала база в несколько сотен ГБ. Соответственно работать с такими массивами с помощью приложения 1с, в принципе невозможно. 

Чаще всего "захламляются" незакрытые регистры остатков с индексами, и вторая по популярности проблема - это цены... А точнее нагромождение давно не используемых цен. О чем мы и будем говорить далее.

В первую очередь скажу – работа с базой данных вне интерфейса 1с не рекомендуется, даже запрещается. Так что, если что-то поломаем, пока чиним - в поддержке 1с нам не помогут.

Далее по самой обработке пару слов. Тестировал на 8.3.6.

В список выбора попадают только периодические регистры (с регистратором или без).

При выборе регистра - отображаются поля, и их роль в запросе. По умолчанию группировка идет по измерениям, поле максимума - период. И походу строятся запросы для SQL

  • общее к-во строк
  • количество к удалению
  • количество строк среза
  • запрос на кастрацию нашей базы.
  • запрос кастрации по 10000 строк в одной итерации
  • 4 последовательных запроса для манипуляций с переносом среза

Добавил эти запросы для наглядного понимания уровня хлама, и рациональность использования данного способа (удаление 3-х строк и перестроение индексов ради них - такое себе занятие)

Допустим всего записей 50кк, второй запрос говорит, что обработка удалит 48кк... Т.е. в базе всего 2 миллиона строк актуальных данных... Однозначно мусор в утиль!!!

После данной операции настоятельно рекомендую переформировать индексы изменяемых таблиц. Можно вручную (быстрее), либо запустить пересчет индексов всей базы через "Тестирование и исправление" в конфигураторе.

UPDATE. 03.07.2018. Добавил второй вариант очистки по принципу копирования среза в темп. таблицу. Важно. Перед копированием убедитесь о наличии свободного дискового пространства для копирования таблицы и журнала. Данный подход более эффективен, если количество строк среза составляет менее 40% всей таблицы. Иначе использование не оправдывает риски (truncate, в случае проблем с временной таблицей, мы не сможем отменить)

ВАЖНО. Обработку соединения с базой через АДО не делал намеренно. Зачастую данные операции относительно долгосрочные. Лучше их выполнять без «посредника». Не будет проблем с таймаутом или секундной задержке ответа от сервера, которые приведут к ошибке АДО-соединения и откате изменений. Так что Ctrl+C -> Ctrl+V, товарищи.

очистка регистр сведений цены удалить срез последних

См. также

Инструментарий разработчика Чистка данных Свертка базы Инструменты администратора БД Системный администратор Программист Руководитель проекта Платформа 1С v8.3 1С:ERP Управление предприятием 2 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х 1С:Управление нашей фирмой 3.0 Россия Платные (руб)

Инструмент представляет собой обработку для проведения свёртки или обрезки баз данных. Работает на ЛЮБЫХ конфигурациях (УТ, БП, ERP, УНФ, КА и т.д.). Поддерживаются серверные и файловые базы, управляемые и обычные формы. Может выполнять свертку одновременно в несколько потоков. А так же автоматически, без непосредственного участия пользователя. Решение в Реестре отечественного ПО

8400 руб.

20.08.2024    25906    170    88    

166

Чистка данных Системный администратор Программист Платформа 1С v8.3 Управляемые формы 1C:Бухгалтерия 1С:Управление торговлей 10 1С:Управление торговлей 11 Платные (руб)

Данные обработки помогут Вам легко и, главное быстро, выполнить удаление любых данных в Ваших базах 1С на платформах 8.1-8.3. Обработки помогут легко просмотреть связи ссылок в виде дерева, выбрать что удалять, а что нет, используя любые отборы. Это позволит уменьшить объем лишней и не нужной информации в справочниках и документах, планах видов характеристик и др. объектах и облегчит работу с данными пользователям и Вам. Понятное расположение команд и настроек, в сочетании с описанием и справкой, еще упростят процесс. (Обновление от 29.06.2023, версия 4.2)

9600 руб.

22.02.2013    140217    271    146    

442

Чистка данных Системный администратор Программист Платформа 1С v8.3 Управляемые формы 1C:Бухгалтерия 1С:ERP Управление предприятием 2 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Розница 3.0 Платные (руб)

Позволяет удалить организации из любых из информационных баз 1С на управляемых формах (БП 3.0, УТ 11, КА 2, ERP 2, ЗУП 3.0, УНФ, Розница 2.0 и пр.). Главное требование - программа должна содержать справочник "Организации". Реализован самый быстрый алгоритм непосредственного удаления объектов. Работает даже на базах большого размера. Для ускорения работы алгоритма не запускается проверка контроля ссылочной целостности. Проверку учета можно запустить отдельно с помощью дополнительной обработки. Необходимо перед удалением самостоятельно проверить базу на наличие перекрестных ссылок разных организаций в одном документе. Эту дополнительную обработку проверки перекрестных ссылок по запросу предоставляем бесплатно нашим покупателям.

3582 руб.

16.03.2015    216326    224    82    

259

Чистка данных Программист Пользователь Платформа 1С v8.3 Управляемые формы 1С:Розница 2 1С:Управление нашей фирмой 1.6 1С:ERP Управление предприятием 2 1С:Зарплата и кадры государственного учреждения 3 1С:Бухгалтерия 3.0 1С:Управление торговлей 11 1С:Комплексная автоматизация 2.х 1С:Зарплата и Управление Персоналом 3.x Платные (руб)

Обработка позволяет удобно и выборочно удалить данные из базы 1С на управляемых формах например БП 3.0, УТ 11, КА 2, ERP, УНФ, ЗУП 3, Розница и др. Это могут быть как неиспользуемые элементы справочников, так и неактуальные организации. При этом есть возможность провести анализ пересечений документов с другими организациями и таким образом уберечься от того, что при удалении обороты по другой организации изменятся.

3350 руб.

28.11.2019    27096    71    18    

85

Оптовая торговля Логистика, склад и ТМЦ Чистка данных Программист Бухгалтер Пользователь Платформа 1С v8.3 Оперативный учет 1С:Управление торговлей 11 Россия Управленческий учет Платные (руб)

Если вы начали работать в программном продукте Управление Торговлей, редакция 11 или Комплексная Автоматизация редакция 2 и включили механизм учёта серий, то перейти обратно в учёт без серий будет не так-то просто. Сложность заключается в том, что нужно очистить серии в табличной части документа, например, Реализация Товаров и услуг. Предлагаем алгоритм перехода на учет без серий для программного продукта УТ11. (Очистка серий.)

2400 руб.

09.04.2019    29721    47    15    

48

Чистка данных Системный администратор Программист Бухгалтер Пользователь Управляемые формы 1C:Бухгалтерия Россия Платные (руб)

Решение по удалению дублей позволяет определить связанные элементы в двух синхронизированных базах в качестве оригиналов и избежать необходимости ручного сравнения объектов в базах перед синхронизацией.

3960 руб.

27.06.2018    19560    12    3    

17

Чистка данных Системный администратор Программист Платформа 1С v8.3 Управляемые формы 1С:Бухгалтерия 3.0 1С:Управление производственным предприятием 1С:ERP Управление предприятием 2 1С:Управление холдингом 1С:Зарплата и кадры государственного учреждения 3 1С:Зарплата и Управление Персоналом 3.x 1С:Комплексная автоматизация 2.х 1С:Управление нашей фирмой 3.0 1С:Управление торговлей 11 1С:Розница 2 Абонемент ($m)

Универсальный инструмент для очистки базы. Работает как на конфигурациях на основе БСП, так и самописных. Позволяет выбрать данные, отобразить форму списка, увидеть структуру метаданных, очистить базу применяя при необходимости условия. Удаление производится по выбранным элементам в таблице значений. Наложение условий позволяет удалить документы по выбранной организации.

1 стартмани

25.12.2023    9531    213    WeterSoft    5    

15

Чистка данных Инструментарий разработчика Системный администратор Программист Платформа 1С v8.3 Абонемент ($m)

Очередная вариативная очистка кэша 1С с помощью Исполнителя 3.0.2.2.

1 стартмани

25.10.2023    5978    6    SerVer1C    27    

25
Отзывы
6. Alexander.Shvets 223 28.06.18 00:37 Сейчас в теме
upd. Обновил обработку. Исправил ошибку генерации ссылочных полей и названия таблиц. Кто скачивал обработку и не можете повторно скачать - пишите в личку, скину исправленный вариант.
7. Alexander.Shvets 223 03.07.18 03:03 Сейчас в теме
upd. Обновил обработку. Таки добавил вариант с переносом среза во временную таблицу и truncate источника.
Остальные комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. tormozit 7276 24.06.18 07:37 Сейчас в теме
Безопаснее сохранять срез/остатки в файл, делать TRUNCATE TABLE для основой таблицы и таблиц итогов и далее загружать и записывать набор записей в регистр из файла.
2. Alexander.Shvets 223 26.06.18 13:09 Сейчас в теме
(1)
сохранять срез/остатки в файл


Если срез до 10КК строк, возможно соглашусь, но если база несколько ТБ?
Думаю клиент не всегда будет рад оплачивать 24+ часов работы за то, что можно сделать за 1.

Миграция данных или конвертация из реляционного вида в любой промежуточный и обратно - гиблое дело по своей сути. Особенно используя текст. Вы же в курсе, что 1с и большие текстовые файлы - тот еще изврат?

"СтрНайти" в 1,5 гиг csv против того же RegExp никак не выйдет победителем.
Лично мне проще потратить 0,3 часа на очистку тб.
Само собой, наличие бекапа необходимо.

А xml без внешней компоненты, с возможностью работать по нодам - тот же гемор.

Проблемы возникали только в случаях, если в таблицах еще до моего вмешательства были логические траблы. А так - ни одного нарекания.
3. Alexander.Shvets 223 26.06.18 13:11 Сейчас в теме
(1)
таблиц итогов


У сведений нет табл итогов. Только индексы по Атрибутам и датам первого и последнего события в разрезе ключа. (срез первых/последних)
4. tormozit 7276 26.06.18 13:24 Сейчас в теме
(3)
У сведений нет табл итогов
Есть же
Прикрепленные файлы:
5. Alexander.Shvets 223 26.06.18 13:36 Сейчас в теме
(4) Я не знаю почему доблестные разработчики платформы называют это таблицами итогов, но в sql они выглядят так (индексы)

А вот у регистров накопления присутствует вирт. таблица (накопительная)

Индекс - имеет связь с непосредственной строкой табл. Итог же - накопительный и является отдельной сущностью.

Как раз в силу этого публикация не относится к регистрами накоплений. Для них же
использую похожий метод. Сохраняю только не закрытые обороты в отдельную таблицу в том же пространстве sql. Truncate источник, и обратно переносим не закрытые обороты. Таблица итогов в этом случае будет девственно не тронутой. Но я все же вызываю sql скрипт (написанный ребятами из 1с) для перестроения таблицы итогов.

Но об этом возможно в следующей публикации. =)
Прикрепленные файлы:
6. Alexander.Shvets 223 28.06.18 00:37 Сейчас в теме
upd. Обновил обработку. Исправил ошибку генерации ссылочных полей и названия таблиц. Кто скачивал обработку и не можете повторно скачать - пишите в личку, скину исправленный вариант.
7. Alexander.Shvets 223 03.07.18 03:03 Сейчас в теме
upd. Обновил обработку. Таки добавил вариант с переносом среза во временную таблицу и truncate источника.
8. Const885 20.03.19 19:45 Сейчас в теме
В Управляемых формах работает?
9. Alexander.Shvets 223 08.05.19 11:50 Сейчас в теме
(8) Работает, а вот обычные формы не рисовал.
10. marat.coolls 23.04.24 12:03 Сейчас в теме
Скопировал запрос, вставил в запрос к базе данных, нажал "Выполнить".
Ошибка.
Неправильный синтаксис около ключевого слова "From".
Оставьте свое сообщение