Разноуровневое хранение присоединенных файлов (расширение конфигурации 1С Предприятие 8.3 подойдет для любых типовых конфигураций)

20 мая 2021 года в онлайн формате пройдет Форум пользователей 1С:Документооборота. Когда, как не сейчас, намекнуть разработчикам на возможные улучшения в конфигурациях (если по-честному, просто совпало). Всем известно, что хранить файлы на диске, не лучшая с точки зрения скорости, надежности и безопасности затея. Но если хранить файлы в базе 1С, то база увеличивается на порядок. Хотелось бы всего и сразу, но в типовых конфигурациях это не реализовано. Данная разработка исправляет это упущение. Интересующихся прошу под кат...

Арт.: 1429666

Image 10.png
Image 9.png
Image 8.png
Image 7.png
Image 6.png
Image 5.png
Image 4.png
Image 3.png
Image 2.png
Image 12.png
Image 11.png
1427781020_1446807679.gif
Без названия.png
Image 1.png
Image 10.png
Image 9.png
Image 8.png
Image 7.png
Image 6.png
Image 5.png
Image 4.png
Image 3.png
Image 2.png
Image 12.png
Image 11.png
1427781020_1446807679.gif
Без названия.png
Image 1.png

3600 руб.

1500 руб.

Эпиграф:

Всё, что есть прекрасного в этой жизни,
либо аморально, либо незаконно,
либо приводит к ожирению.

© Оскар Уайльд

Понятно, что впихнуть невпихуемое не получится. Но вполне возможно вынести присоединенные файлы из базы 1С не на файловые тома хранения, а в СУБД. Это снизит скорость доступа, но вернет  надежность и безопасность.
Примерно раз в год, на Инфостарте и/или на сайтах франчайзи появляются разработки, осуществляющие перенос файлов в СУБД.
Чего в них не хватает? Они (те которые я видел) переносят либо все, либо ничего. Хотя весь мир заодинэсья давно уже знает, что такое разноуровневое хранение.
Когда "горячие" данные (к которым идет постоянное обращение) остаются на быстром СХД, а "холодные" уходят на более медленное, зато более дешевое по накладным расходам хранения.
Данная разработка как раз и реализует подобный подход.
Запись присоединенных файлов всегда происходит типовыми механизмами в базу 1С, это обеспечивает скорость и надежность.
Далее, вручную или регламентным заданием по произвольному отбору эти данные могут быть в нерабочее время перемещены в ADODB совместимую СУБД и оттуда уже читаются может быть вообще никогда.

Для того, чтобы понять, какие файлы переносить, в расширении предусмотрено ведение статистики обращения к файлам.
С нее и рекомендуется начать работу.

Что получается в результате работы разработки:
Часть присоединенных файлов хранится в базе 1С, часть во внешнем хранилище. 
Все это происходит прозрачно для пользователя.

Безопасность и надежность внешнего хранения обеспечивается обезличенным хранением, вычислением хеш-функции как в момент переноса файла (в этот же момент происходит контрольное считывание файла и сверка CRC), так и средствами СУБД.

Кроме того реализованы возможности сверки CRC в любой момент по всему объему хранения и при считывании файла из СУБД по запросу 1С.

При этом полностью соблюдается лицензионное соглашение 1С о неизменности структуры хранения базы данных 1С.

Внимание!

В виде расширения под типовые конфигурации разработка в рабочих базах не проверялась, поэтому вы должны осознавать и принимать ответственность за свои данные.
В частности обязательно сделать/делать бекапы базы 1С и СУБД.

У вигляді розширення під типові конфігурації розробка в робочих базах не перевіряв, тому ви повинні усвідомлювати і приймати відповідальність за свої дані.
Зокрема обов'язково зробити / робити бекапи бази 1С і СУБД.
Tipik konfiqurasiyalar üçün bir əlavə olaraq, istehsal məlumat bazalarındakı inki#1;af təsdiqlənməmi#1;dir, buna görə məlumatlarınızın fərqində olmalı və məsuliyyət da#1;ımalısınız.
Xüsusilə, 1C verilənlər bazası və DBMS-nin ehtiyat nüsxələrini etmək / etmək vacibdir.
Tüüpiliste konfiguratsioonide laiendusena pole tootmisandmebaaside arengut kontrollitud, seega peaksite olema teadlik oma andmetest ja vastutama nende eest.
Eelkõige on hädavajalik teha / teha varukoopiaid 1C andmebaasist ja DBMS-ist.

На время тестирования сообществом цена будет снижена, а имеющие желание попробовать и имеющие от 500 плюсов в рейтинге по направлению администрирование могут получить разработку бесплатно.
Возможности разработки можно посмотреть на видео:

Что нужно знать и уметь делать самостоятельно для корректного использования обработки:

1. Уметь пользоваться и знать что такое ADO/ODBC.

2. Уметь пользоваться и иметь настроенную базу 1С (типовой или близкой к типовой конфигурации, список проверенных ниже по тексту), уметь подключать внешние обработки

3. Знать, что такое двоичные данные

4. Знать, что такое присоединенные файлы 1С

5. Уметь делать бэкапы и восстанавливаться из них

6. Обработка проверена на редакциях:
 для России:

  1. Документооборот 8 КОРП, редакция 2.1 (2.1.28.12)

работа на редакциях отличающихся вторым октетом (после первой точки) или выпущенных ранее 6 месяцев от указанных, не гарантируется и возврат денег по этой причине не производится 

Также возможна, но не обязательно реализуема автором, адаптация под любую имеющуюся у пользователя типовую или нетиповую конфигурацию. 

Требований к хранилищу СУБД нет,  главное чтобы оно поддерживало ADODB.
Полностью проверены:

  • Microsoft Access
  • Microsoft SQL

Установка и использование обработки:

  1. Обработка выполнена с использованием управляемых форм, соответственно, для конфигураций с обычным интерфейсом требует для работы включения в конфигурацию либо запуска в управляемом интерфейсе.
  2. Может использоваться платформа  8.3.12.х и старше

7. Код открыт и может быть доработан вами самостоятельно.

8. Принтскрины и видео могут быть для конфигурации не совпадающей с вашей, и могут отличаться по внешнему виду, но пункты меню и названия разделов для их открытия будут одинаковыми для всех типовых конфигураций.

9. Очень важная информация! Техподдержка сайта и разработчик это разные люди.

  • Техподдержка сайта в рабочее время ответит вам на вопросы связанные с приобретением обработки любым удобным для вас способом общения.
  • Разработчик ответит только в электронном виде. Срок ответа может достигать 24 часов в рабочие дни. Поэтому желательно, чтобы возникшая проблема была описана достаточно понятно. Это в ваших интересах.
  • Все дополнительные работы разработчиком производятся в нерабочее время.
  • Для предложений по улучшению и изменению функционала есть комментарии к этой публикации.
  • Так же разработчик никак не связан ни с 1С, ни с Microsoft , поэтому предусмотреть все возможные случаи использования обработки у него не получается. Спокойно опишите возникшую проблему и спокойно попробуем ее решить.

Внимание!

Если вы не поняли полностью или частично написанных выше строк, для внедрения обработки вам нужно обратиться к специалисту или подождать пока сама фирма 1С реализует нечто подобное в типовых конфигурациях.

Техподдержка по этим вопросам оказываться не будет. Спасибо за понимание.

Эти и другие вопросы можно задать в комментариях публикации или сообщении разработчику перед покупкой.

Обработка продолжает серию публикаций.
Ошибки и предупреждения журнала регистрации. Для любой типовой конфигурации 1С: Предприятие 8.3

Постановка задачи:

Необходима реализация в 1С разноуровневого хранения присоединенных файлов.

 

Решение:

Расширение конфигурации, внешняя обработка 1С, которые реализуют этот функционал. 
Внимание! 
Предполагается для начала аккуратное заполнение всех необходимых файлов в 1С.
Файлы нулевой длины не переносятся.

Порядок работы:

Внимание!  Все продаваемые за рубли мной на этом сайте обработки и расширения могут быть подключены людьми не владеющими навыками программирования 1С, но обязательно внимательно прочитавшими публикацию и посмотревшими видео. Это проверенный факт.
Не забываем про бэкап !

Подключаем расширение конфигурации и убираем флажок безопасного режима.

Подключаем обработку и отчет в 1С как внешние - рекомендуемый вариант действий.

После этого начнет собираться статистика использования файлов, ее можно увидеть отчетом.


По этой статистике можно построить запрос переноса файлов во внешнее хранилище.
Например все старше 1 года и не открывавшиеся в течении этого года.

Перенос файлов осуществляется внешней обработкой, ее можно для безопаасности не подключать в базу 1С.



Демо-настройки позволяют проверить основные моменты на файловых базах и 1 файле

Что в поставке публикации:

  • обработки 1С
  • скрипт создания БД Microsoft SQL
  • текстовый файл с настройками на всякий случай

Пример хранения файлов в СУБД

Пример информации о хранении файлов - регистр сведений 1С

Небольшая статистика

Документооборот 8 КОРП, редакция 2.1 (2.1.28.12) 476 файлов размером 25 Мб

  ПолучитьНавигационнуюСсылку ВоВременномХранилище Все файлы в 1С ПолучитьНавигационнуюСсылку ВоВременномХранилище  Все файлы в хранилище Длительность переноса файлов во внешнее хранилище Длительность возврата файлов в базу 1С
Microsoft Access Driver={Microsoft Access Driver (*.mdb, *.accdb)} 2 270 630 318
SQL EXPRESS Driver={ODBC Driver 17 for SQL Server} 2 238 511 252
SQL EXPRESS Driver={SQL Server} 2 235 531 253
MS SQL  Driver={SQL Server} 2 76 196 114
SQL EXPRESS Driver={SQL Server}
ADODB.Stream
2 12 31 15
         
         

 

UPD 26.04.2021 : Перешел на ADODB.Stream вместо потоков 1С при работе с двоичными данными и получил прирост скорости кратно

Расширение в поставке заменено.

Требования к запуску расширения:

Расширение предназначено для использования с актуальными типовыми конфигурациями, или нетиповыми, но включающими в себя библиотеку стандартных подсистем.

 

Установка и использование расширения:

  1. Расширение выполнено с использованием управляемых форм.
  2. Может использоваться платформа  8.3.16.х и старше

 

         Поддержка отчета, лицензирование:

  1. Расширение не имеет ограничений по периоду действия, количеству организаций и информационных баз.
  2. При возникновении вопросов по работе с отчетом, их можно обсудить в комментариях к публикации, личных сообщениях либо по e-mail, указанному в письме с отчетом.
  3. Не верю, что кто то этого может не знать, но специально для ИТ партнеров ОЗОН
    Разработка защищена авторским правом! То, что вы его скачали, не означает, что вы можете его бесплатно распространять на сайте ОЗОН и где бы то ни было.
Статистика:
Просмотры 13479
Загрузки 4
Рейтинг 9
Создание 23.04.21 13:49
Обновление 23.04.21 13:49
№ Публикации 1429666
Характеристики:
Теги
Рубрики Инструменты администратора БД
Кому Системный администратор
Тип файла Архив с данными
Платформа Платформа 1С v8.3
Конфигурация Конфигурации 1cv8
Операционная система Не имеет значения
Страна Не имеет значения
Отрасль Не имеет значения
Налоги Не имеет значения
Вид учета Не имеет значения
Доступ к файлу Платные (руб)
Код открыт Да
Наименование Файл Версия Размер
Разноуровневое хранение присоединенных файлов (расширение конфигурации 1С Предприятие 8.3 подойдет для любых типовых конфигураций): .zip 1.0.0.1 133,61Kb 4 5 $m
1. vandalsvq 30.04.21 16:22 Сейчас в теме
А с каких пор хранение файлов в файловой системе не самый лучший вариант? Спорный вопрос
2. Техподдержка 30.04.21 18:38
(1)с момента его появления )
EliasShy; +1 Ответить
3. RALIN123 08.08.22 08:58 Сейчас в теме
4. azhilichev 17.08.22 10:15 Сейчас в теме
Это приемлемо работает, когда суммарный объем файлов небольшой. Когда объем файлов начинает измеряться в гигабайтах, хранение их в БД начинает влиять на время создания бэкапов БД.
5. Техподдержка 18.08.22 09:58
(4)
(4)
Это приемлемо работает
что именно приемлемо работает?
6. azhilichev 19.08.22 02:25 Сейчас в теме
(5) Моя ошибка, неправильно понял суть статьи. Вы предлагаете хранить файлы в отдельной БД SQL. Я посчитал, что в базе 1С. Прошу прощения.
7. Silenser 14.09.22 09:21 Сейчас в теме
Приятно, когда предложенная 12 лет назад идея живет и здравствует https://infostart.ru/public/74821/
В качестве предложения: всегда будут случая нарушения консистентности данных, так что этот случай нужно будет выявлять и как то обрабатывать. Нужен отчет, который позволит находить отличия в хранимых ID в базе 1С и внешнем хранилище. Далее либо удалять то, что образовалось лишнее во внешнем источнике, либо сообщать пользователю о необходимости повторной загрузки файла.
8. Техподдержка 14.09.22 12:04
(7)
всегда будут случая нарушения консистентности данных

c чего бы они появились?
9. Silenser 14.09.22 19:28 Сейчас в теме
1. Сбой транзации при помещении данных во внешнее хранилище, когда справочник в систему записался, а во внешнюю базу - нет.
2. Кто-то удалил запись из внешней базы, а справочник с ID остался.
10. Техподдержка 14.09.22 21:13
1. У меня так невозможно
2. Аналогично
11. leonvlas 05.10.22 13:44 Сейчас в теме
Вроде 1с уже смотрит в эту сторону. - такой же подход.
Хранить файлы на диске это круто, до того момента пока не получишь сообщение, что файла уже нет
и кто его удалил отдельная тема и что теперь делась - сказка.
poiskadm; +1 Ответить

Оставьте свое сообщение

См. также

Ускоренное проведение документов (x4), устранение ошибок 60/62 счетов и зачет авансов (Бухгалтерия 3.0)

Расширение «Оперативное проведение» в 4 раза уменьшает время проведения документов и закрытия месяца. Является комплексным решением проблем 62 и 60 счетов. Оптимизирует проведение при включенной функциональной опции «Раздельный учет НДС». ...

14400 руб.

Подсистема хранения картинок во внешних файлах для УТ 10.3

Решение позволит вам хранить файлы и картинки вне базы данных, для более лучшей компактности вашей базы данных

21600 руб.

Брандмауэр для сервера 1С Предприятие 8 - внешнее управление сеансами

Управление возможностью начала и возобновления сеансов пользователей по различным условиям, ограничение общего числа возможных сеансов для работы с информационной базой, резервирование возможности работы с информационной базой определенных ...

3600 руб.

Система хранения присоединенных файлов в томах на диске

Конфигурация Комплексная автоматизация 1.1 (и УПП 1.3 тоже) хранит файлы и изображения в справочнике Хранилище дополнительной информации в реквизите Хранилище типа ХранилищеЗначений. Та же история с ВложениямиЭлектроннойПочты. Но при этом п...

4200 руб.

Конфигурация Session Monitor

Конфигурация Session Monitor предназначена для мониторинга сервера 1С с целью отслеживания чрезмерной нагрузки от конкретных сеансов и скорости реакции рабочих процессов.

1500 руб.

Утилита для получения информации о базе данных 1С в формате JSON

Утилита получает информации о базе данных 1С без знания паролей пользователя. Это отличный инструмент для участия в автоматизации, группового обновления баз данных, а также для обеспечения внутренних регламентов безопасности.  Позволяет б...

600 руб.

Внешний отчет на СКД "Ошибки и предупреждения журнала регистрации". Для любой типовой конфигурации 1С: Предприятие ...

20 мая 2021 года в онлайн формате пройдет Форум пользователей 1С:Документооборота. Когда, как не сейчас, намекнуть разработчикам на возможные улучшения в конфигурациях (если по-честному, просто совпало). Типовой отчет по журналу регистрации...

4 стартмани

“2iS:ESB+MDM” - Центр управления интеграцией и основными данными

Программный продукт предназначен для построения единой системы управления интеграционными процессами компании и нормативно-справочной информацией т.е. представляет собой решение классов ESB и MDM "в одном флаконе".

432000 руб.

Выгрузка файлов из 1С документооброт 8 в файловую структуру, возможность печати файлов

Потоковая выгрузка файлов из 1С Документооборот 8 в произвольную структуру папок. Возможность печати отобранного списка файлов. Внешняя обработка используется для выгрузки файлов из 1С Документооборот 8 в заданную папку с возможностью с...

3000 руб.

Автоматическое резервное копирование любой клиент-серверной базы 1С в формате DT с удалением сеансов, архивацией, изменением ...

Данная разработка позволит решить вопрос с резервным копированием Ваших баз в автоматическом режиме, расположенных на сервере 1С. Система умеет ставить блокировки на вход, блокировать фоновые задания, принудительно отключать сеансы пользова...

4800 руб.

"2iS:Интеграция" - Центр управления обменом данными. Сервисная шина предприятия (ESB).

Программный продукт предназначен для построения единой централизованной системы управления инфраструктурой и интеграционными процессами компании.

360000 руб.