Быстрая обработка данных / обработка информации на стороне GPU

27.03.24

База данных - HighLoad оптимизация

Вам надоело сидеть и ждать, пока произойдёт пересчет данных? Хотите ускорить этот процесс в разы? Хотите быстро посчитать сложные алгоритмы производства?  Планирование, себестоимость, нейросети и многие другие процессы можно перенести на "новые рельсы", оптимизировать процессы расчета информации с высокой скоростью. Этот механизм можно использовать в разных сферах, везде, где есть большие массивы данных.

Скачать исходный код

Наименование Файл Версия Размер
Быстрая обработка данных. Механизм максимально быстрой обработки информации от 1С на стороне GPU
.zip 199,81Mb
11
.zip 199,81Mb 11 Скачать

Данное решение представляет вариант реализации расчета данных из 1С на стороне графической карты.

Общий принцип: На стороне 1С заполняем базу данных. ПО берёт данные на стороне базы данных и упаковывает их в буфер для чтения GPU. На стороне GPU используется специальный шейдер расчетов  (compute shader) который осуществляет обработку данных. После обработки, данные записываются обратно в БД.

Всё это позволяет говорить от обработке миллионов строк информации за кратчайшее время.

БД - это условная база данных, может быть реализована на SQL / Oracle / Postgresql  и т.д.
Реализация возможна на платформах Windows / Linux.

 

ЗНАКОМСТВО

Принцип работы системы основан на обработке данных в графических процессорах. GPU имеют сотни процессорных ядер общего назначения. Они намного проще, чем ядра в современном процессоре, но из-за того, что их так много, они могут выполнять параллельные вычисления на больших наборах данных очень быстро. Эти небольшие ядра сгруппированы в более крупные процессоры, которые совместно используют регистры, кэши, планировщик и т. д. и могут выполнять несколько пакетов работы в режиме hyper-threading.

 

БАЗОВЫЕ ПРИНЦИПЫ

Система построена с использованием библиотеки Vulkan. Данная технология используется уже более 10 лет, так что в современном оборудовании драйвера от Vulkan присутствуют по умолчанию. Compue shader - это механизм работы с графической картой. В отличие от более старых API, таких как OpenGL, поддержка вычислительных шейдеров в Vulkan обязательна. Это означает, что вы можете использовать вычислительные шейдеры в любой доступной реализации Vulkan, независимо от того, идет ли речь о высокопроизводительном настольном графическом процессоре или маломощном встраиваемом устройстве.

Это открывает мир вычислений общего назначения на графических процессорах (GPGPU) независимо от того, где выполняется ваше приложение. GPGPU означает, что вы можете выполнять общие вычисления на своем графическом процессоре, то, что традиционно было прерогативой центральных процессоров. Но поскольку графические процессоры становятся все более и более мощными и гибкими, многие рабочие нагрузки, требующие универсальных возможностей центрального процессора, теперь могут выполняться на графическом процессоре в режиме реального времени.

Вычислительные ресурсы можно использовать  для не визуальных вычислений, которые не требуют графического вывода, например, для обработки чисел или вещей, связанных с искусственным интеллектом. Это называется "headless compute".

 

ПРЕИМУЩЕСТВА

Выполнение ресурсоемких вычислений на графическом процессоре имеет несколько преимуществ. Самый очевидный из них — разгрузка работы с центрального процессора. Еще один способ не требует перемещения данных между оперативной памятью центрального процессора и памятью графического процессора. Все данные могут оставаться на графическом процессоре, не дожидаясь медленной передачи из основной памяти.

Кроме того, графические процессоры сильно распараллелены, а некоторые из них имеют десятки тысяч небольших вычислительных блоков. Это часто делает их более подходящими для рабочих процессов с высокой степенью параллелизма, чем ЦП с несколькими большими вычислительными блоками.

 

РЕАЛИЗАЦИЯ

Во вложении представлен пример реализации подобного механизма.

Данное решение реализовано на платформе Windows 10/11 x64. Используется внешняя БД: SQLite, что позволяет протестировать функционал без дополнительного оборудования. Также решение содержит библиотеки для использования на платформе Linux и является кроссплатформенным. 

На стороне 1С используется обработка на управляемых формах. Предполагается использование на платформе 1С:Предприятие 8.3. Конфигурация не важна. 

Тестировалось на: 1С:Предприятие 8.3 (8.3.13.1690)

 

Поле распаковки файла, мы должны установить ПО, которое находится в папке "sqliteodbc_w64.exe" - для COM соединения с БД SQLite. Также ПО можно скачать тут: http://www.ch-werner.de/sqliteodbc/

Также рекомендуется установить ПО для работы c SQLite https://sqlitebrowser.org/dl/

На этом настройка закончена. Приступаем к работе.

 

 

 

ПРИНЦИП РАБОТЫ

1. Запускаем 1С и выбираем файл обработки с расширением "epf"

2. Нажимаем на кнопку "Чтение видеокарт". Возможно, придётся нажать на неё несколько раз, т.к. 1С будет повторно запрашивать разрешения на запуск COM соединения и запуск bat файлов. 

После чего, в окошке справа появится список видеокарт, которые можно использовать для данной реализации.

Если на этом шаге возникнут проблемы, то ниже будут описаны варианты решения или возможного исправления ситуации.

3. Итак, после выбора видеокарты, мы нажимаем на кнопку "Запись начальных данных на SQLite". - Т.е. мы осуществляем первоначальное заполнение базы данных, данными для расчета.

4. "Жмём кнопку "Обработка данных на стороне GPU". - Система должна произвести расчет и выдать результат справа. Информация справа должна содержать в себе данные о времени чтения, обработки и перезаписи данных на стороне GPU.

5. Проверяем обработанные данные. Для этого служит кнопка "Прочитать данные из БД"

 

 

ВОЗМОЖНЫЕ ПРОБЛЕМЫ

Возможные причины, по которым ПО не будет работать: 

  1. Видеокарта не поддерживает compute shader
  2. Видеокарта не поддерживает Vulkan
  3. Драйвера видеокарты устарели 
  4. Платформа Windows устарела

Рекомендации по возможному исправлению ошибок следующие:

  1. Обновите драйвера видеокарты.
  2. Также могут помочь патчи для Windows начиная от: Visual C++ 2010.

Также важно помнить, что эксперименты с шейдерами могут повредить вашу видеокарту. По этому НЕ рекомендуется изменять шейдер программы.

 

Коллеги, буду рад критике, комментариям и пожеланиям. Также постараюсь помочь, если возникнут проблемы с ПО. 

1С: Быстрая обработка данных Механизм максимально быстрой обработки информации от 1С на стороне GPU Vulkan compute shader Vulkan + 1C 1C и GPU обработка данных 1С на видеокарте 1С и видеокартаб 1С и GPU CPU

См. также

Оптимизация нагрузки на ЦП сервера СУБД используя типовые индексы

HighLoad оптимизация Платформа 1С v8.3 Конфигурации 1cv8 Бесплатно (free)

Анализ простого плана запроса. Оптимизация нагрузки на ЦП сервера СУБД используя типовые индексы.

13.03.2024    3650    spyke    28    

47

Быстродействие типовой 1С

HighLoad оптимизация Платформа 1С v8.3 Бесплатно (free)

Оказывается, в типовых конфигурациях 1С есть, что улучшить!

13.03.2024    5636    vasilev2015    19    

38

Анализируем SQL сервер глазами 1С-ника

HighLoad оптимизация Инструменты администратора БД Платформа 1С v8.3 Конфигурации 1cv8 Абонемент ($m)

Обработка для простого и удобного анализа настроек, нагрузки и проблем с SQL сервером с упором на использование оного для 1С. Анализ текущих зааросов на sql, ожиданий, конвертация запроса в 1с и рекомендации где может тормозить

1 стартмани

15.02.2024    8517    170    ZAOSTG    74    

102

Удаление строк из таблицы значений различными способами с замером производительности

HighLoad оптимизация Платформа 1С v8.3 Конфигурации 1cv8 Абонемент ($m)

Встал вопрос: как быстро удалить строки из ТЗ? Рассмотрел пять вариантов реализации этой задачи. Сравнил их друг с другом на разных объёмах данных с разным процентом удаляемых строк. Также сравнил с выгрузкой с отбором по структуре.

09.01.2024    6836    doom2good    49    

65

Опыт оптимизации 1С на PostgreSQL

HighLoad оптимизация Бесплатно (free)

При переводе типовой конфигурации 1C ERP/УТ/КА на PostgreSQL придется вложить ресурсы в доработку и оптимизацию запросов. Расскажем, на что обратить внимание при потерях производительности и какие инструменты/подходы помогут расследовать проблемы после перехода.

20.11.2023    9610    ivanov660    6    

76

ТОП проблем/задач у владельцев КОРП лицензий 1С на основе опыта РКЛ

HighLoad оптимизация Бесплатно (free)

Казалось бы, КОРП-системы должны быть устойчивы, быстры и надёжны. Но, работая в рамках РКЛ, мы видим немного другую картину. Об основных болевых точках КОРП-систем и подходах к их решению пойдет речь в статье.

15.11.2023    5450    a.doroshkevich    20    

72

Начните уже использовать хранилище запросов

HighLoad оптимизация Запросы

Очень немногие из тех, кто занимается поддержкой MS SQL, работают с хранилищем запросов. А ведь хранилище запросов – это очень удобный, мощный и, главное, бесплатный инструмент, позволяющий быстро найти и локализовать проблему производительности и потребления ресурсов запросами. В статье расскажем о том, как использовать хранилище запросов в MS SQL и какие плюсы и минусы у него есть.

11.10.2023    16732    skovpin_sa    14    

101
Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. EvgeniyOlxovskiy 55 27.03.24 11:26 Сейчас в теме
Какой прирост производительности приносит это решение?
4. KHoroshulinAV 171 27.03.24 13:13 Сейчас в теме
(1)Ну я показал что на nvidea пересчет прошел за 0.003 секунды.
1С бы 100000 строк только в цикле перебирала бы минут 20
acces969; EvgeniyOlxovskiy; +2 1 Ответить
13. acces969 344 28.03.24 07:38 Сейчас в теме
(4) Ничего себе!
До чего дошел прогресс
18. JohnyDeath 301 29.03.24 16:56 Сейчас в теме
(4) а что именно происходит-то?
Я так понял все данные первоначально выгружаются в sqlite.
Тогда может стоит произвести замер с использованием самого движка sqlite без видеокарт?
К 1с его можно подрубить вот этой компонентой https://github.com/orefkov/v8sqlite
2. Varies 27.03.24 12:36 Сейчас в теме
Вот если бы 1С сама умела вычислять на GPU, было бы круто.
Сейчас едва ли можно найти сервера с GPU.
3. KHoroshulinAV 171 27.03.24 13:12 Сейчас в теме
(2)Не вижу проблем поставить на сервере видеокарту.
5. s22 19 27.03.24 14:47 Сейчас в теме
6. kauksi 216 27.03.24 15:09 Сейчас в теме
ну вот есть выборка - 30000 записей в регистре сведений, которые нужно перезаписать, изменив допустим значения 2х ресурсов. всего в регистре несколько миллионов записей. В компе стоит RTX 4080
Как эта штука ускорит запись?
Еще лет 12 назад, когда только первые видяхи с CUDA появились, думал написать свою библиотеку - или внешнюю компоненту, чтобы ускорить какой то расчет в 1С. Например решение системы линейных уравнений при закрытии месяца в УПП. Но когда полез в код, стало ясно что там данные обрабатываются порциями в цикле, и накладные расходы времени при передаче/чтении куда то вовне гораздо больше чем ускорение расчета.
7. Somebody1 68 27.03.24 15:11 Сейчас в теме
(6) Тут вроде и не говорится об ускорении записи. Речь об ускорении расчётов.
8. kauksi 216 27.03.24 15:19 Сейчас в теме
(7) ну хорошо, не запись, расчет. Небольшой город/район мегаполиса, тыш на 200 жителей, 10000 квартир, льготники, площади, тарифы и т.д. разбить эту таблицу на 10000 строк, передать на каждое тензорное ядро чтобы оно выполнило арифметические операции и обратно получить результат... чтобы записать опять же в регистр...
ускорения особо не будет...
в медицине... может быть... в научных исследованиях да... в прикладных задачах 1С... вряд ли...
DmitryKSL; +1 Ответить
11. KHoroshulinAV 171 27.03.24 21:46 Сейчас в теме
(8)Согласен, штука специфичная, но всё же 1С разносторонняя программа.
9. s22 19 27.03.24 17:20 Сейчас в теме
расчет себестоимости и план производства
10. PerlAmutor 129 27.03.24 19:59 Сейчас в теме
Хорошо бы в платформе и EDT такую штуку внедрить, а то конфигуратор и EDT кушают проц как не в себя при сравнении-объединении, выгрузке/загрузке XML файлов. А так было бы еще неплохо сделать интерфейс 1С с поддержкой 3D отрисовки как в Qt. Нейросети еще можно обучать на GPU.
Практического применения в расчете учетных данных придумать не могу. Все равно всё упирается в 99% в скорость работы БД, Вот когда придумают базу данных внутри GPU с энергонезависимой памятью тогда уже будет интересно.
12. KHoroshulinAV 171 27.03.24 21:59 Сейчас в теме
(10) 3D я пытался делать через браузер на WebGL, но на тек момент этот 1С не поддерживает браузер explorer как раньше. Нейросети - пожалуй.
14. DmitryKSL 155 28.03.24 09:53 Сейчас в теме
Скажите, была реальная проблема, или просто так сделали, и нет никакого практического применения? Мне просто непонятно какая может быть польза именно в 1С.
15. KHoroshulinAV 171 28.03.24 10:26 Сейчас в теме
(14)Представьте, производство, крупный заказчик, оборонка, сложный набор спецификации большая вложенность. Данных реально больше миллиона. И нужна обработка данных. - На стороне 1С такие вещи просто не реализовать. Ну или процесс займет недели.
16. DmitryKSL 155 28.03.24 15:14 Сейчас в теме
Опять не понял, это реальная ситуация или просто как пример? Что вы там обрабатывали на стороне? Я как-то копался в закрытии месяца 10 лет назад, чуть с ума не сошел. Как вы расчеты будете на сторону переносить? Там надо во-первых во всей логике разобраться, во-вторых при каждом ее изменении логику на стороне менять, что вообще кажется неприемлемым.
17. KHoroshulinAV 171 28.03.24 17:43 Сейчас в теме
(16)Да, Дмитрий, переносить всю логику, и да, если в логике появились изменения то придется алгоритмы править. Но это просто альтернатива текущим методам расчета.
Оставьте свое сообщение