Приделываем "лапки" ИИ

15.08.24

Интеграция - Нейросети

Как в 1С сделать вызов функции для больших языковых моделей (LLM).

Думаю, многие уже успели вдоволь наговориться с большими языковыми моделями, именуемыми в просторечии искусственным интеллектом. Развлекательные настройки, установленные по умолчанию практически во всех ныне доступных простым пользователям "общалках" с ИИ, действительно неплохо развлекают.

Но непростым пользователям, тем, кто может связать две строчки кода (по тысяче строк в каждой))), хочется чего-то большего. Было бы неплохо превратить милого, но в общем бесполезного болтуна в эффективного деятеля. И это можно сделать, в том числе в привычной нам среде 1С, и не очень сильно напрягаясь.

Что у нас есть.  Во-первых, модели. Сильно упрощая, чтобы обучить большую языковую модель, нужно, в частности, подготовить много пар: вопрос - правильный ответ. И где это можно было взять? Правильно, у ничего не подозревавшего на тот момент Stack Overflow. Там это все было уже в готовом виде. Большие языковые модели умеют много чего, но лучше всего у них получается в программировании, SQL запросах, JSON.

Во вторых, у нас есть API. Практически все игроки сейчас предоставляют доступ к своим моделям через API. Он, кстати, почти унифицирован. То есть, все сдирают у первопроходца, Open AI. Не всем, правда, удается удержаться, и не внести какие-нибудь изменения от себя, испортив тем самым всю малину.

В принципе, уже этого было бы достаточно. Пишем некоторое количество функций (любых). Получив запрос от пользователя на естественном языке, добавляем к этому запросу сигнатуры наших функций и просим ИИ разобраться: какую функцию и с какими параметрами следует применить. Результат просим представить в JSON. Имея на руках JSON, нам ничего не стоит запустить нужную функцию с нужными параметрами. Это работало, но с некоторыми техническими недоразумениями (время от времени JSON оказывался не совсем тот, который ожидался или вместе с JSON прилетало всякое ненужное бла-бла-бла, от которого нужно было избавляться). Поэтому, с недавних пор у нас есть в-третьих, механизм получения вызовов функций. Он есть у лидеров: Google, OpenAI, Anthropic. Есть у китайцев, которые не отстают от лидеров. К сожалению, нет у Яндекса. Есть у Сбер, но у них модель в принципиально другой весовой категории и недотягивает до Яндекса, не говоря уже о лидерах.

Механизм вызова функций сильно упрощает жизнь разработчикам. Но это не предел! Чтобы улучшить жизнь разработчикам 1С, у нас есть, в-четвертых, Библиотека искусственного интеллекта для 1С (в свободном доступе)

Для того, чтобы задействовать вызов функций, надо передать в метод "Генерация" массив ссылок.

//Основная функция. Используется технология GPT для генерации текста
//Результат - текст ответа большой языковой модели (LLM) или массив вызовов функций или неопределено в случае ошибки 
//промт - текст запроса пользователя
//модель - ссылка на элемент справочника БИИ_Модели
//температура - число, уровень "креативности" ответа, 0-минимум креативности
//инструменты - необязательный, массив ссылок на справочник БИИ_Инструменты
Функция Генерация(промт, модель, температура, инструменты=неопределено) экспорт

 

Доступ к справочнику можно получить из обработки, которая включена в расширение 

 

 

Для примера создадим описание функции GetGoodsBalance

 

 

Помимо названия функции, надо заполнить описание и список параметров. В списке параметров у каждого параметра также есть описание. Описания следует заполнять как можно более четко. Именно на описания будет ориентироваться ИИ, решая какую функцию использовать.

Добавим еще одно определение функции.

 

 

Теперь напишем сами функции (для типовых УТ/ERP/КА). Функция получения остатка товара будет совсем простой.

 

Функция GetGoodsBalance(параметры)
	ЧтениеJSON = Новый ЧтениеJSON;
	ЧтениеJSON.УстановитьСтроку(параметры);	
	данные = ПрочитатьJSON(ЧтениеJSON);
	ЧтениеJSON.Закрыть();
	запрос = новый запрос;
	запрос.Текст =
	"ВЫБРАТЬ
	|	ТоварыНаСкладахОстатки.ВНаличииОстаток КАК ВНаличииОстаток
	|ИЗ
	|	РегистрНакопления.ТоварыНаСкладах.Остатки(, Номенклатура.Наименование ПОДОБНО &Товар) КАК ТоварыНаСкладахОстатки";
	запрос.УстановитьПараметр("Товар","%"+данные.GoodsName+"%");
	выб = запрос.Выполнить().Выбрать();
	если выб.Следующий() тогда
		возврат строка(выб.ВНаличииОстаток);
	иначе
		возврат "Не найден товар: "+данные.GoodsName;
	конецесли;	
КонецФункции

 

Функция получения баланса взаиморасчетов чуть "покучерявее"

 

Функция GetMutalSettlementsBalance(параметры)
	ЧтениеJSON = Новый ЧтениеJSON;
	ЧтениеJSON.УстановитьСтроку(параметры);	
	данные = ПрочитатьJSON(ЧтениеJSON);
	ЧтениеJSON.Закрыть();
	баланс = 0;

	запрос = новый запрос;
	запрос.Текст =
	"ВЫБРАТЬ
	|	ЕСТЬNULL(РасчетыСКлиентамиОстатки.СуммаОстаток, 0) КАК СуммаОстаток
	|ИЗ
	|	РегистрНакопления.РасчетыСКлиентами.Остатки(, АналитикаУчетаПоПартнерам.Контрагент.Наименование ПОДОБНО &Контрагент) КАК РасчетыСКлиентамиОстатки";
	запрос.УстановитьПараметр("Контрагент","%"+данные.Partner+"%");
	выб = запрос.Выполнить().Выбрать();
	если выб.Следующий() тогда
		баланс=выб.СуммаОстаток;
	конецесли;	

	запрос = новый запрос;
	запрос.Текст =
	"ВЫБРАТЬ
	|	ЕСТЬNULL(РасчетыСПоставщикамиОстатки.СуммаОстаток, 0) КАК СуммаОстаток
	|ИЗ
	|	РегистрНакопления.РасчетыСПоставщиками.Остатки(, АналитикаУчетаПоПартнерам.Контрагент.Наименование ПОДОБНО &Контрагент) КАК РасчетыСПоставщикамиОстатки";
	запрос.УстановитьПараметр("Контрагент","%"+данные.Partner+"%");
	выб = запрос.Выполнить().Выбрать();
	если выб.Следующий() тогда
		баланс=баланс+выб.СуммаОстаток;
	конецесли;	
    возврат баланс;
КонецФункции

 

Мы получаем от ИИ массив структур JSON, в каждой из которых содержится имя функции и список параметров с именами параметров их значениями. Осталось сделать запускателя, чтобы функции запускались на выполнение.

 

Процедура Вызов(имя,параметры)
	если имя="GetGoodsBalance" тогда
		Ответ = Ответ + GetGoodsBalance(параметры)+символы.ПС;
	иначеесли имя="GetMutalSettlementsBalance" тогда
		Ответ = Ответ + GetMutalSettlementsBalance(параметры)+символы.ПС;
	конецесли;	
КонецПроцедуры	

 

Проверим работу. Попросим дать остаток товара.

 

  

 

Такой же ответ будет на все возможные формы вопроса: "сколько чая на складе", "чай на складе", "как много у нас чая", "остаток чая" и т.д.

Зададим вопрос по взаиморасчетам.

 

 

Как видите, это работает. Но есть одна проблема. Выключим функцию получения баланса по взаиморасчетам.

 

 

И теперь в ответ на запрос мы получим...

 

 

 

Говорят, что недостатки есть ни что иное, как продолжение достоинств. Так оно и есть! У нас очень хороший работник. Он никогда не разведет лапками и не скажет: "я не могу". Нет у него такой опции. Он будет искать и находить наиболее подходящие варианты для действия. Как мы уже убедились, если ничего не предпринять, это может привести к нежелательным последствиям.

К счастью, проблема решается удивительно простым образом. Просто дадим нашему работнику инструкцию, что ему делать, когда он не знает, что ему делать.

 

 

Функция need_help(параметры)
	ЧтениеJSON = Новый ЧтениеJSON;
	ЧтениеJSON.УстановитьСтроку(параметры);	
	данные = ПрочитатьJSON(ЧтениеJSON);
	ЧтениеJSON.Закрыть();
	возврат "Не удалось подобрать функцию для вопроса:"+символы.ПС+данные.UserRequest;
КонецФункции

 

Теперь никакой путаницы

 

 

Механизм вызова функции, это один из ключевых моментов в практическом использовании больших языковых моделей. Надеюсь, что этот короткий ликбез поможет вам быстро сориентироваться в данном вопросе.

См. также

Нейросети Пользователь Платформа 1С v8.3 1С:Управление нашей фирмой 1.6 1С:Управление торговлей 11 1С:Управление нашей фирмой 3.0 Оптовая торговля, дистрибуция, логистика Россия Управленческий учет Платные (руб)

Расширение "Искусственный интеллект и нейросети в 1С: Работа с отзывами маркетплейсов" предназначено для применения искусственного интеллекта в повседневной деятельности селлеров на маркетплейсах. Среди функций - работа с отзывами, вопросами и чатами покупателей, диалог с нейросетями, генерация картинок, заполнение описаний номенклатуры и другое.

6000 руб.

03.04.2024    5749    3    0    

8

Мастера заполнения Нейросети Платформа 1С v8.3 Конфигурации 1cv8 1С:Управление торговлей 11 Платные (руб)

Расширение для заполнения описания товара (номенклатуры) с помощью модели ИИ ChatGPT с ключевыми словами. Расширение формирует продающее описание товара по его наименованию с помощью модели искусственного интеллекта. Будет полезно для владельцев интернет магазинов, каталогов товаров и продающих через маркетплейсы. Адаптировано для основных конфигураций: УТ, ЕРП, КА, УНФ. Прошло аудит на 1cfresh.com. Версия для автоматического заполнения

5000 руб.

13.03.2023    17611    45    49    

75

Нейросети Платформа 1С v8.3 1С:Управление торговлей 11 Россия Абонемент ($m)

Данная обработка позволяет автоматизировать работу с использованием нейросетей YandexGPT и YandexART с базой 1С. С помощью нейросетей вы сможете не ограничивать себя в фантазии и ущемлять свои возможности и возможности компании, а наоборот, повысить профессионализм и креативность. Очень удобно)

1 стартмани

04.10.2024    153    0    EsaDyv    0    

3

Нейросети Мессенджеры и боты Платформа 1С v8.3 1С:ERP Управление предприятием 2 Абонемент ($m)

Пример простой реализации чата в 1С с ИИ на движке Gemini.

3 стартмани

27.09.2024    3590    3    SerVer1C    2    

6

Нейросети Программист Стажер Платформа 1С v8.3 Бесплатно (free)

Функционал библиотеки позволяет полностью манипулировать элементами системы GigaChat API. Это позволит вам разработать множество интересных и полезных решений!

25.09.2024    564    TheNabiulla    2    

8

Нейросети Программист Платформа 1С v8.3 Конфигурации 1cv8 Россия Абонемент ($m)

Рассмотрим использование генеративного ИИ в 1С. Как установить, настроить и пользоваться, где можно применять, а также немного мыслей в конце статьи.

5 стартмани

19.09.2024    898    soulner    6    

10

Управление складом и логистикой (WMS) Нейросети Платформа 1С v8.3 Конфигурации 1cv8 Бесплатно (free)

Цифровая революция и повсеместный переход от аналоговых технологий к цифровым, начавшийся еще в 80-х годах прошлого века и частично продолжающийся до сих пор, внесли крайне важные изменения в логистическую отрасль. Сегодня цифровые технологии в логистической цепочке поставок являются важной и серьезной темой для многих компаний. Находясь на высококонкурентном рынке, эффективно и гибко построенная работа позволяет любой компании получить лидирующие позиции в своей области. Поэтому компании ищут инструменты для помощи в принятии решений и оптимизации своих процессов с целью повышения операционной эффективности, удовлетворения потребностей клиентов и снижения расходов. Сейчас новые технологии и, в частности, искусственный интеллект играют ключевую роль в решении амбициозных задач. По данным авторитетной исследовательской компании Gartner, в 2024 году около 50% логистических компаний будут инвестировать в технологии, поддерживающие искусственный интеллект.

05.09.2024    691    sitec    7    

1

Нейросети

Copilot – инструмент, использующий OpenAI для помощи в написании кода в режиме реального времени. Нейросеть обучалась на миллиардах строк кода, в том числе – на языке 1С. А это значит, что мы можем использовать ее для уменьшения рутинной работы в написании кода. О том, как использовать Copilot в ежедневной разработке при написании кода на языках 1С и OneScript, расскажем в статье.

27.08.2024    4114    YA_418728146    11    

8
Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. JohnyDeath 302 16.08.24 09:07 Сейчас в теме
Тут узкое место, как мне кажется, - это поиск товара/контрагента через "подобно".
Ведь чая на складе может быть множества видов: черный, зеленый, крупнолистовой, в пачке по 500 гр, 250 и т.п.
С контрагентами такая же проблема, особенное если в базе есть ИПшники.
По-хорошему в случаях, когда есть более одного совпадения, нужно задавать уточняющий вопрос и/или предлагать список выбора. Или же давать ответ по всем найденным товарам/партнерам.
Вы как-то обходили этот момент на своих инструментах?
2. mkalimulin 1228 16.08.24 16:42 Сейчас в теме
(1) Функции получения остатков я взял для примера, чтобы продемонстрировать основную проблему при вызове функций и способ ее решения.
Вообще, функции могут быть любыми. И не только на чтение. Проблемы, которые тут могут возникнуть ничем не отличаются от проблем, которые нам, разработчикам, приходится решать сейчас. На мой взгляд, здесь самое важное заключается в том, что ИИ нас никак не ограничивает. Какую функцию напишем, такую и будет использовать. Со всевозможными сложностями можно разбираться внутри вашей функции.
Что касается конкретно проблемы с поиском по наименованию, то способ решения зависит от ситуации. Иногда наиболее правильным будет отказ от поиска по наименованию, вместо него можно использовать поиск по артикулу, например.
Если есть возможность в рамках решения конкретной задачи сформировать относительно небольшой список наименований (товаров или чего-нибудь еще), тогда лучше пойти этим путем. Механизм вызова функций, кстати, позволяет задавать списки (enum).
То, что предлагаете вы, тоже возможно, но надо пробовать в реальной работе. Представим, к примеру, что пользователь диктует заказ. В заказе пять позиций. Мы обрабатываем голосовое сообщение пользователя, а потом начинаем по каждой позиции задавать уточняющие вопросы. Хватит ли у пользователя терпения?
3. JohnyDeath 302 16.08.24 16:48 Сейчас в теме
(2)
Представим, к примеру, что пользователь диктует заказ

я себе в голове примерно такой же тест и нарисовал, только вместо пользователя - ответственный за закупку, который спрашивает остаток товара на складе.
Но если пойти по вашему примеру с заказом, то мы ему запихнем в заказ всё, что у нас попало первым в выборке. Я как покупатель был бы не очень рад, если бы мне бездушная машина подсунула в заказ совсем другие продукты. Перепроверять, а потом передергивать товары в заказе еще сложней, как мне кажется, чем ответить на доп вопросы по строкам, где нет единого понимания между машиной и мешком
4. user1880116 17.08.24 12:51 Сейчас в теме
(3)
Я как покупатель
Это лекция для колхозников статья для разработчиков, а не для покупателей. Проходите, товарищ.
5. mkalimulin 1228 17.08.24 14:29 Сейчас в теме
(4) Плох тот разработчик, что не может представить себя покупателем )))
6. user1880116 19.08.24 08:12 Сейчас в теме
(5)
Плох тот разработчик, что не может представить себя покупателем
Ох, Михаил...
А какому покупателю ты продаешь вот это, текущее решение?
7. JohnyDeath 302 19.08.24 08:51 Сейчас в теме
(4) а разработчик для кого делает всё это?
8. user1880116 19.08.24 09:11 Сейчас в теме
(7)
а разработчик для кого
У меня вот к Михаилу тот же вопрос.
9. saver77 64 27.08.24 12:19 Сейчас в теме
Не понятен пункт "Теперь напишем сами функции (для типовых УТ/ERP/КА). Функция получения остатка товара будет совсем простой.". Где конкретно писать функцию?
10. mkalimulin 1228 27.08.24 14:06 Сейчас в теме
(9) В том модуле, в какой вы хотите ее поместить (модуль формы, модуль объекта, модуль менеджера, общий модуль). Где хотите, там и пишите. Например. Если вы делаете свою обработку, тогда можете поместить эту функцию в модуль формы. А можете в модуль объекта или в общий модуль. Это дело вкуса
Оставьте свое сообщение