Библиотека представлена в виде расширения 1С. В расширении один общий модуль, три справочника и одна демонстрационная обработка. Расширение применимо к любой типовой или нетиповой конфигурации.
Обзор функций
Генерация(промт, модель, температура)
Это основная функция библиотеки. Вы задаете большой языковой модели вопрос и получаете ответ. Вопрос тут зовется промтом, так уж сложилось. Вторым параметром вы задаете модель, это ссылка на элемент справочника Модели. В настоящий момент список всех моделей выглядит так:
Для генерации можно использовать семь моделей от четырех провайдеров. У каждого провайдера есть свои особенности в реализации API. Но от вас не требуется вникать в эти технические детали. Вы можете полностью сосредоточиться на разработке логики вашего решения.
Параметр Температура служит для задания уровня "креативности" модели. Применение больших языковых моделей в 1С, как правило, подразумевает нулевую "креативность". Например, вы даете пользователю ввести вопрос, преобразовываете этот вопрос в запрос к базе данных, выполняете запрос и выдаете результат пользователю. В этом случае надо устанавливать значение параметра Температура в 0.
Но есть задачи именно на креативность. Например вы говорите большой языковой модели: у меня вот такая структура базы данных, придумай 5 разных запросов к ней. Здесь будет уместно установить значение параметра Температура в 0.8 или в 1.
ТекстЗапроса(промт, модель, схема, общий_журнал=ложь, журнал_ошибок=ложь)
Эта функция выдает текст запроса на языке запросов 1С. В дополнении к промту и модели, вы указываете схему. Схема - это ссылка на элемент справочника Схемы БД. Схема состоит из двух частей. Первая описывает таблицы. Вторая задает соответствие между описанием из первой части и реальными именами таблиц и полей в вашей базе.
Вектор(текст, модель)
Для заданного текста выдает массив чисел. Это векторное представление (embedding) текста. Это нужно для сравнения текстов. Дело в том, что в модель нельзя загрузить большой объем текста за раз. Допустим, вы хотите сделать на базе искусственного интеллекта некоего консультанта. Весь объем знаний этого консультанта вам придется разбить на относительно небольшие части. Затем вам потребуется как-то определять к какой именно части относится вопрос пользователя. Здесь вам и поможет векторное представление.
ПолучитьТекстИзАудио(аудио, модель)
Речь может быть письменной, а может быть голосом. Во втором случае, прежде, чем задействовать большую языковую модель, нам потребуется распознать текст. Эта функция преобразует аудио данные в текст.
ПолучитьАудиоИзТекста(текст, модель)
Обратная операция, т.е. озвучка текста может потребоваться, если вы захотите создать полностью голосового бота.
ПолучитьСообщениеТелеграм(бот)
Большие языковые модели работают с текстом. Поэтому интеграция с мессенджерами вам рано или поздно потребуется. Эта функция получает сообщение от бота Телеграм.
ОтправитьСообщениеТелеграм(бот, чат, текстСообщения, меню=неопределено)
Эта функция отправляет сообщение боту Телеграм.
ПолучитьАудиоДанныеТелеграм(бот, сообщение)
А с помощью этой функции вы сможете вытащить аудио-данные из сообщения от бота Телеграм. Там это делается немного замороченно, в несколько шагов. Эта функция упростит вам жизнь.
ПроверитьИЗаполнитьСправочники()
Эта процедура производит начальное заполнение справочников БИИ_Провайдеры и БИИ_Модели, если они пустые.
Тестировалось на 8.3.23.1912.
Управляемые формы.
UPD 19.03.2024
Добавлены три модели генерации от Anthropic. Anthropic конкурирует с OpenAI, предлагая модели с большим контекстным окном и более низкой ценой. Общее количество моделей теперь достигло 17. Из них 10 - генерация, 4 - векторы, 2 - распознавание речи, 1 - синтез речи.
UPD 07.04.2024
Добавлена функция получения текста запроса на языке запросов 1С.
