Интеграция с YandexGPT

В обработке реализована интеграция с Yandex. Для начала работы необходимо быть зарегистрированным и иметь свой токен. В обработке предусмотрена форма для сохранения настроек авторизации в безопасном хранилище. 

Для работы с системой необходимо получить свой OAuth-токен и сохранить его в защищенное хранилище.

Как это сделать - https://yandex.cloud/ru/docs/iam/concepts/authorization/oauth-token.

Сохранение токена осуществляется через специальную форму "Настройки авторизации", доступную по соответствующей гиперссылке.

После ввода настроек авторизации необходимо получить IAM токен. Его необходимо получать каждый раз перед началом работы. После получения станут доступны для ввода настройки генерации и секции взаимодействия с YandexGPT.

Далее идет часть для уставки настроек модели. В ней доступны следующие ключевые настройки:

1) Выбор модели для генерации

• stream — включает потоковую передачу частично сгенерированного текста. Принимает значения true или false.

• temperature — чем выше значение этого параметра, тем более креативными и случайными будут ответы модели. Принимает значения от 0 (включительно) до 1 (включительно). 

• maxTokens — устанавливает ограничение на выход модели в токенах. Максимальное число токенов генерации зависит от модели. Подробнее см. в разделе Квоты и лимиты в Yandex Foundation Models.

Вы можете выбрать один из двух вариантов (Yandex GPT lite или Yandex GPT pro).

В зависимости от выбранной настройки будет выбрана модель для генерации ответа на ваш вопрос.

Блок настроек модели включает возможность выбора режима работы:

• Промт-режим

• Режим чата

В промт-режиме вы получаете ответы на запросы без сохранения истории общения.

Поскольку модели YandexGPT Lite и YandexGPT Pro не сохраняют контекст предыдущих сообщений, для ведения диалога историю переписки необходимо хранить на стороне клиента и передавать с каждым новым запросом.

Режим чата, в отличие от промт-режима, позволяет сохранять историю диалога и учитывать её при дальнейшем взаимодействии с моделью.

Эта группа настроек содержит элементы для управления историей сообщений в режиме чата:

• Просмотр истории диалога

  • Для просмотра истории сообщений перейдите по гиперссылке "История чата"

  • Откроется специальная форма со списком всех отправленных сообщений

• Очистка истории

  • Доступна функция удаления истории переписки

Если история сообщений отсутствует, форма просмотра не откроется - вместо этого будет показано соответствующее уведомление.

2) Стандартные настройки запроса

Этот блок отвечает за отправку запросов и получение ответов от ИИ.

1. Настройка поведения модели

   • В этом поле можно задать инструкции для ИИ (например: «Ты — умный ассистент»).

   • Для быстрого заполнения предусмотрена кнопка «Заполнить по умолчанию».

2. Поле "Запрос"

   • Введите здесь текст, который хотите отправить искусственному интеллекту.

3. Поле "Ответ"

   • Здесь будет отображаться результат обработки вашего запроса моделью YandexGPT.

4. Команда "Отправить запрос"

   • По команде происходит отправка запроса и сохранение истории чата, при необходимости.

С библиотекой готовых промтов можно ознакомиться:
https://yandex.cloud/ru/docs/foundation-models/prompts/yandexgpt/

3) Сведения о выполнении запроса

В нижней части обработки расположена группа с данными о выполненном запросе. Данные в этой группе обновляются после каждого выполненного запроса.

После выполнения запроса отображается следующая информация:

• Input Text Tokens — количество токенов в текстовой части входных данных модели;

• Completion Tokens — количество токенов в сгенерированном ответе;

• Total Tokens — общее количество токенов, включая входные и сгенерированные;

• Model Version — версия модели, которая использовалась для формирования ответа;

• Status — статус ответа.

Технические особенности реализации.

В обработке все HTTP-запросы реализованы с использованием популярной библиотеки для работы с HTTP — "HTTP-коннектор".

Привожу примеры запросов для получения:

• IAM-токена;

• идентификатора облака (с помощью REST API).

Для более подробного ознакомления привожу ссылки:

//infostart.ru/1c/articles/709325/

https://github.com/vbondarevsky/Connector

Обработка разработана для конфигурации с установленной БСП версии 3.1.8.276.

В ней используются следующие методы из различных модулей БСП:

• ОбщегоНазначенияКлиент.ПоказатьФормуРедактированияКомментария

• ОбщегоНазначенияКлиент.СообщитьПользователю

• ОбщегоНазначения.ПрочитатьДанныеИзБезопасногоХранилища

• ОбщегоНазначения.ЗаписатьДанныеВБазопасноеХранилище

• ОбщегоНазначения.СообщитьПользователю

• СтроковыеФункцииКлиентСервер.ПодставитьПараметрыВСтроку

• ДополнительныеОтчетыИОбработки.СведенияОВнешнейОбработке

• ДополнительныеОтчетыИОбработкиКлиентСервер.ТипКомандыОткрытиеФормы