Валерий Бобров. От ChatGPT до GigaChat: как объективно оценить и выбрать LLM для разработки на 1С

31.10.2025 12:57:38   Инфобот (Infostart)    1753

Большие языковые модели все чаще применяются для генерации кода на 1С, но до сих пор нет единого способа объективно сравнить их качество. Объясняем, как работают метрики BLEU, CodeBLEU и pass@k, и как их можно адаптировать для оценки LLM в экосистеме 1С. Показываем, какие задачи – от простых функций до рефакторинга – помогают полноценно оценить интеллект модели и ее знание платформы. Разбираем ключевую проблему проверки логики и синтаксиса в автоматическом режиме и показываем бенчмарк, который решает эту задачу, сравнивая ChatGPT, Claude, GigaChat и другие модели по единым стандартам.

Доклад в виде статьи: https://infostart.ru/1c/articles/2518237/

Категории:
 Программирование

Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
Для отправки сообщения требуется регистрация/авторизация
Дмитрий Абрамов. ИИ-сервисы как LEGO: из чего на самом деле состоит корпоративный ИИ
Владимир Акимов. Полный cookbook «Разработки в 1С на ИИ-агентах» — от проблем до решений
Никита Арипов. Стек технологий для 1С
Дарья Осипова. Пентест без катастроф: миссия выполнима
Сергей Голованов. Желудевое вино против бюрократии
Михаил Калимулин. Библиотека искусственного интеллекта для 1С. Назначение. Примеры использования
Harness 1С: Оркестратор Symphony и задачи в GitLab
Роман Чумадин. Мобильное приложение на Платформе и Элементе. В чем разница и сколько займет времени
Валерий Бобров. Какая нейросеть лучше всего решает задачи 1С: бенчмарк моделей и агентных подходов
Тимур Кашафутдинов. Как убедить скептиков начать работать с ИИ, на опыте обучения разработчиков