Я расскажу про опыт нашей компании – и даже не только нашей компании, а еще тех партнеров, которые используют и продвигают наши решения по применению искусственного интеллекта на своих предприятиях.
Сразу оговорюсь: в большей степени я буду затрагивать предприятия самого крупного размера, где количество сотрудников – от 500 и больше. Верхнего потолка здесь нет: у нас есть заказчики с несколькими десятками тысяч пользователей. Именно там применение искусственного интеллекта находит, наверное, самое понятное, практическое применение и приносит ощутимую пользу.
Почему, мне кажется, эта статья будет полезна и для кого? Я хотел бы отдельно подсветить этот момент. Мы сейчас наблюдаем фазу, когда бизнес, в общем-то, уже закончил эксперименты с искусственным интеллектом. Раньше проводилось много разных экспериментов: сначала это было на уровне «поиграть», попробовать. Сейчас IT-предприятия включают искусственный интеллект в стратегию своего развития и делают на него ставку именно как на стратегический инструмент.
Поэтому, если вы еще пока этого не сделали, имейте в виду: конкуренты уже это сделали. И в каком-то недалеком будущем можно остаться на обочине конкурентного развития. Поэтому на это стоит обратить внимание.
Второй фокус, который я хотел здесь подсветить: генеративный искусственный интеллект, который дал ход популяризации этой темы, в основном опирается на открытые модели. И здесь возникает конфликт с бизнесом, потому что бизнес оперирует локальными данными – данными, которые находятся в том числе в закрытых контурах и относятся сейчас, например, к сегменту персональных данных.
Поэтому использование открытых инструментов с участием искусственного интеллекта с точки зрения бизнеса может быть опасным. Здесь я хотел подчеркнуть фокус именно на использовании корпоративных данных, на работе и применении искусственного интеллекта в закрытых сетях, в том числе там, где может отсутствовать доступ к Интернету.
Сейчас мы переживаем непростые времена, и бизнес внимательно следит за экономикой вопроса. Эту тему я тоже хотел бы осветить в статье. Экономика вопроса – одна из важнейших частей внедрения искусственного интеллекта. Бизнес рассчитывает на быструю окупаемость этих вложений, и я хочу подсветить наш опыт: как этого можно достигать.
О платформе
Мы делаем коммуникационную платформу, которая называется 1С-Коннект и широко используется в партнерской сети 1С как инструмент для техподдержки.
В системе есть несколько явно выраженных функциональных направлений. Первое – это корпоративный мессенджер. Систему используют как инструмент внутренних коммуникаций сотрудников, команд, отделов и всей компании. Там поддерживается большая функциональность для управления этим процессом.
Также в систему непрерывно встроен инструментарий работы с обращениями, в частности с технической поддержкой. Есть Service Desk на базе двухуровневого каталога услуг по методологии ITIL, то есть с поддержкой сервисного процесса. Его можно использовать как самостоятельную ITSM-систему, как Service Desk, а можно – как часть более мощной ITSM-системы, если на предприятии интеграция идет на уровне бухгалтерских программ, систем мониторинга железа и так далее. Все эти процессы поддержаны внутри нашего сервиса, и, по сути, он представляет собой коммуникационную платформу предприятия.
Еще хотел бы отдельно подсветить, что в составе нашего решения есть функционал удаленного управления рабочим столом. Эта тема сейчас тоже горячая: им активно пользуются специалисты технической поддержки, которые подключаются к рабочим столам пользователей. Также это используется при организации удаленной работы сотрудников – так, чтобы они работали внутри предприятия, оставаясь внутри данных и внутри технического контура предприятия.
Вся эта история может работать как в Cloud – в защищенном или публичном облаке, – так и в On-premise-режиме, когда решение разворачивается внутри закрытого контура предприятия.
Крупные заказчики на базе 1С-Коннект могут организовывать ЦО – центры обслуживания, проектные офисы, в которых аккумулируются различные сервисные функции. И в пределе мы вообще открываем предприятию дорогу от ITSM-подхода к переходу на полностью сервисную модель – на так называемый ESM-контур.
Роль коммуникаций и структура рынка ИИ-решений
Почему выбор коммуникационной платформы важен для эффективного применения искусственного интеллекта? Потому что искусственный интеллект очень сильно связан с цифровыми следами, которые остаются на предприятии.
Это могут быть не только учетные данные. Коммуникационные данные, которые сотрудники обсуждают в проектных командах, которые пользователи генерируют на линии поддержки, которые инженеры создают в ходе общения с пользователями, – все это, по сути, представляет ценность для предприятия. Эти данные оседают внутри, накапливаются и подлежат обработке с помощью инструментов искусственного интеллекта.
Нас выгодно отличает от ближайших конкурентов то, что фронтовая часть нашего продукта, то есть конечное приложение, которым пользуется пользователь, сделана очень качественно и нравится пользователям. Оценка в Store – 4,9. Это публичная оценка, можете посмотреть сами и сравнить с ближайшими конкурентами.
За счет такого синтеза богатой функциональности, понятного предназначения и достаточно качественного исполнения конечного продукта нам недавно удалось перевалить за отметку в миллион действующих пользователей.
На текущий момент ежемесячно в сервисе регистрируется более 500 тысяч диалогов, связанных с обращениями в техподдержку, за технической поддержкой и за разного рода поддержкой сервисных служб. По сути, дальше в статье я расскажу, как нам удалось приручить здесь искусственный интеллект.
После появления генеративного искусственного интеллекта со стороны бизнеса появился живой интерес. Раньше относительно этой темы был достаточно большой скепсис. Помогает нам в этой истории 152-ФЗ, который фактически повысил требования к информационной безопасности и обработке персональных данных. Он загоняет предприятия в использование локализированных решений – управляемых и понятных с точки зрения хранения данных и дальнейшей их обработки.
С нашей точки зрения рынок всех ниш, которые сейчас присутствуют в области ИИ, выглядит следующим образом.
На нижнем слое у нас «железячники» – разработчики чипов. Эта территория нам недоступна, тема не наша: мы оперируем тем, что есть. В основном это китайские разработчики.
Если подниматься выше, следующий слой – это разработчики языковых моделей. Собрать, запустить и обучить свою языковую модель – крайне ресурсоемкий процесс, и бизнес на текущий момент к этому не готов. Этим занимаются большие игроки: например, Яндекс, Сбер, который недавно открыл свою GigaChat.
Но есть масса бенчмарков, есть Open-source решения, открытые большие языковые модели. В принципе, они доступны, распространяются по понятным лицензионным правилам, и мы как разработчики можем брать эти LLM, чтобы заземлять их на бизнес.
Мы сфокусированы на трех компонентах верхнего слоя. Первый – это непосредственно сервисы искусственного интеллекта, которые оперируют LLM и работают на понятном железе. Второй – само приложение 1С-Коннект, которое, как я уже говорил выше, является очень развитой коммуникационной платформой. И третий – пользователи, которые с этим работают.
Пользователи тоже представляют собой целый пласт для изучения. Есть скептики, есть приверженцы использования искусственного интеллекта, есть фанаты. Сейчас все больше и больше людей вовлекается в эту историю. Конечно, людям не хватает знаний, им не хватает помощи в освоении инструментов. И здесь для нас, для IT-специалистов, для команд, которые вовлечены в IT-процессы, это тоже важная часть работы.
Автоматизация баз знаний: первые шаги
До появления ChatGPT и такого взрывного распространения генеративного искусственного интеллекта наша компания уже подступалась к реализации чего-то полезного. У нас вообще такой подход: нужно найти что-то полезное, что можно дать бизнесу, и дальше извлекать из этого пользу.
Мы делали автоматизацию работы с базами знаний. Так как через сервис проходит большое количество диалогов, внутри компании могут быть процессы поддержки, в которых эти диалоги появляются. Соответственно, наша задача была сделать так, чтобы искусственный интеллект мог проверять вопросы пользователей по существующей базе знаний и, если в базе уже есть заранее подготовленный ответ, выдавать его пользователю как готовый ответ.
Такой ход расширяет доступность услуг, делает их доступными 24/7, то есть переводит часть процесса в режим самообслуживания. И, конечно, экономит ресурсы сервисных специалистов, потому что часть вопросов система закрывает автоматически, без отвлечения сотрудников.
Также есть ряд косвенных эффектов. Например, начинающие специалисты могут таким образом дообучаться. Их знания сначала неполные, но за счет работы с автоматизированной базой знаний они могут расширять свою компетенцию и быстрее вовлекаться в процессы.
На текущий момент чуть больше 150 компаний внедрили данный инструментарий. Максимальная эффективность, которую мы видели, – примерно 40%. То есть 40% частотных вопросов закрываются без отвлечения сотрудников поддержки: через суфлеры, которые подсказывают готовые ответы, или через подсказчики для сервисных инженеров, которые могут применить готовый ответ как ответную статью.
Проблематика этого функционала заключается в том, что подготовка базы знаний требует высокой квалификации специалистов. Таких специалистов крайне мало, а если они есть на предприятии, они, как правило, уже загружены огромным количеством задач. Поэтому готовить базу знаний – это действительно очень непростая вещь.
И здесь нам открывает дорогу появившийся генеративный искусственный интеллект и большие языковые модели. О дальнейшем развитии этого контура я расскажу на следующих изображениях.
От демонстрационного стенда к реальным сценариям применения ИИ
Для того чтобы применить генеративный искусственный интеллект внутри предприятия, помимо технической локализации, которая нужна для выполнения текущих требований законодательства и корпоративной политики, мы собрали у себя демонстрационный стенд – работающий кластер. На него мы загрузили несколько LLM с публичных бенчмарков, подобрали их по метрикам так, чтобы закрывать текстовую генерацию, работу с медиафайлами, обработку файлов и генерацию изображений.
То есть все популярные микросервисы и микромеханики, которыми пользуются в публичных источниках, мы замкнули на корпоративный контур. И обнаружили очень большой всплеск интереса к такому механизму.
Есть корпоративная сеть, в ней есть корпоративный мессенджер со встроенными инструментами поддержки, и вдруг появляется линия, которая обеспечивает для каждого пользователя прямую связь с нейронками. Через них он может упражняться и с текстами, и с документами, и вообще как угодно.
Поначалу это были просто какие-то заигрывания: систему воспринимали как игрушку. Но со временем кристаллизовалось несколько мест, которые позволили, например, сервисным специалистам лучше и быстрее работать с документами: готовить технические задания, регламенты. Написать регламент – это тоже требует определенного таланта и навыков, не все это могут делать. И вот эта линия открыла возможность тем, кто этого не умеет, научиться делать это гораздо быстрее.
Например, схемы в этой статье я тоже сделал с помощью генерации. Что я сделал? Я объяснил тему, сказал, что мне нужно примерно 10 изображений, попросил рассказать, каким образом оптимально осветить мои темы. За одну минуту он набросал мне текст, подсветил, какие факторы нужно обязательно затронуть, выстроил приоритеты.
Дальше я уже собственной экспертизой все это подшлифовал – и вот, пожалуйста, за один вечер готовые изображения и схемы. А раньше мне нужно было две недели медитировать, чтобы что-то сделать. Сейчас этот процесс ускоряется.
И внутри предприятий мы увидели такой же эффект: сотрудники начали использовать это не с целью поиграть, а уже с целью извлечь пользу из своей профессии.
Второй шаг, который мы сделали: среди наших заказчиков, а их очень много – сотни, мы провели опрос. Спрашивали у них: «Как вы вообще видите применение ИИ внутри своей компании? Объясните нам, пожалуйста, бизнес-пользу, которую вы здесь и сейчас хотите получить».
Самым популярным ответом, к нашему удивлению, оказалось желание резюмировать все видеосовещания, которые проводятся в компании. Чтобы вся суммаризация, поставленные задачи и самые главные вопросы, которые обсуждались, были зафиксированы. И дальше на это не нужно было тратить время: можно было сложить все в систему документооборота и потом обращаться к материалам, если нужно вернуться к тематике какого-то совещания и понять, какие решения там были приняты. Мы зафиксировали это как популярный запрос.
Также обнаружили, что у сотрудников есть заметный интерес к применению ИИ для ускорения работы технической поддержки и технических служб. В общем, эту историю мы уже видели раньше, на предыдущих этапах.
Мы увидели, что люди хотят автоматизировать создание базы знаний из живых коммуникаций между сотрудниками поддержки и клиентами, а также из разного рода разбросанной документации предприятия. У кого-то она была в Confluence, у кого-то – в Word-документах, если говорить про внутреннюю документацию. У кого-то она вообще в амбарных книгах.
Эту информацию нужно как-то собрать, причесать, привести в порядок и внедрить в каждодневное использование внутри компании.
Удивительно, но наш GPT-ассистент с этими задачами уже умел справляться. Мы могли взять любой JPG- или PDF-документ и загнать его в текстовую генерацию с полным структурированием. Мы умеем брать данные со страниц: просто бросаешь ему URL-страницу и говоришь: «Прочитай, пожалуйста. Составь из этого структурированную базу знаний на основе вопросов и ответов».
Он обрабатывает такую информацию, и получается процесс унификации внутренних данных с использованием разного рода разбросанных и по-разному составленных источников. С помощью этого инструмента можно все структурировать и дальше уже запустить обработку.
Это как раз тот контур, который мы обозначили как применение в части ITSM-ESM, где действительно может быть польза.
Кейс 1: AI-резюме
Начали с простого: сделали самое популярное, исполнили то самое популярное желание – резюме всех видеозвонков, которые осуществляются через 1С-Коннект.
Работает все достаточно просто. Собрали видеозвонок – абсолютно классический, как везде: как в Яндекс Телемосте, как где угодно. Единственная оговорка в том, что эта система работает внутри предприятия, в закрытом контуре, где есть только ваши сотрудники или доверенные заказчики, где нет лишних людей, и корпоративная информация никуда не уплывает. Люди совещаются, а дальше готовится резюме.
Казалось бы, все просто, все это уже видели. Но неожиданной точкой роста для нас стало то, что технические инженеры, которые обычно не очень любят составлять мануалы и пользовательскую документацию, получили инструмент, через который они могут сделать примерно следующее.
Недавно у одного заказчика проходили киберучения. Они рассылали всем своим пользователям фейковое письмо, просили нажать на ссылку и через форму собирали персональные данные. И что вы думаете? Половина сотрудников смело нажала на эту ссылку, внесла туда свои данные и благополучно выполнила эту просьбу.
После этого технические специалисты должны были провести обучение пользователей: объяснить, как так не делать. Как была решена эта задача? Взяли самого говорящего технического инженера и попросили его объяснить пользователям, как распознать фейковые ссылки, такие рассылки и как правильно действовать.
Он просто взял телефон и наговорил своим, может быть, не очень литературным языком, как нужно действовать, как распознавать такие письма и так далее. И ИИ задокументировал этот спич сотрудника, формализовал его в нормальный, человечески читабельный вид.
Дальше были применены еще несколько подходов к обработке этого текста, и из него был составлен вполне пригодный мануал для конечных пользователей. Этот мануал уже непосредственно довели до конечных пользователей данного предприятия.
Увидев такие сценарии поведения, мы хотим подчеркнуть следующее: наибольшая эффективность в применении подобных инструментов достигается не в какой-то одной одноходовке, когда мы взяли микросервис, сделали «бамц» и получили быстрый эффект. Наибольшая эффективность достигается через цепочку применения разных промтов.
Мы берем какой-то неструктурированный, разбросанный материал, определенными промтами доводим его до полуготового состояния, а потом другим набором промтов делаем из него уже целевые нарезки.
В нашем простом случае это могут быть системы документов, ориентированные на разных пользователей: на грамотных, на технически подкованных, на широкую публику. Либо это могут быть маркетинговые статьи, где нужно раскрыть материал более богато и подробно.
Применение такого инструментария открыло дорогу к вещам, которых раньше на предприятиях не существовало, но которые дают реальную пользу.
Кейс 2. Электронный диспетчер
Следующий кейс, который я тоже хотел подсветить, – это работа телефонных служб. Это ситуация, когда на входе в предприятие есть некая горячая линия, куда звонят либо клиенты, либо внутренние сотрудники, а диспетчеры на базе этих звонков формируют входящие заявки.
Это очень распространенный сценарий, и наши заказчики часто просили интегрировать голосовую телефонию внутрь нашего продукта. Определенная интеграция там уже есть, но ее хотели дополнить: чтобы можно было прикрутить SIP, произвольную АТС и обеспечить работу дежурных служб.
Здесь нам тоже на помощь пришли микроинструменты с дополнительной системой цепочек промтов. Они позволили посадить на АТС электронный автоответчик, который собирает голосовые заявки от пользователей. Потом он их транскрибирует, обрабатывает через двухуровневый каталог услуг, регистрирует заявку уже непосредственно в ITSM-контуре предприятия и доставляет ее сервисному инженеру.
Выглядит это прямо канонически просто. Звонит пользователь. Диспетчер на автоответчике говорит: «Здравствуйте, расскажите, что у вас случилось. Я сейчас с голоса соберу заявку, и вам тут же вылетит инженер для ее устранения».
Пользователь говорит своим языком: «Что-то у меня дымок из компьютера пошел», «Что-то у меня мышка покраснела» – простым, понятным ему языком. Система определяет по этим словам приоритет, с которым нужно поставить заявку, тематику, наиболее подходящий каталог услуг, то есть название услуги и вид работ. И формирует заявку уже непосредственно в ITSM-системе, которая дальше по формальным правилам доставляется инженеру поддержки.
Кейс 3. Наполнение базы знаний
Выше я говорил о проблеме составления баз знаний. Она, в общем-то, решена таким же образом – путем цепочек микропромтов. Можно из простых диалогов и внутренней документации предприятия готовить ответные статьи с вопросами.
Там решена задача, связанная с дедупликацией этих статей: чтобы статьи не дублировались, автоматически проверяется наличие уже существующих материалов и обогащается тот контур, который создан.
Это построено, работает и даже приносит пользу. И заказчики, и пользователи очень довольны тем, что развитие действительно пошло дальше.
Это так называемое сочетание BERT – нейронки, которая работает на сравнение ответов, – и не генеративного RAG, а так называемого генеративного ИИ с добавленным контекстом. Это ситуация, когда объединение происходит на уровне данных. Эта штука сейчас тоже активно набирает обороты.
Кейс 4. Авто-отчеты с ИИ
ИИ-сервис анализирует работу сервисной службы, выделяет метрики, ранжирует частотные запросы, анализирует негативные отзывы.
Сервис можно настроить на службу, на сотрудника, через цепочку промптов сделать индивидуальные настройки.
Сотрудникам – индивидуальные рекомендации, руководству – регулярную справку о состоянии дел.
Резюме
У нас есть решение, когда предприятие может относительно недорого развернуть у себя локальный ресурс, развернуть на нем генеративный искусственный интеллект, действительно принести пользу и создать внутри движение по его внедрению.
Чтобы получить именно экономический эффект, нужно методологически выстраивать цепочку промтов. Не стоит ожидать быстрой реакции только от какого-то одного микросервиса. Это целая цепочка действий, которая эволюционно может привести к позитивному эффекту.
И важно следить за тем, чтобы цепочка была выстроена от пользователя – дальше на инструмент, на сервис, на языковую модель, на железку. Если все это взвешивать, нужно найти правильный баланс. Этот баланс существует.
Для внедрения такого типа инструментов на предприятиях должна быть надежная многофункциональная коммуникационная платформа. Мы здесь рекомендуем всем 1С-Коннект. Это очень зрелое решение, оно широко используется, и огромное количество компаний получает от него пользу.
*************
Статья написана по итогам доклада (видео), прочитанного на конференции INFOSTART TEAM EVENT.