В России разрабатываются сразу две системы для поиска в интернете информации, несущей угрозу. Одна выявит противоправные материалы, вторая – обнаружит факты фальсификации истории и дипфейки.
Автоматизация поиска
Два тендера на разработку соответствующих систем разместил Главный радиочастотный центр (ГРЧЦ), подотчетный Роскомнадзору. Первый проект предусматривает создание программного комплекса «Окулус», который сможет находить в сети экстремистские материалы, порнографию, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству. Стоимость разработки ведомство оценило в 15 млн рублей, а завершение работ запланировано на 17 декабря 2021 года.
В документации сообщается, что сейчас поиск нарушений законодательства РФ в картинках и видео производится вручную. Внедрение системы «Окулус» позволит автоматизировать и ускорить этот процесс. В качестве основы проекта будет использован искусственный интеллект.
В марте этого года Facebook зарегистрировал в России торговую марку «Окулус», под которой выпускается VR-система компании Oculus Rift. Зампред комитета по интеллектуальной собственности РСПП Анатолий Семенов полагает, что у ГРЧЦ могут возникнуть проблемы, если ведомство начнет применять свою разработку в коммерческих целях под аналогичным названием.
Критерии провокации
Второй тендер ГРЧЦ нацелен на исследование возможности применять искусственный интеллект для распознавания смысла карикатур, обнаружения фальсификации истории и ложной информации, созданной при помощи технологии Deep Fake, а также провокационных и недостоверных материалов в сети. Система должна сканировать сайты и СМИ, принимать решение о реагировании на тот или иной контент и передавать собранные сведения в уполномоченные органы.
Научно-исследовательская работа получила название «Основа». Исполнитель должен до 20 декабря 2021 года изучить возможности нейросетей и машинного обучения для решения поставленных задач и подготовить почву для разработки автоматизированного решения «Вепрь», которое будет выявлять угрозы в сети на ранней стадии. Стоимость исследования – 10 млн рублей. Полноценный запуск системы запланирован на 2024 год. Перед этим исполнитель сформирует дорожную карту проекта и подготовит техзадание.
Во время исследовательской работы авторам предстоит установить критерии, по которым будет возможно определить информационную угрозу. Должны быть прописаны понятия провокации, недостоверной информации, смысловой и контекстной копии, а также определены термины «информационная цель» и «атака».
Исследование также включает изучение возможности обнаружения источников, способов создания и истории распространения недостоверных данных. Будет установлено, сможет ли ИИ определять степень значимости сведений, ключевые темы и упоминаемых людей в мультимедийных материалах. Исполнитель проверит, достаточно ли нейросетевых инструментов для того, чтобы определять содержимое карикатур и комиксов.