Российский ИИ будет искать запрещенную информацию в сети

23.09.2021      15463

В России разрабатываются сразу две системы для поиска в интернете информации, несущей угрозу. Одна выявит противоправные материалы, вторая – обнаружит факты фальсификации истории и дипфейки.

Автоматизация поиска

Два тендера на разработку соответствующих систем разместил Главный радиочастотный центр (ГРЧЦ), подотчетный Роскомнадзору. Первый проект предусматривает создание программного комплекса «Окулус», который сможет находить в сети экстремистские материалы, порнографию, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству. Стоимость разработки ведомство оценило в 15 млн рублей, а завершение работ запланировано на 17 декабря 2021 года.

В документации сообщается, что сейчас поиск нарушений законодательства РФ в картинках и видео производится вручную. Внедрение системы «Окулус» позволит автоматизировать и ускорить этот процесс. В качестве основы проекта будет использован искусственный интеллект.

В марте этого года Facebook зарегистрировал в России торговую марку «Окулус», под которой выпускается VR-система компании Oculus Rift. Зампред комитета по интеллектуальной собственности РСПП Анатолий Семенов полагает, что у ГРЧЦ могут возникнуть проблемы, если ведомство начнет применять свою разработку в коммерческих целях под аналогичным названием.

Критерии провокации

Второй тендер ГРЧЦ нацелен на исследование возможности применять искусственный интеллект для распознавания смысла карикатур, обнаружения фальсификации истории и ложной информации, созданной при помощи технологии Deep Fake, а также провокационных и недостоверных материалов в сети. Система должна сканировать сайты и СМИ, принимать решение о реагировании на тот или иной контент и передавать собранные сведения в уполномоченные органы.

Научно-исследовательская работа получила название «Основа». Исполнитель должен до 20 декабря 2021 года изучить возможности нейросетей и машинного обучения для решения поставленных задач и подготовить почву для разработки автоматизированного решения «Вепрь», которое будет выявлять угрозы в сети на ранней стадии. Стоимость исследования – 10 млн рублей. Полноценный запуск системы запланирован на 2024 год. Перед этим исполнитель сформирует дорожную карту проекта и подготовит техзадание.

Во время исследовательской работы авторам предстоит установить критерии, по которым будет возможно определить информационную угрозу. Должны быть прописаны понятия провокации, недостоверной информации, смысловой и контекстной копии, а также определены термины «информационная цель» и «атака».

Исследование также включает изучение возможности обнаружения источников, способов создания и истории распространения недостоверных данных. Будет установлено, сможет ли ИИ определять степень значимости сведений, ключевые темы и упоминаемых людей в мультимедийных материалах. Исполнитель проверит, достаточно ли нейросетевых инструментов для того, чтобы определять содержимое карикатур и комиксов.


Автор:
Аналитик


См. также

Новость Законодательство ИТ-Новость

Со следующего года все россияне смогут в любое время оформить кредитные каникулы по потребительским кредитам, если попали в трудную жизненную ситуацию. Соответствующий законопроект одобрен Госдумой.

21.07.2023    846    VKuser24342747    0       

2

Новость Развлечения, искусство, спорт Конкурс ИТ-Новость Сообщество

Редакция Инфостарта продолжает тестировать новые форматы: в эфире рубрика книжный клуб. Раз в месяц мы будем публиковать подборку полезных книг от разработчиков и для разработчиков. 

06.02.2023    9378    a_a_burlakov    46       

41

Новость Развлечения, искусство, спорт Искусственный интеллект

Студент одного из российских вузов Александр Жадан рассказал, как написал дипломную работу с помощью нейросети ChatGPT. Чат-бот генерировал текст диплома, а Александр формулировал запросы и редактировал текст нейросети.

03.02.2023    5560    user997184    6       

3

Новость ИТ-компания ИТ-льготы ИТ-Новость Минцифры

Правительство расширило программу выдачи кредитов на жилье под низкий процент для сотрудников ИТ-компаний. Увеличен возрастной диапазон, снижены требования к заработной плате.

31.01.2023    5865    VKuser24342747    9       

1

Новость ИТ-льготы ИТ-Новость Минцифры

Собирать информацию для передачи в Министерство обороны ведомство будет до 6 февраля. Право на отсрочку имеют ИТ-специалисты, работающие в аккредитованных компаниях.

24.01.2023    7215    VKuser24342747    0       

2

Новость ИТ-Новость ФНС

Налоговики опубликовали первые статистические данные о выданных по новым правилам электронных подписях. А также призвали пользователей оформить новые сертификаты КЭП до конца этого года, не дожидаясь январского ажиотажа.

18.10.2022    7072    ЕленаЧерепнева    0       

1

Новость ИТ-Новость

Министерство для обеспечения работы высокотехнологической отрасли намерено освободить от частичной мобилизации разработчиков с высшим образованием из аккредитованных в Минцифры ИТ-компаний.

27.09.2022    5480    VKuser24342747    10       

4

Новость Безопасность ИТ-Новость

Минцифры намерено создать реестр, в котором будут представлены все согласия на обработку персональных данных. Россияне получат к нему доступ через Госуслуги и смогут отзывать собственные разрешения.

16.09.2022    7913    VKuser24342747    1       

4
Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. Kutuzov 744 23.09.21 22:44 Сейчас в теме
Что еще за "Основа", назвали бы сразу уж "Скрепы", теперь можно не стесняться, выборы прошли.
KazanKokos; chg; Поручик; bugagashenka; retr0; Obertone; Neuroproton; +7 Ответить
4. chg 24.09.21 09:22 Сейчас в теме
(1)основаскрепцарьБатюшкуславь, вот как будет
2. Дон Кихот 24.09.21 08:22 Сейчас в теме
С помощью ИИ будут бороться с правдой. Эти переплюнут и Оруэлла в желании сохранить власть. Может те кто создают ИИ задумаются о том что они делают? А равнодушные наконец поймут что не смогут отсидеться в домике.
KazanKokos; +1 Ответить
3. Поручик 4683 24.09.21 08:39 Сейчас в теме
При желании, порнографию можно найти на инфостарте. Смотря как алгоритм вывернуть.
5. chg 24.09.21 09:23 Сейчас в теме
(3)1с и есть сплошь БДСМ, всё, мы под колпаком
Поручик; +1 Ответить
6. KazanKokos 11 24.09.21 14:27 Сейчас в теме
(3) достаточно к любому запросу в яндекс добавить слово порно и получишь то чего нет на порнхаб. VK то же хранит то что даже на порнхабе запрещено. Это два российских порноархива. В гугл такого не найдешь. Так что это закон не про порно а про "скрепы" :)
Поручик; +1 Ответить
Оставьте свое сообщение