Российский ИИ будет искать запрещенную информацию в сети

23.09.2021      15410

В России разрабатываются сразу две системы для поиска в интернете информации, несущей угрозу. Одна выявит противоправные материалы, вторая – обнаружит факты фальсификации истории и дипфейки.

Автоматизация поиска

Два тендера на разработку соответствующих систем разместил Главный радиочастотный центр (ГРЧЦ), подотчетный Роскомнадзору. Первый проект предусматривает создание программного комплекса «Окулус», который сможет находить в сети экстремистские материалы, порнографию, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству. Стоимость разработки ведомство оценило в 15 млн рублей, а завершение работ запланировано на 17 декабря 2021 года.

В документации сообщается, что сейчас поиск нарушений законодательства РФ в картинках и видео производится вручную. Внедрение системы «Окулус» позволит автоматизировать и ускорить этот процесс. В качестве основы проекта будет использован искусственный интеллект.

В марте этого года Facebook зарегистрировал в России торговую марку «Окулус», под которой выпускается VR-система компании Oculus Rift. Зампред комитета по интеллектуальной собственности РСПП Анатолий Семенов полагает, что у ГРЧЦ могут возникнуть проблемы, если ведомство начнет применять свою разработку в коммерческих целях под аналогичным названием.

Критерии провокации

Второй тендер ГРЧЦ нацелен на исследование возможности применять искусственный интеллект для распознавания смысла карикатур, обнаружения фальсификации истории и ложной информации, созданной при помощи технологии Deep Fake, а также провокационных и недостоверных материалов в сети. Система должна сканировать сайты и СМИ, принимать решение о реагировании на тот или иной контент и передавать собранные сведения в уполномоченные органы.

Научно-исследовательская работа получила название «Основа». Исполнитель должен до 20 декабря 2021 года изучить возможности нейросетей и машинного обучения для решения поставленных задач и подготовить почву для разработки автоматизированного решения «Вепрь», которое будет выявлять угрозы в сети на ранней стадии. Стоимость исследования – 10 млн рублей. Полноценный запуск системы запланирован на 2024 год. Перед этим исполнитель сформирует дорожную карту проекта и подготовит техзадание.

Во время исследовательской работы авторам предстоит установить критерии, по которым будет возможно определить информационную угрозу. Должны быть прописаны понятия провокации, недостоверной информации, смысловой и контекстной копии, а также определены термины «информационная цель» и «атака».

Исследование также включает изучение возможности обнаружения источников, способов создания и истории распространения недостоверных данных. Будет установлено, сможет ли ИИ определять степень значимости сведений, ключевые темы и упоминаемых людей в мультимедийных материалах. Исполнитель проверит, достаточно ли нейросетевых инструментов для того, чтобы определять содержимое карикатур и комиксов.


Автор:
Аналитик


Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. Kutuzov 737 23.09.21 22:44 Сейчас в теме
Что еще за "Основа", назвали бы сразу уж "Скрепы", теперь можно не стесняться, выборы прошли.
KazanKokos; chg; Поручик; buganov; retr0; Obertone; Neuroproton; +7 Ответить
4. chg 24.09.21 09:22 Сейчас в теме
(1)основаскрепцарьБатюшкуславь, вот как будет
2. Дон Кихот 24.09.21 08:22 Сейчас в теме
С помощью ИИ будут бороться с правдой. Эти переплюнут и Оруэлла в желании сохранить власть. Может те кто создают ИИ задумаются о том что они делают? А равнодушные наконец поймут что не смогут отсидеться в домике.
KazanKokos; +1 Ответить
3. Поручик 4670 24.09.21 08:39 Сейчас в теме
При желании, порнографию можно найти на инфостарте. Смотря как алгоритм вывернуть.
5. chg 24.09.21 09:23 Сейчас в теме
(3)1с и есть сплошь БДСМ, всё, мы под колпаком
Поручик; +1 Ответить
6. KazanKokos 10 24.09.21 14:27 Сейчас в теме
(3) достаточно к любому запросу в яндекс добавить слово порно и получишь то чего нет на порнхаб. VK то же хранит то что даже на порнхабе запрещено. Это два российских порноархива. В гугл такого не найдешь. Так что это закон не про порно а про "скрепы" :)
Поручик; +1 Ответить
Оставьте свое сообщение

См. также

Госдума утвердила законопроект о бессрочное праве на кредитные каникулы

Новость Законодательство ИТ-Новость

Со следующего года все россияне смогут в любое время оформить кредитные каникулы по потребительским кредитам, если попали в трудную жизненную ситуацию. Соответствующий законопроект одобрен Госдумой.

21.07.2023    749    VKuser24342747    0       

2

Открываем рубрику «Книжный клуб»: подборка полезных книг для разработчиков

Новость Развлечения, искусство, спорт Конкурс ИТ-Новость Сообщество

Редакция Инфостарта продолжает тестировать новые форматы: в эфире рубрика книжный клуб. Раз в месяц мы будем публиковать подборку полезных книг от разработчиков и для разработчиков. 

06.02.2023    9102    a_a_burlakov    46       

41

Мем недели: нейросеть ChatGPT написала диплом российскому студенту. И он его защитил

Новость Развлечения, искусство, спорт Искусственный интеллект

Студент одного из российских вузов Александр Жадан рассказал, как написал дипломную работу с помощью нейросети ChatGPT. Чат-бот генерировал текст диплома, а Александр формулировал запросы и редактировал текст нейросети.

03.02.2023    5383    user997184    6       

3

Правительство изменило условия предоставления льготной ипотеки ИТ-специалистам

Новость ИТ-компания ИТ-льготы ИТ-Новость Минцифры

Правительство расширило программу выдачи кредитов на жилье под низкий процент для сотрудников ИТ-компаний. Увеличен возрастной диапазон, снижены требования к заработной плате.

31.01.2023    5784    VKuser24342747    9       

1

Минцифры открыло прием заявок на отсрочку от весеннего призыва

Новость ИТ-льготы ИТ-Новость Минцифры

Собирать информацию для передачи в Министерство обороны ведомство будет до 6 февраля. Право на отсрочку имеют ИТ-специалисты, работающие в аккредитованных компаниях.

24.01.2023    7105    VKuser24342747    0       

2

ФНС рассказала о темпах выдачи электронных подписей по новым правилам

Новость ИТ-Новость ФНС

Налоговики опубликовали первые статистические данные о выданных по новым правилам электронных подписях. А также призвали пользователей оформить новые сертификаты КЭП до конца этого года, не дожидаясь январского ажиотажа.

18.10.2022    6805    ЕленаЧерепнева    0       

1

Минобороны предоставит сотрудникам ИТ-компаний отсрочку от частичной мобилизации

Новость ИТ-Новость

Министерство для обеспечения работы высокотехнологической отрасли намерено освободить от частичной мобилизации разработчиков с высшим образованием из аккредитованных в Минцифры ИТ-компаний.

27.09.2022    5390    VKuser24342747    10       

4

Граждане смогут управлять своими персональными данными через Госуслуги

Новость Безопасность ИТ-Новость

Минцифры намерено создать реестр, в котором будут представлены все согласия на обработку персональных данных. Россияне получат к нему доступ через Госуслуги и смогут отзывать собственные разрешения.

16.09.2022    7833    VKuser24342747    1       

4

В дипломах выпускников колледжей появятся QR-коды со сведениями о компетенциях

Новость ИТ-Новость Образование Цифровая экономика

Минпросвещения сообщило, что при помощи кода можно будет получить подробную информацию о теоретических знаниях и практических навыках студента. Это упростит трудоустройство выпускников.

23.08.2022    6033    VKuser24342747    0       

1

Банки обяжут идентифицировать клиентов через биометрическую систему

Новость Банки Безопасность ИТ-Новость

Центробанк планирует установить обязательное условие регистрации новых клиентов – прохождение идентификации через единую биометрическую систему (ЕБС). Регулятор считает действующие методы регистрации ненадежными.

22.07.2022    5386    VKuser24342747    0       

0

Минцифры запустило на «Госуслугах» сервис с информацией о мерах поддержки ИТ-отрасли

Новость Импортозамещение ИТ-Новость

В новом разделе можно узнать о действующих льготах и преференциях, а также ознакомиться с последними новостями о реализации проектов поддержки и нормативными документами.

10.06.2022    5566    VKuser24342747    0       

2

Минцифры запустит цифровые кафедры в более чем 100 вузах России

Новость ИТ-Новость Минцифры Образование Цифровая экономика

Глава Минцифры Максут Шадаев рассказал о старте программы дополнительного обучения студентов, школьников и взрослых, в ходе которой они смогут овладеть цифровой специальностью.

10.06.2022    6705    VKuser24342747    0       

1

Госдума одобрила к первому чтению упрощенное получение ВНЖ для ИТ-специалистов

Новость ИТ-Новость

Госдума приступила к рассмотрению законопроекта, упрощающего процедуру получения вида на жительство для иностранных разработчиков и их семей. Документ получил также одобрение Совета Федерации.

08.06.2022    5429    VKuser24342747    7       

1

На сайте «Госуслуги» заработал справочник по льготной ипотеке для ИТ-специалистов

Новость ИТ-Новость

На портале работники ИТ-индустрии могут узнать, имеют ли право на получение кредита, где можно его оформить и на каких условиях. Льготная ипотека предоставляется в рамках поддержки ИТ-отрасли.

02.06.2022    6604    VKuser24342747    5       

2

Правительство переведет большую часть госуслуг в онлайн до конца 2023 года

Новость ИТ-Новость Цифровая экономика

Правительство подготовило концепцию поэтапного перехода к цифровому формату предоставления госуслуг. Россияне смогут воспользоваться сервисами в режиме 24/7.

21.04.2022    8478    VKuser24342747    0       

4

В России будут готовить киберспортсменов – с нормативами по бегу и приседаниям

Новость ИТ-Новость

Министерство спорта утвердило стандарт подготовки по компьютерному спорту. Перечня игр или количества фрагов на разряд там нет – зато есть нормативы по общей физической подготовке.

24.01.2022    12945    user1015646    5       

2

«Госуслуги» интегрируют с государственной биометрической системой

Новость ИТ-Новость Минцифры Цифровая экономика

Заходить на сайт «Госуслуг» станет проще. Единую систему идентификации и аутентификации (ЕСИА) сервиса интегрируют с «Единой биометрической системой» (ГИС ЕБС) – Минцифры заключило соответствующий контракт с «Ростелекомом».

24.01.2022    13174    user1015646    0       

0

Унылые пользовательские соглашения-многостраничники могут исчезнуть

Новость ИТ-Новость

Прочитать до конца пользовательское соглашение и понять все юридические формулировки в нем способен только действительно упорный человек. Но вскоре соглашения могут стать короче и понятнее – в США разрабатывают соответствующий законопроект.

18.01.2022    8374    user1015646    0       

3

Стартап с российскими корнями оценили в 17,5 млрд долларов США

Новость ИТ-Новость Управление проектами

Стартап Miro, основанный выходцами из России, привлек 400 млн долларов США в рамках инвестиционного раунда С. В целом же компанию оценили в 17,5 млрд долларов.

12.01.2022    13256    user1015646    2       

4

Банк России с января начнет собирать обезличенные данные о денежных переводах россиян

Новость Банки ИТ-Новость

Центробанк с 2022 года ужесточит контроль потенциально нелегальных платежей между физлицами. Некоторые банки сообщили о необходимости передавать личные данные граждан, но ЦБ отрицает эту информацию.

30.12.2021    19051    VKuser24342747    3       

0

Жители России смогут получить зарплату через СБП

Новость Банки ИТ-Новость Цифровая экономика

Система быстрых платежей, запущенная в начале 2019 года, позволяет моментально переводить деньги, оплачивать товары и услуги. В 2022 году СБП начнут использовать и для выплаты зарплат – правда, пока лишь в пилотном режиме.

27.12.2021    18628    user1015646    3       

1

Госдума начала рассмотрение закона о базовом доходе для семей с детьми

Новость Законодательство ИТ-Новость

В Госдуму внесен законопроект, который устанавливает обязательные выплаты для семей, в которых воспитываются дети до 18 лет. Платежи будут рассчитываться в зависимости от числа членов семейства.

22.12.2021    18899    VKuser24342747    8       

3

«Google Диск» не позволит расшаривать файлы, нарушающие правила сервиса

Новость Google Безопасность ИТ-Новость

Сервис «Google Диск» ввел ограничение на доступ к загруженным файлам, если они нарушают политику компании. Пользователи получат уведомление, если их контент не соответствует правилам хранилища.

21.12.2021    25821    VKuser24342747    3       

1

В России может появиться право на отказ от интернета

Новость Интернет ИТ-Новость

Совет при президенте по правам человека (СПЧ) представил Концепцию по защите прав и свобод человека и гражданина в цифровом пространстве. Одно из положений документа – возможность отказаться от сетевого взаимодействия.

17.12.2021    22708    VKuser24342747    30       

1

На Госуслугах появилось проактивное информирование по сервисам ОМС

Новость ИТ-Новость Здравоохранение Минцифры Мобильные приложения Цифровая экономика

Фонд обязательного медицинского страхования (ФОМС) совместно с Минцифры запустил услугу уведомления граждан о процессе получения медицинских услуг по ОМС.

07.12.2021    16831    VKuser24342747    1       

1