Возврат к списку

ФСБ использует искусственный интеллект для анализа настроений в социальных сетях

29.12.2018     

Группировка Digital Revolution раскрыла информацию о новой разработке НИИ «Квант». Сотрудники института создавали для ФСБ интеллектуальную систему мониторинга общественного мнения и протестных настроений в социальных сетях.

Большой брат «Авенир»

НИИ «Квант» – закрытый институт, который находится в московском районе Ховрино. В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ. С 2008 года НИИ перевели в ведение ФСБ.

Подлинность взлома Digital Revolution подтвердила публикацией документов с описанием системы, а на главной странице сайта НИИ разместили изображение собак в капюшонах под тегом #квантнаш. Это логотип «цифрового сопротивления», созданный основателем «ВКонтакте» и мессенджера Telegram Павлом Дуровым.

«Авенир» – система, которая использует технологии глубокого машинного обучения для поиска информации в социальных сетях. По заданным ключевым словам она находит материалы, свидетельствующие о протестных настроениях. Название «Авенир» с иврита переводится как «защитник» или «воин».

В Digital Revolution подчеркнули: применение «Авенира» реализует контроль над интернетом в стране. Именно поэтому информацию о системе сделали достоянием гласности.

 

 

Возможности «Авенира»

Программисты добыли более 300 страниц документации. Это четыре материала с детальным описанием решения, датированные 2017 годом. Составителем документов значится сотрудник «Кванта» Михаил Пендюхов. Он неоднократно публиковал в узкоспециализированных изданиях статьи об искусственном интеллекте и машинном обучении.

Из документов следует, что «Авенир» умеет анализировать публикации в социальных сетях «ВКонтакте», Facebook, «Одноклассники» и Instagram. Задействуя самообучающиеся нейросети, он выполняет поиск по заданным ключевым словам.

Решение позволяет мониторить активность пользователей в потенциально протестных сообществах. Использовали систему и для мониторинга бизнес-конфликтов. В этом случае нейросеть не только ищет публикации по ключевым словам, но и пытается понять их смысл, чтобы определить, важна ли эта информация для расследования.

«Ангиме» – «Авенир» из Казахстана

Аналогичную «Авениру» систему мониторинга настроений уже поставили в Казахстан. Согласно документации, проект «Ангиме» создали в Москве в 2017 году. Его назначение – мониторинг социальных сетей и поиск недовольных.

Министерству информации страны «Ангиме» обошелся в 4,3 млн долларов. Генеральным подрядчиком выступила местная научно-исследовательская лаборатория «Квант», субподрядчиком – российское НИИ «Квант».

 

Документы с описанием системы «Авенир» и списком сотрудников «Кванта»

 

«Ангиме» умеет анализировать публикации в соцсетях и искать нарушения законодательства в публикациях печатных и электронных СМИ. В списке нарушений – не только терроризм и экстремизм, но и, к примеру, отсутствие гимна.

В инструкции сказано: «При обнаружении материалов, дискредитирующих государство либо содержащих критику в адрес государства (вне зависимости от того, актуальна тема или нет), а также других остроактуальных тем, находящихся на контроле, сотрудник предоставляет видеофрагмент (или ссылку на него в интернете) заинтересованным лица».

Журналисты выяснили, что активная деятельность «Кванта» в Казахстане стартовала в 2016 году. До этого организация не платила налогов в бюджет.

Подрядчиком работы стало представительство американской компании SAS. Оно занимается разработкой программного обеспечения для анализа текстов на казахском языке. Проект создается под названием «Анаграмма».

Есть и другие

Служба внешней разведки РФ могла заказать системы влияния на пользователей в социальных сетях еще в 2012 году. Есть информация о системе «Шторм-12» – средстве «продвижения специальной информации в социальных сетях». Исследование «Монитор-3» описывало методы негласного управления в интернете, «Диспут» – способы «разведки интернет-центров и региональных сегментов социальных сетей».

Официально российские власти используют системы «Медиалогия» и «Катюша» для мониторинга СМИ и соцсетей. Госконтракт с «Медиалогией» охватывает анализ передач федеральных и региональных телеканалов и радиостанций, статей в газетах и электронных СМИ.

Год назад «Медиалогия» стала разрабатывать платформу для мониторинга социальных сетей. Решение, которое создается по заказу правительства Московской области, должно анализировать посты более 600 млн аккаунтов в Facebook, Twitter, Instagram, «ВКонтакте» и «Одноклассниках».

Система должна обеспечивать чиновникам возможность ответить на проблемное сообщение, используя аккаунты местных органов власти. С ее помощью подмосковные власти также проводят опросы жителей в соцсетях. В 2019 году систему внедрят все региональные правительства.


Автор:
Ксения Шестакова Обозреватель


На какие группы вы подписаны в социальных сетях?


Новостные сообщества (60%, 6 голосов)
60%
Познавательные группы: история, биология, физика (50%, 5 голосов)
50%
Сообщества программистов (50%, 5 голосов)
50%
Юмористические паблики (40%, 4 голосов)
40%
Свой вариант (в комментариях) (30%, 3 голосов)
30%
Киносообщества (20%, 2 голосов)
20%
Сообщества для автолюбителей (10%, 1 голосов)
10%

Комментарии
Избранное Подписка Сортировка: Древо
1. Timur.V 40 29.12.18 16:47 Сейчас в теме
Эти системы не работают, если пользователи начинают необычно для ИИ писать сообщения, ссылка.
Приходится подключать живых людей для анализа трудно читаемого текста.

Можно разработать алгоритм, который будет формировать текст с изменяющимися условиями. (примерно как капчи работают от роботов)
Человек сможет прочитать, а робот - уже нет.

Пишите с ошибками и символами-"мусором" в словах. Добавьте к этому - без пробелов и знаков препинания :)

Это какие процессорные мощности нужны разбирать такие сообщения?
Легче админов сайтов-форумов и социальных сетей обязать включить в правила сайта - использование пользователями правил языка.
wowik; Serega-artem; Kochergov; +3 Ответить
3. VmvLer 29.12.18 17:00 Сейчас в теме
(1) Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%
4. TODD22 17 29.12.18 17:29 Сейчас в теме
(3)
Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%

А когда не было алгоритмов и компьютеров тогда чем было продиктовано?
hromovanton; boln; +2 Ответить
2. VmvLer 29.12.18 16:58 Сейчас в теме
перед тем как включить интернет я надеваю плащ-колпак из фольги и не переживаю по поводу дяди Стьопи
hromovanton; +1 Ответить
5. herfis 271 29.12.18 17:42 Сейчас в теме
2017 год? Поздновато включились.
6. Areal 7 29.12.18 17:42 Сейчас в теме
Почему ни у кого не возникает главного вопроса - "А зачем?" Ну вот зачем это нужно? Ну нашли недовольного, что дальше? Дадут конфетку, чтобы он улыбался? Или посадят за то, что он недоволен? Тогда напомните определение понятия "терроризм"
hromovanton; citicat; +2 Ответить
7. Timur.V 40 29.12.18 18:35 Сейчас в теме
(6)
"А зачем?"

Например,
скачите вы на лошади по Проспекту Путина. Цель - скакать прямо (постановка цели), не виляя зигзагом.
Вдруг, лошадь начинает немного забирать вправо т.е. поворачивать.
Хорошо, когда у вас есть глаза. Вы получает информацию (получение информации от объекта управления), анализируете её.
И принимаете решение (внесение корректировки в систему управления) - натянуть левый повод, чтобы выправить движение.
И делаете это до тех пор, пока лошадь вас не слушает (цель будет достигнута).

Посадки "террористов" из социальных сетей -это лишь один из множества элементов управления массой людей.

Цель управления Россией - построение высокодуховного, нравственного, здорового и материально обеспеченного населения!
Именно такую цель постоянно декларируют множество чиновников самого разного уровня.

С НОВЫМ ГОДОМ 2019!
milov.aleksey; +1 1 Ответить
8. dobrynin.i.s 92 29.12.18 18:45 Сейчас в теме
"Название «Авенир» с иврита переводится как «защитник» или «воин»."
уши торчат вместе с пейсами за действиями "нашего" пгавительства
12. Evil Beaver 5430 01.01.19 17:52 Сейчас в теме
(8) Сама фраза наводит на подозрения о фейке. Уж очень желто. "Цифровое сопротивление" против ZOG, "Большой брат" и т.п....

Оно может и правда, но подано желтушно.

P.S. ну и источник bbc - тоже не добавляет доверия к материалу.
A_Max; hromovanton; +2 Ответить
9. MaxS 1405 29.12.18 19:04 Сейчас в теме
Другой ИИ запускает ботов и формирует произвольное настроение "общества". В результате обычные люди подаются управляемым настроениям. Как потом разобрать кто бот, кто человек-бот, а кто просто человек?
10. buganov 52 30.12.18 07:41 Сейчас в теме
(9) мне кажется, на такого настроителя быстро настроят минусометы и выкинут на мороз
11. Solovyeff 31.12.18 07:02 Сейчас в теме
Этот ИИ просто даст иллюзию контроля и не более, что приведет к еще более неверным решениям, ну все как обычно.
13. boln 989 01.01.19 18:49 Сейчас в теме
В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ.
В 1950-60-е.

1982-1994. Лучшие годы жизни. Какой теперь позор на мою седую голову :)))

Оставьте свое сообщение