ФСБ использует искусственный интеллект для анализа настроений в социальных сетях

29.12.2018      8619

Группировка Digital Revolution раскрыла информацию о новой разработке НИИ «Квант». Сотрудники института создавали для ФСБ интеллектуальную систему мониторинга общественного мнения и протестных настроений в социальных сетях.

Большой брат «Авенир»

НИИ «Квант» – закрытый институт, который находится в московском районе Ховрино. В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ. С 2008 года НИИ перевели в ведение ФСБ.

Подлинность взлома Digital Revolution подтвердила публикацией документов с описанием системы, а на главной странице сайта НИИ разместили изображение собак в капюшонах под тегом #квантнаш. Это логотип «цифрового сопротивления», созданный основателем «ВКонтакте» и мессенджера Telegram Павлом Дуровым.

«Авенир» – система, которая использует технологии глубокого машинного обучения для поиска информации в социальных сетях. По заданным ключевым словам она находит материалы, свидетельствующие о протестных настроениях. Название «Авенир» с иврита переводится как «защитник» или «воин».

В Digital Revolution подчеркнули: применение «Авенира» реализует контроль над интернетом в стране. Именно поэтому информацию о системе сделали достоянием гласности.

 

 

Возможности «Авенира»

Программисты добыли более 300 страниц документации. Это четыре материала с детальным описанием решения, датированные 2017 годом. Составителем документов значится сотрудник «Кванта» Михаил Пендюхов. Он неоднократно публиковал в узкоспециализированных изданиях статьи об искусственном интеллекте и машинном обучении.

Из документов следует, что «Авенир» умеет анализировать публикации в социальных сетях «ВКонтакте», Facebook, «Одноклассники» и Instagram. Задействуя самообучающиеся нейросети, он выполняет поиск по заданным ключевым словам.

Решение позволяет мониторить активность пользователей в потенциально протестных сообществах. Использовали систему и для мониторинга бизнес-конфликтов. В этом случае нейросеть не только ищет публикации по ключевым словам, но и пытается понять их смысл, чтобы определить, важна ли эта информация для расследования.

«Ангиме» – «Авенир» из Казахстана

Аналогичную «Авениру» систему мониторинга настроений уже поставили в Казахстан. Согласно документации, проект «Ангиме» создали в Москве в 2017 году. Его назначение – мониторинг социальных сетей и поиск недовольных.

Министерству информации страны «Ангиме» обошелся в 4,3 млн долларов. Генеральным подрядчиком выступила местная научно-исследовательская лаборатория «Квант», субподрядчиком – российское НИИ «Квант».

 

Документы с описанием системы «Авенир» и списком сотрудников «Кванта»

 

«Ангиме» умеет анализировать публикации в соцсетях и искать нарушения законодательства в публикациях печатных и электронных СМИ. В списке нарушений – не только терроризм и экстремизм, но и, к примеру, отсутствие гимна.

В инструкции сказано: «При обнаружении материалов, дискредитирующих государство либо содержащих критику в адрес государства (вне зависимости от того, актуальна тема или нет), а также других остроактуальных тем, находящихся на контроле, сотрудник предоставляет видеофрагмент (или ссылку на него в интернете) заинтересованным лица».

Журналисты выяснили, что активная деятельность «Кванта» в Казахстане стартовала в 2016 году. До этого организация не платила налогов в бюджет.

Подрядчиком работы стало представительство американской компании SAS. Оно занимается разработкой программного обеспечения для анализа текстов на казахском языке. Проект создается под названием «Анаграмма».

Есть и другие

Служба внешней разведки РФ могла заказать системы влияния на пользователей в социальных сетях еще в 2012 году. Есть информация о системе «Шторм-12» – средстве «продвижения специальной информации в социальных сетях». Исследование «Монитор-3» описывало методы негласного управления в интернете, «Диспут» – способы «разведки интернет-центров и региональных сегментов социальных сетей».

Официально российские власти используют системы «Медиалогия» и «Катюша» для мониторинга СМИ и соцсетей. Госконтракт с «Медиалогией» охватывает анализ передач федеральных и региональных телеканалов и радиостанций, статей в газетах и электронных СМИ.

Год назад «Медиалогия» стала разрабатывать платформу для мониторинга социальных сетей. Решение, которое создается по заказу правительства Московской области, должно анализировать посты более 600 млн аккаунтов в Facebook, Twitter, Instagram, «ВКонтакте» и «Одноклассниках».

Система должна обеспечивать чиновникам возможность ответить на проблемное сообщение, используя аккаунты местных органов власти. С ее помощью подмосковные власти также проводят опросы жителей в соцсетях. В 2019 году систему внедрят все региональные правительства.


Автор:
Обозреватель


На какие группы вы подписаны в социальных сетях?


Новостные сообщества (60%, 6 голосов)
60%
Познавательные группы: история, биология, физика (50%, 5 голосов)
50%
Сообщества программистов (50%, 5 голосов)
50%
Юмористические паблики (40%, 4 голосов)
40%
Свой вариант (в комментариях) (30%, 3 голосов)
30%
Киносообщества (20%, 2 голосов)
20%
Сообщества для автолюбителей (10%, 1 голосов)
10%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. Timur.V 56 29.12.18 16:47 Сейчас в теме
Эти системы не работают, если пользователи начинают необычно для ИИ писать сообщения, ссылка.
Приходится подключать живых людей для анализа трудно читаемого текста.

Можно разработать алгоритм, который будет формировать текст с изменяющимися условиями. (примерно как капчи работают от роботов)
Человек сможет прочитать, а робот - уже нет.

Пишите с ошибками и символами-"мусором" в словах. Добавьте к этому - без пробелов и знаков препинания :)

Это какие процессорные мощности нужны разбирать такие сообщения?
Легче админов сайтов-форумов и социальных сетей обязать включить в правила сайта - использование пользователями правил языка.
wowik; Serega-artem; Kochergov; +3 Ответить
3. VmvLer 29.12.18 17:00 Сейчас в теме
(1) Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%
4. TODD22 18 29.12.18 17:29 Сейчас в теме
(3)
Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%

А когда не было алгоритмов и компьютеров тогда чем было продиктовано?
hromovanton; boln; +2 Ответить
2. VmvLer 29.12.18 16:58 Сейчас в теме
перед тем как включить интернет я надеваю плащ-колпак из фольги и не переживаю по поводу дяди Стьопи
hromovanton; +1 Ответить
5. herfis 452 29.12.18 17:42 Сейчас в теме
2017 год? Поздновато включились.
6. Areal 14 29.12.18 17:42 Сейчас в теме
Почему ни у кого не возникает главного вопроса - "А зачем?" Ну вот зачем это нужно? Ну нашли недовольного, что дальше? Дадут конфетку, чтобы он улыбался? Или посадят за то, что он недоволен? Тогда напомните определение понятия "терроризм"
hromovanton; citicat; +2 Ответить
7. Timur.V 56 29.12.18 18:35 Сейчас в теме
(6)
"А зачем?"

Например,
скачите вы на лошади по Проспекту Путина. Цель - скакать прямо (постановка цели), не виляя зигзагом.
Вдруг, лошадь начинает немного забирать вправо т.е. поворачивать.
Хорошо, когда у вас есть глаза. Вы получает информацию (получение информации от объекта управления), анализируете её.
И принимаете решение (внесение корректировки в систему управления) - натянуть левый повод, чтобы выправить движение.
И делаете это до тех пор, пока лошадь вас не слушает (цель будет достигнута).

Посадки "террористов" из социальных сетей -это лишь один из множества элементов управления массой людей.

Цель управления Россией - построение высокодуховного, нравственного, здорового и материально обеспеченного населения!
Именно такую цель постоянно декларируют множество чиновников самого разного уровня.

С НОВЫМ ГОДОМ 2019!
Perfolenta; milov.aleksey; +2 1 Ответить
8. dobrynin.i.s 92 29.12.18 18:45 Сейчас в теме
"Название «Авенир» с иврита переводится как «защитник» или «воин»."
уши торчат вместе с пейсами за действиями "нашего" пгавительства
12. Evil Beaver 7604 01.01.19 17:52 Сейчас в теме
(8) Сама фраза наводит на подозрения о фейке. Уж очень желто. "Цифровое сопротивление" против ZOG, "Большой брат" и т.п....

Оно может и правда, но подано желтушно.

P.S. ну и источник bbc - тоже не добавляет доверия к материалу.
A_Max; hromovanton; +2 Ответить
9. MaxS 2527 29.12.18 19:04 Сейчас в теме
Другой ИИ запускает ботов и формирует произвольное настроение "общества". В результате обычные люди подаются управляемым настроениям. Как потом разобрать кто бот, кто человек-бот, а кто просто человек?
10. buganov 191 30.12.18 07:41 Сейчас в теме
(9) мне кажется, на такого настроителя быстро настроят минусометы и выкинут на мороз
11. Solovyeff 31.12.18 07:02 Сейчас в теме
Этот ИИ просто даст иллюзию контроля и не более, что приведет к еще более неверным решениям, ну все как обычно.
13. boln 1037 01.01.19 18:49 Сейчас в теме
В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ.
В 1950-60-е.

1982-1994. Лучшие годы жизни. Какой теперь позор на мою седую голову :)))

Оставьте свое сообщение

См. также

OpenAI опубликовала код системы распознавания речи Whisper

Новость Искусственный интеллект ИТ-новость

OpenAI открыла исходный код эталонной реализации на базе фреймворка PyTorch и набор уже обученных моделей для использования под лицензией MIT. Нейросеть используется для перевода речи в текст.

28.09.2022    1489    VKuser24342747    0       

Вторая версия среды разработки для плат Arduino вышла из бета-теста

Новость ИТ-новость Микроэлектроника

Arduino IDE 2.0 получила стабильную версию, в которой появилась поддержка автодополнения кода и темная тема. Разработка заняла несколько лет. Программа распространяется бесплатно.

23.09.2022    1405    VKuser24342747    0       

Основатель движения свободного ПО выпустил руководство по языку C

Новость Linux ИТ-новость Языки программирования

Ричард Мэттью Столлман, основатель Фонда свободного программного обеспечения, представил руководство по языку C и расширениям GNU. Пособие доступно всем желающим и предназначено как для опытных, так и начинающих программистов.

19.09.2022    1277    VKuser24342747    0       

«Ростелеком» предложил создать национальную экосистему на базе «Авроры»

Новость Импортозамещение ИТ-новость Мобильные приложения

Провайдер считает, что государственная мобильная экосистема поможет обеспечить технологическую независимость и экономический подъем страны. А ОС «Аврора» наиболее перспективная разработка для достижения этих целей.

15.09.2022    1346    VKuser24342747    5       

Яндекс выложил в открытый доступ инструмент для разработки мобильных приложений

Новость ИТ-новость Мобильные приложения Яндекс

Фреймворк DivKit от Яндекса стал доступен как open source решение. Инструмент позволяет менять интерфейс приложений без скачивания обновлений и значительно ускоряет мобильную разработку.

02.09.2022    1161    VKuser24342747    0       

Группа компаний «Астра» представила собственную мобильную ОС

Новость Linux ИТ-новость Мобильные приложения

Доработанная ОС Astra Linux Special Edition может быть запущена на большом числе мобильных устройств, в том числе на планшетах и смартфонах с процессорами на архитектурах ARM, «Эльбрус» и x86-64.

25.08.2022    819    VKuser24342747    1       

В России разработаны меры для решения проблемы нехватки ИТ-специалистов

Новость ИТ-новость

Вице-премьер Дмитрий Чернышенко сообщил, что сейчас экономике страны не хватает 1 млн ИТ-специалистов. Способы преодоления дефицита закреплены в программе нацпроекта «Цифровая экономика»

05.08.2022    1176    VKuser24342747    11       

Яндекс открыл доступ к фреймворку для создания приложений с микросервисной архитектурой

Новость GitHub ИТ-новость Яндекс

Инструмент Userver опубликован как бесплатное open source решение. Яндекс уже несколько лет эффективно его использует в своих приложениях Go, «Еда», «Лавка», «Доставка» и другие. Фреймворк находится в стадии бета – переезда на открытую разработку.

02.08.2022    1915    VKuser24342747    19       

Бизнес сможет использовать повышающий коэффициент для расходов на покупку ПО

Новость ИТ-новость

Принят закон, который позволяет компаниям учитывать расходы на отечественные программы и радиоэлектронное оборудование с коэффициентом 1,5. Решения должны быть включены в соответствующие реестры и относиться к ИИ.

26.07.2022    1774    VKuser24342747    0       

Минэкономразвития тестирует миграцию с Windows 10 на Astra Linux

Новость ИТ-новость

Министерство проводит эксперимент, в ходе которого сотрудники используют российскую ОС Astra Linux вместо Windows 10. По словам главы департамента, эксперимент проходит успешно.

11.07.2022    1338    VKuser24342747    0       

Вышла версия открытого текстового редактора Vim 9.0

Новость ИТ-новость

В приложение добавлен скриптовый язык с поддержкой компилируемых функций для создания плагинов, улучшена проверка правописания и автодополнения, предоставлен выбор цветовых схем.

07.07.2022    1420    VKuser24342747    0       

 «Яндекс» открыл доступ к SmartCaptcha и нейросети по генерации текстов 

Новость ИТ-новость Яндекс

Компания открыла доступ к алгоритму SmartCaptcha, который защищает сайт от спама и DDoS-атак, а также к проекту YaLM 100B, способному писать тексты на английском и русском языках. 

29.06.2022    1622    VKuser24342747    0       

«Яндекс» предложил разработчикам пройти диагностику технических навыков

Новость Кадровые агентства, подбор персонала ИТ-новость Яндекс

Компания запустила сервис, при помощи которого можно получить оценку своих технических навыков от специалистов «Яндекса». Тестирование включает онлайн-интервью и решение задач с реальных собеседований. 

27.06.2022    1539    VKuser24342747    1       

GitHub открыл доступ всем разработчикам к ИИ-помощнику Copilot по подписке

Новость GitHub Искусственный интеллект ИТ-новость

Github Copilot стал общедоступным, но для его использования пользователю репозитория нужно приобрести подписку. Хотя некоторые разработчики могут пользоваться инструментом бесплатно.

24.06.2022    1770    VKuser24342747    1       

В России планируют учредить Федерацию спортивного программирования

Новость ИТ-новость

Минцифры и Минспорта подписали меморандум, в котором закреплено сотрудничество ведомств по развитию в стране спортивного программирования и проведение первого официального чемпионата.

21.06.2022    1924    VKuser24342747    6       

Microsoft окончательно прекратила поддержку Internet Explorer

Новость Интернет ИТ-новость

Microsoft прекратила выпуск обновлений для своего браузера Internet Explorer, а с августа начнет удалять приложение из актуальных версий Windows. Эксперты полагают, что из-за этого пострадает много бизнес-пользователей.

17.06.2022    2178    VKuser24342747    4       

В России начал работу отечественный сервис мониторинга сбоев

Новость Импортозамещение Интернет ИТ-новость

Российская компания BrandAnalytics запустила платформу «Детектор сбоев», предназначенную для отслеживания работоспособности сайтов и сервисов, в том числе русскоязычных.

16.06.2022    1434    VKuser24342747    0       

Минцифры запустило систему отслеживания поддельных сайтов

Новость Безопасность Интернет ИТ-новость

Информационная система под названием «Антифишинг» способна обнаруживать мошеннические веб-ресурсы, которые выглядят как официальные сайты госорганов, компаний и соцсетей.

14.06.2022    2288    VKuser24342747    0       

GitHub прекратил поддержку редактора Atom ради перехода на VS Code

Новость GitHub ИТ-новость

GitHub объявил о прекращении разработки редактора кода Atom. К концу года все проекты в этом приложении станут доступны только для чтения. Причина – медленное развитие приложения.

10.06.2022    2132    VKuser24342747    2       

Вышла новая версия открытой операционной системы AlmaLinux 9

Новость Linux ИТ-новость

AlmaLinux – альтернатива CentOS, поддержка которой будет прекращена в 2024 году. В девятой версии ОС добавлено больше инструментов безопасности и обновлена среда разработки приложений.

09.06.2022    3271    VKuser24342747    2       

GitLab представила новый релиз платформы совместной разработки

Новость GIT ИТ-новость

Вышел релиз ИТ-хостинга для совместной разработки GitLab 15.0. В нем проведена подготовительная работа для перехода на VS Code, а также добавлен расширенный поиск и возможность управлять несколькими итерациями.

01.06.2022    2221    VKuser24342747    2       

Минцифры создаст единую цифровую платформу для акцептования оферт

Новость ИТ-новость Цифровая экономика

Правительство подготовило проект постановления, которое позволяет провести эксперимент по разработке Единой цифровой платформы ведения и акцептования оферт. В тестовом режиме сервис проработает до января 2023 года.

31.05.2022    1503    VKuser24342747    0       

VK совместно с Минцифры запустили магазин приложений RuStore

Новость Импортозамещение ИТ-новость Мобильные приложения

Компания начала бета-тестирование официального магазина приложений для Android. В маркетплейсе уже сейчас доступно более ста программ, часть из которых недоступны в Google Play.

27.05.2022    2715    VKuser24342747    5       

В GitHub появилась нативная поддержка математических выражений в md-файлах

Новость GitHub ИТ-новость

Команда GitHub рассказала о новой функции, которая позволяет записывать математические формулы в Markdown. Разработчики впервые попросили добавить эту возможность восемь лет назад.

26.05.2022    2061    VKuser24342747    0       

Национальный удостоверяющий центр наладил выпуск TLS-сертификатов

Новость Безопасность Импортозамещение Интернет ИТ-новость

Национальный удостоверяющий центр (НУЦ) предложил владельцам сайтов получить сертификаты безопасности с поддержкой технологии прозрачности. Они работают в российских браузерах.

25.05.2022    2225    VKuser24342747    1