ФСБ использует искусственный интеллект для анализа настроений в социальных сетях

29.12.2018     

Группировка Digital Revolution раскрыла информацию о новой разработке НИИ «Квант». Сотрудники института создавали для ФСБ интеллектуальную систему мониторинга общественного мнения и протестных настроений в социальных сетях.

Большой брат «Авенир»

НИИ «Квант» – закрытый институт, который находится в московском районе Ховрино. В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ. С 2008 года НИИ перевели в ведение ФСБ.

Подлинность взлома Digital Revolution подтвердила публикацией документов с описанием системы, а на главной странице сайта НИИ разместили изображение собак в капюшонах под тегом #квантнаш. Это логотип «цифрового сопротивления», созданный основателем «ВКонтакте» и мессенджера Telegram Павлом Дуровым.

«Авенир» – система, которая использует технологии глубокого машинного обучения для поиска информации в социальных сетях. По заданным ключевым словам она находит материалы, свидетельствующие о протестных настроениях. Название «Авенир» с иврита переводится как «защитник» или «воин».

В Digital Revolution подчеркнули: применение «Авенира» реализует контроль над интернетом в стране. Именно поэтому информацию о системе сделали достоянием гласности.

 

 

Возможности «Авенира»

Программисты добыли более 300 страниц документации. Это четыре материала с детальным описанием решения, датированные 2017 годом. Составителем документов значится сотрудник «Кванта» Михаил Пендюхов. Он неоднократно публиковал в узкоспециализированных изданиях статьи об искусственном интеллекте и машинном обучении.

Из документов следует, что «Авенир» умеет анализировать публикации в социальных сетях «ВКонтакте», Facebook, «Одноклассники» и Instagram. Задействуя самообучающиеся нейросети, он выполняет поиск по заданным ключевым словам.

Решение позволяет мониторить активность пользователей в потенциально протестных сообществах. Использовали систему и для мониторинга бизнес-конфликтов. В этом случае нейросеть не только ищет публикации по ключевым словам, но и пытается понять их смысл, чтобы определить, важна ли эта информация для расследования.

«Ангиме» – «Авенир» из Казахстана

Аналогичную «Авениру» систему мониторинга настроений уже поставили в Казахстан. Согласно документации, проект «Ангиме» создали в Москве в 2017 году. Его назначение – мониторинг социальных сетей и поиск недовольных.

Министерству информации страны «Ангиме» обошелся в 4,3 млн долларов. Генеральным подрядчиком выступила местная научно-исследовательская лаборатория «Квант», субподрядчиком – российское НИИ «Квант».

 

Документы с описанием системы «Авенир» и списком сотрудников «Кванта»

 

«Ангиме» умеет анализировать публикации в соцсетях и искать нарушения законодательства в публикациях печатных и электронных СМИ. В списке нарушений – не только терроризм и экстремизм, но и, к примеру, отсутствие гимна.

В инструкции сказано: «При обнаружении материалов, дискредитирующих государство либо содержащих критику в адрес государства (вне зависимости от того, актуальна тема или нет), а также других остроактуальных тем, находящихся на контроле, сотрудник предоставляет видеофрагмент (или ссылку на него в интернете) заинтересованным лица».

Журналисты выяснили, что активная деятельность «Кванта» в Казахстане стартовала в 2016 году. До этого организация не платила налогов в бюджет.

Подрядчиком работы стало представительство американской компании SAS. Оно занимается разработкой программного обеспечения для анализа текстов на казахском языке. Проект создается под названием «Анаграмма».

Есть и другие

Служба внешней разведки РФ могла заказать системы влияния на пользователей в социальных сетях еще в 2012 году. Есть информация о системе «Шторм-12» – средстве «продвижения специальной информации в социальных сетях». Исследование «Монитор-3» описывало методы негласного управления в интернете, «Диспут» – способы «разведки интернет-центров и региональных сегментов социальных сетей».

Официально российские власти используют системы «Медиалогия» и «Катюша» для мониторинга СМИ и соцсетей. Госконтракт с «Медиалогией» охватывает анализ передач федеральных и региональных телеканалов и радиостанций, статей в газетах и электронных СМИ.

Год назад «Медиалогия» стала разрабатывать платформу для мониторинга социальных сетей. Решение, которое создается по заказу правительства Московской области, должно анализировать посты более 600 млн аккаунтов в Facebook, Twitter, Instagram, «ВКонтакте» и «Одноклассниках».

Система должна обеспечивать чиновникам возможность ответить на проблемное сообщение, используя аккаунты местных органов власти. С ее помощью подмосковные власти также проводят опросы жителей в соцсетях. В 2019 году систему внедрят все региональные правительства.


Автор:
Ксения Шестакова Обозреватель


На какие группы вы подписаны в социальных сетях?


Новостные сообщества (60%, 6 голосов)
60%
Познавательные группы: история, биология, физика (50%, 5 голосов)
50%
Сообщества программистов (50%, 5 голосов)
50%
Юмористические паблики (40%, 4 голосов)
40%
Свой вариант (в комментариях) (30%, 3 голосов)
30%
Киносообщества (20%, 2 голосов)
20%
Сообщества для автолюбителей (10%, 1 голосов)
10%

Комментарии
Избранное Подписка Сортировка: Древо развёрнутое
Свернуть все
1. Timur.V 66 29.12.18 16:47 Сейчас в теме
Эти системы не работают, если пользователи начинают необычно для ИИ писать сообщения, ссылка.
Приходится подключать живых людей для анализа трудно читаемого текста.

Можно разработать алгоритм, который будет формировать текст с изменяющимися условиями. (примерно как капчи работают от роботов)
Человек сможет прочитать, а робот - уже нет.

Пишите с ошибками и символами-"мусором" в словах. Добавьте к этому - без пробелов и знаков препинания :)

Это какие процессорные мощности нужны разбирать такие сообщения?
Легче админов сайтов-форумов и социальных сетей обязать включить в правила сайта - использование пользователями правил языка.
wowik; Serega-artem; Kochergov; +3 Ответить
3. VmvLer 29.12.18 17:00 Сейчас в теме
(1) Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%
4. TODD22 19 29.12.18 17:29 Сейчас в теме
(3)
Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%

А когда не было алгоритмов и компьютеров тогда чем было продиктовано?
hromovanton; boln; +2 Ответить
2. VmvLer 29.12.18 16:58 Сейчас в теме
перед тем как включить интернет я надеваю плащ-колпак из фольги и не переживаю по поводу дяди Стьопи
hromovanton; +1 Ответить
5. herfis 363 29.12.18 17:42 Сейчас в теме
2017 год? Поздновато включились.
6. Areal 12 29.12.18 17:42 Сейчас в теме
Почему ни у кого не возникает главного вопроса - "А зачем?" Ну вот зачем это нужно? Ну нашли недовольного, что дальше? Дадут конфетку, чтобы он улыбался? Или посадят за то, что он недоволен? Тогда напомните определение понятия "терроризм"
hromovanton; citicat; +2 Ответить
7. Timur.V 66 29.12.18 18:35 Сейчас в теме
(6)
"А зачем?"

Например,
скачите вы на лошади по Проспекту Путина. Цель - скакать прямо (постановка цели), не виляя зигзагом.
Вдруг, лошадь начинает немного забирать вправо т.е. поворачивать.
Хорошо, когда у вас есть глаза. Вы получает информацию (получение информации от объекта управления), анализируете её.
И принимаете решение (внесение корректировки в систему управления) - натянуть левый повод, чтобы выправить движение.
И делаете это до тех пор, пока лошадь вас не слушает (цель будет достигнута).

Посадки "террористов" из социальных сетей -это лишь один из множества элементов управления массой людей.

Цель управления Россией - построение высокодуховного, нравственного, здорового и материально обеспеченного населения!
Именно такую цель постоянно декларируют множество чиновников самого разного уровня.

С НОВЫМ ГОДОМ 2019!
Perfolenta; milov.aleksey; +2 1 Ответить
8. dobrynin.i.s 93 29.12.18 18:45 Сейчас в теме
"Название «Авенир» с иврита переводится как «защитник» или «воин»."
уши торчат вместе с пейсами за действиями "нашего" пгавительства
12. Evil Beaver 6710 01.01.19 17:52 Сейчас в теме
(8) Сама фраза наводит на подозрения о фейке. Уж очень желто. "Цифровое сопротивление" против ZOG, "Большой брат" и т.п....

Оно может и правда, но подано желтушно.

P.S. ну и источник bbc - тоже не добавляет доверия к материалу.
A_Max; hromovanton; +2 Ответить
9. MaxS 1937 29.12.18 19:04 Сейчас в теме
Другой ИИ запускает ботов и формирует произвольное настроение "общества". В результате обычные люди подаются управляемым настроениям. Как потом разобрать кто бот, кто человек-бот, а кто просто человек?
10. buganov 148 30.12.18 07:41 Сейчас в теме
(9) мне кажется, на такого настроителя быстро настроят минусометы и выкинут на мороз
11. Solovyeff 31.12.18 07:02 Сейчас в теме
Этот ИИ просто даст иллюзию контроля и не более, что приведет к еще более неверным решениям, ну все как обычно.
13. boln 1009 01.01.19 18:49 Сейчас в теме
В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ.
В 1950-60-е.

1982-1994. Лучшие годы жизни. Какой теперь позор на мою седую голову :)))

Оставьте свое сообщение

См. также

«Ростех» внедрит в вузах России учебного промышленного робота с исходниками на GitHub

Новость GitHub Робототехника

Госкорпорация «Ростех» создала компактного робота для обучения студентов вузов и колледжей. Исходный код для управления устройством выложен на GitHub, учебные заведения могут дорабатывать его под свои нужды. 

сегодня в 09:50    89    VKuser24342747    0       

Microsoft призвала пользоваться PowerShell вместо CMD

Новость Infostart Software Partners Маркет Новости компаний

Microsoft порекомендовала пользоваться инструментом PowerShell вместо классического интерпретатора CMD (cmd.exe). Разработчики не будут заниматься доработкой CMD, но оставят его в системе для обеспечения совместимости. 

вчера в 09:56    414    user1015646    1       

Из реестра российского ПО могут удалить ОС на ядре Linux

Новость Linux Минкомсвязь

Правила, которыми руководствуется Минкомсвязь, запрещают добавлять в реестр ПО с компонентами, которые распространяются по свободным лицензиям GPL и MPL.

02.06.2020    489    user1015646    8       

Опубликован релиз платформы Electron 9.0.0 для создания приложений на базе движка Chromium

Новость Linux

Создатели обновления повысили эффективность обработчика событий окна в Linux, улучшили просмотрщик PDF и многое другое.

01.06.2020    600    SKravchenko    0       

Microsoft планирует объединить UWP и Win32-приложения при помощи проекта Reunion

Новость Новости компаний

Reunion призван объединить платформу разработчиков Windows, которая в настоящее время разбита между Win32 и универсальной платформой Windows (UWP).

29.05.2020    603    SKravchenko    0       

«Яндекс» запустил бесплатную облачную платформу для разработки нейросетей

Новость Искусственный интеллект Облачные технологии

«Яндекс» запустил новый сервис DataSphere, позволяющий проводить в облаке ресурсоемкие вычисления для машинного обучения. Во время тестирования услуга полностью бесплатна для разработчиков. 

29.05.2020    878    VKuser24342747    1       

В Беларуси заработал сервис видеоконференций на основе российской облачной платформы

Новость Облачные технологии Стартапы

Сервис видеоконференцсвязи на базе российской облачной платформы IVA MCU запустили в Беларуси. Услуги предоставляет республиканский провайдер облачных услуг beCloud. 

28.05.2020    464    user1015646    0       

Microsoft открыла исходники для 37-летнего языка GW-BASIC

Новость Новости компаний Языки программирования

Microsoft представила исходный код интерпретатора языка программирования GW-BASIC. 37 лет назад он был одним из самых популярных языков для написания программ и игр. 

28.05.2020    647    VKuser24342747    2       

Создатель Linux отказался от Intel в пользу AMD

Новость Linux Микроэлектроника

Линус Торвальдс стал использовать для работы компьютер на базе процессора AMD. Предыдущие 15 лет он отдавал предпочтение ПК на компонентах Intel. 

27.05.2020    853    user1015646    9       

Microsoft Build 2020: переход в онлайн и главные анонсы

Новость Infostart Software Partners Маркет Новости компаний

Компания Microsoft на конференции Build 2020 представила не только технологии будущего, но и полезные практические решения, которыми будут пользоваться миллионы людей по всему миру.

26.05.2020    1369    user1015646    1       

Microsoft создаст единую платформу для разработки под Windows

Новость Infostart Software Partners Маркет Новости компаний

Компания представила единую платформу для разработки под Windows, функционал для ответственного использования машинного обучения и другие инструменты для разработчиков. 

25.05.2020    1357    VKuser24342747    3       

Разработчик Node.js запустил новую JavaScript-платформу Deno 1.0

Новость Языки программирования

Создатель платформы для JavaScript-разработки Node.js Райан Даль выпустил первый официальный релиз нового проекта – Deno 1.0.

25.05.2020    752    user1015646    1       

Facebook создал тестовый клон своей сети и населил его умными ботами

Новость Соцсети

Компания Facebook разработала платформу-имитацию оригинальной соцсети. Ее населили ботами, чтобы разработчики отработали различные сценарии поведения без ущерба для пользователей

14.05.2020    980    user1015646    0       

GitHub представил сервис для облачной разработки Codespaces

Новость GitHub

Крупнейший сервис хранения репозиториев кода GitHub выпустил масштабное обновление – компания представила встроенную IDE с инструментами для облачной разработки Codespaces, форумы для обсуждения кода, средства защиты репозиториев и другие новшества

12.05.2020    1675    user1015646    1       

Состоялся релиз Linux-дистрибутива Ubuntu 20.04 LTS

Новость Linux Ubuntu

23 апреля, Canonical объявили о доступности дистрибутива Ubuntu 20.04 LTS, под кодовым названием Focal Fossa. Этот выпуск с долгосрочной поддержкой включает в себя новую тему для рабочего стола и темный режим. Под капотом вы найдете обновленное ядро Linux 5.4 и новый способ установки приложений.

08.05.2020    1524    SKravchenko    0       

Новые возможности видеомессенджера Google Duo

Новость Google Мессенджеры

Мессенджер Google Duo повысил качество видеозвонков благодаря новой технологии видеокодеков. Кроме этого разработчики добавили 4 новые функции, которые должны сделать его использование более комфортным.

07.05.2020    1142    SKravchenko    1       

Проверка на прочность: разработчиков заставили доказать надежность ОС «Аврора»

Новость ОС Безопасность Госзакупки Импортозамещение Мобильные приложения

Российская мобильная ОС «Аврора» должна была стать основной системой для смартфонов и планшетов, которые планировали закупать для чиновников и госкомпаний. Но чтобы госзакупки состоялись, правительство потребовало у разработчиков подтвердить надежность продукта.

07.05.2020    1673    user1015646    2       

Apple и Google объединились в борьбе с коронавирусом

Новость Mac OS Google

Apple и Google объединились для борьбы против COVID-19. В блогах компаний появился анонс разработки на основе Bluetooth, помогающей правительствам всего мира сдерживать распространение заражения

28.04.2020    1461    feva    3       

IBM возродит язык программирования COBOL

Новость Языки программирования

Компания IBM решила, что «древний» язык рано списывать со счетов, и намерена возродить его. 

28.04.2020    2096    user1015646    3       

Бесплатная конференция по управлению данными и искусственному интеллекту

Новость

24 апреля состоится бесплатная онлайн-конференция от сообщества лидеров цифровой трансформации Global CIO – «Управление данными и искусственный интеллект». 

22.04.2020    1448    kbazzh    0       

Git – 15 лет: как появилась и чего достигла самая популярная система контроля версий

Новость git

7 апреля система контроля версий Git отметила 15-летие. Решение, разработанное легендарным Линусом Торвальдсом, используют миллионы разработчиков по всему миру. Рассказываем, как создавалась система и почему она так популярна.

22.04.2020    2083    user1015646    0       

Нейросеть Microsoft будет помогать программистам допускать меньше багов

Новость ИТ-компания Искусственный интеллект Маркет Языки программирования

Microsoft планирует разработать ИИ, который сможет с большой вероятностью находить ошибки в коде. Искусственный интеллект сможет разделять их на критические, важные и малозначимые.

21.04.2020    1896    VKuser24342747    5       

Эксперты спрогнозировали рост рынка дата-центров из-за коронавируса

Новость Аналитика

Исследователи из iKS-Consulting пришли к выводу, что при позитивном сценарии развития пандемии российский рынок ЦОДов сохранит темп роста в 15%. При негативном произойдет замедление развития. 

20.04.2020    1429    VKuser24342747    0       

CorelDRAW Graphics Suite 2020: ИИ, быстродействие и возможность совместной работы

Новость Infostart Software Partners Искусственный интеллект Маркет

Разработчики снабдили пакет ИИ-технологиями, усовершенствовали производительность и добавили инструменты для совместной работы в облачном формате. 

16.04.2020    2116    iivanov1    13       

Российские медучреждения в прошлом году приобрели более 40 тыс. копий отечественных ОС

Новость Импортозамещение Медицина

Разработчики Astra Linux рассказали о популярности своей ОС в медицинских учреждениях. За прошлый год компания продала организациям здравоохранения более 24 тыс. лицензий. Еще 20 тыс. поставила «Базальт СПО».

15.04.2020    1520    VKuser24342747    0