ФСБ использует искусственный интеллект для анализа настроений в социальных сетях

29.12.2018     

Группировка Digital Revolution раскрыла информацию о новой разработке НИИ «Квант». Сотрудники института создавали для ФСБ интеллектуальную систему мониторинга общественного мнения и протестных настроений в социальных сетях.

Большой брат «Авенир»

НИИ «Квант» – закрытый институт, который находится в московском районе Ховрино. В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ. С 2008 года НИИ перевели в ведение ФСБ.

Подлинность взлома Digital Revolution подтвердила публикацией документов с описанием системы, а на главной странице сайта НИИ разместили изображение собак в капюшонах под тегом #квантнаш. Это логотип «цифрового сопротивления», созданный основателем «ВКонтакте» и мессенджера Telegram Павлом Дуровым.

«Авенир» – система, которая использует технологии глубокого машинного обучения для поиска информации в социальных сетях. По заданным ключевым словам она находит материалы, свидетельствующие о протестных настроениях. Название «Авенир» с иврита переводится как «защитник» или «воин».

В Digital Revolution подчеркнули: применение «Авенира» реализует контроль над интернетом в стране. Именно поэтому информацию о системе сделали достоянием гласности.

 

 

Возможности «Авенира»

Программисты добыли более 300 страниц документации. Это четыре материала с детальным описанием решения, датированные 2017 годом. Составителем документов значится сотрудник «Кванта» Михаил Пендюхов. Он неоднократно публиковал в узкоспециализированных изданиях статьи об искусственном интеллекте и машинном обучении.

Из документов следует, что «Авенир» умеет анализировать публикации в социальных сетях «ВКонтакте», Facebook, «Одноклассники» и Instagram. Задействуя самообучающиеся нейросети, он выполняет поиск по заданным ключевым словам.

Решение позволяет мониторить активность пользователей в потенциально протестных сообществах. Использовали систему и для мониторинга бизнес-конфликтов. В этом случае нейросеть не только ищет публикации по ключевым словам, но и пытается понять их смысл, чтобы определить, важна ли эта информация для расследования.

«Ангиме» – «Авенир» из Казахстана

Аналогичную «Авениру» систему мониторинга настроений уже поставили в Казахстан. Согласно документации, проект «Ангиме» создали в Москве в 2017 году. Его назначение – мониторинг социальных сетей и поиск недовольных.

Министерству информации страны «Ангиме» обошелся в 4,3 млн долларов. Генеральным подрядчиком выступила местная научно-исследовательская лаборатория «Квант», субподрядчиком – российское НИИ «Квант».

 

Документы с описанием системы «Авенир» и списком сотрудников «Кванта»

 

«Ангиме» умеет анализировать публикации в соцсетях и искать нарушения законодательства в публикациях печатных и электронных СМИ. В списке нарушений – не только терроризм и экстремизм, но и, к примеру, отсутствие гимна.

В инструкции сказано: «При обнаружении материалов, дискредитирующих государство либо содержащих критику в адрес государства (вне зависимости от того, актуальна тема или нет), а также других остроактуальных тем, находящихся на контроле, сотрудник предоставляет видеофрагмент (или ссылку на него в интернете) заинтересованным лица».

Журналисты выяснили, что активная деятельность «Кванта» в Казахстане стартовала в 2016 году. До этого организация не платила налогов в бюджет.

Подрядчиком работы стало представительство американской компании SAS. Оно занимается разработкой программного обеспечения для анализа текстов на казахском языке. Проект создается под названием «Анаграмма».

Есть и другие

Служба внешней разведки РФ могла заказать системы влияния на пользователей в социальных сетях еще в 2012 году. Есть информация о системе «Шторм-12» – средстве «продвижения специальной информации в социальных сетях». Исследование «Монитор-3» описывало методы негласного управления в интернете, «Диспут» – способы «разведки интернет-центров и региональных сегментов социальных сетей».

Официально российские власти используют системы «Медиалогия» и «Катюша» для мониторинга СМИ и соцсетей. Госконтракт с «Медиалогией» охватывает анализ передач федеральных и региональных телеканалов и радиостанций, статей в газетах и электронных СМИ.

Год назад «Медиалогия» стала разрабатывать платформу для мониторинга социальных сетей. Решение, которое создается по заказу правительства Московской области, должно анализировать посты более 600 млн аккаунтов в Facebook, Twitter, Instagram, «ВКонтакте» и «Одноклассниках».

Система должна обеспечивать чиновникам возможность ответить на проблемное сообщение, используя аккаунты местных органов власти. С ее помощью подмосковные власти также проводят опросы жителей в соцсетях. В 2019 году систему внедрят все региональные правительства.


Автор:
Ксения Шестакова Обозреватель


На какие группы вы подписаны в социальных сетях?


Новостные сообщества (60%, 6 голосов)
60%
Познавательные группы: история, биология, физика (50%, 5 голосов)
50%
Сообщества программистов (50%, 5 голосов)
50%
Юмористические паблики (40%, 4 голосов)
40%
Свой вариант (в комментариях) (30%, 3 голосов)
30%
Киносообщества (20%, 2 голосов)
20%
Сообщества для автолюбителей (10%, 1 голосов)
10%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. Timur.V 73 29.12.18 16:47 Сейчас в теме
Эти системы не работают, если пользователи начинают необычно для ИИ писать сообщения, ссылка.
Приходится подключать живых людей для анализа трудно читаемого текста.

Можно разработать алгоритм, который будет формировать текст с изменяющимися условиями. (примерно как капчи работают от роботов)
Человек сможет прочитать, а робот - уже нет.

Пишите с ошибками и символами-"мусором" в словах. Добавьте к этому - без пробелов и знаков препинания :)

Это какие процессорные мощности нужны разбирать такие сообщения?
Легче админов сайтов-форумов и социальных сетей обязать включить в правила сайта - использование пользователями правил языка.
wowik; Serega-artem; Kochergov; +3 Ответить
3. VmvLer 29.12.18 17:00 Сейчас в теме
(1) Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%
4. TODD22 18 29.12.18 17:29 Сейчас в теме
(3)
Кстати, повальное требование блюсти чистоту языка продиктовано как раз упрощением жизни алгоритмам, а вовсе не морально-этическими принципами - 100%

А когда не было алгоритмов и компьютеров тогда чем было продиктовано?
hromovanton; boln; +2 Ответить
2. VmvLer 29.12.18 16:58 Сейчас в теме
перед тем как включить интернет я надеваю плащ-колпак из фольги и не переживаю по поводу дяди Стьопи
hromovanton; +1 Ответить
5. herfis 423 29.12.18 17:42 Сейчас в теме
2017 год? Поздновато включились.
6. Areal 14 29.12.18 17:42 Сейчас в теме
Почему ни у кого не возникает главного вопроса - "А зачем?" Ну вот зачем это нужно? Ну нашли недовольного, что дальше? Дадут конфетку, чтобы он улыбался? Или посадят за то, что он недоволен? Тогда напомните определение понятия "терроризм"
hromovanton; citicat; +2 Ответить
7. Timur.V 73 29.12.18 18:35 Сейчас в теме
(6)
"А зачем?"

Например,
скачите вы на лошади по Проспекту Путина. Цель - скакать прямо (постановка цели), не виляя зигзагом.
Вдруг, лошадь начинает немного забирать вправо т.е. поворачивать.
Хорошо, когда у вас есть глаза. Вы получает информацию (получение информации от объекта управления), анализируете её.
И принимаете решение (внесение корректировки в систему управления) - натянуть левый повод, чтобы выправить движение.
И делаете это до тех пор, пока лошадь вас не слушает (цель будет достигнута).

Посадки "террористов" из социальных сетей -это лишь один из множества элементов управления массой людей.

Цель управления Россией - построение высокодуховного, нравственного, здорового и материально обеспеченного населения!
Именно такую цель постоянно декларируют множество чиновников самого разного уровня.

С НОВЫМ ГОДОМ 2019!
Perfolenta; milov.aleksey; +2 1 Ответить
8. dobrynin.i.s 93 29.12.18 18:45 Сейчас в теме
"Название «Авенир» с иврита переводится как «защитник» или «воин»."
уши торчат вместе с пейсами за действиями "нашего" пгавительства
12. Evil Beaver 7130 01.01.19 17:52 Сейчас в теме
(8) Сама фраза наводит на подозрения о фейке. Уж очень желто. "Цифровое сопротивление" против ZOG, "Большой брат" и т.п....

Оно может и правда, но подано желтушно.

P.S. ну и источник bbc - тоже не добавляет доверия к материалу.
A_Max; hromovanton; +2 Ответить
9. MaxS 2288 29.12.18 19:04 Сейчас в теме
Другой ИИ запускает ботов и формирует произвольное настроение "общества". В результате обычные люди подаются управляемым настроениям. Как потом разобрать кто бот, кто человек-бот, а кто просто человек?
10. buganov 179 30.12.18 07:41 Сейчас в теме
(9) мне кажется, на такого настроителя быстро настроят минусометы и выкинут на мороз
11. Solovyeff 31.12.18 07:02 Сейчас в теме
Этот ИИ просто даст иллюзию контроля и не более, что приведет к еще более неверным решениям, ну все как обычно.
13. boln 1032 01.01.19 18:49 Сейчас в теме
В 1970-е годы здесь разрабатывали первые в Советском Союзе ЭВМ.
В 1950-60-е.

1982-1994. Лучшие годы жизни. Какой теперь позор на мою седую голову :)))

Оставьте свое сообщение

См. также

Правительство утвердило разработку российского аналога GitHub

Новость ИТ-новость Цифровая экономика

Премьер-министр Михаил Мишустин на форуме Kazan Digital Week анонсировал создание отечественного репозитория, аналогичного GitHub. Проект реализуется в рамках второго пакета поддержки ИТ.

22.09.2021    5969    VKuser24342747    10       

Microsoft присоединилась к Open Infrastructure Foundation для развития облаков

Новость ИТ-новость Новости компаний Облачные технологии

Microsoft стала платиновым членом организации Open Infrastructure Foundation. Компания будет представлять интересы своих телекоммуникационных клиентов в OpenStack.

15.09.2021    3666    VKuser24342747    0       

Microsoft разрешит устанавливать Windows 11 на старые компьютеры

Новость Windows ИТ-новость Новости компаний

Microsoft пересмотрела правила установки Windows 11, которые не позволяли использовать ОС на компьютерах, не соответствующих системным требованиям. Для инсталляции придется создать загрузочный диск.

14.09.2021    2839    VKuser24342747    0       

Оплата лицом заработает на всех станциях метро Москвы

Новость Искусственный интеллект ИТ-новость Цифровая экономика

В столичном метрополитене внедряют систему FacePay. С 15 октября оплатить проезд можно будет, не доставая смартфон, карту или жетоны из кармана.

14.09.2021    2392    user1015646    2       

«Яндекс» представил технологию автоматического перевода любых видео на русский язык

Новость ИТ-новость Яндекс

«Яндекс» сделал функцию автоматического закадрового перевода иностранных роликов доступной для почти любых видео в интернете. Функция встроена в фирменный браузер компании.

13.09.2021    2451    VKuser24342747    4       

Исследователи синтезировали выразительную устную речь

Новость Искусственный интеллект ИТ-новость

Синтетическое воспроизведение речи от голосовых помощников и автопереводчиков не передает эмоций и интонаций. Специалисты NVIDIA разработали систему искусственного интеллекта, которая решает эту проблему: ее речь сложно отличить от естественной.

10.09.2021    9051    user1015646    0       

GitHub выпустил веб-редактор кода: возможности, о которых вы могли не знать

Новость GitHub Автоматизация Интернет ИТ-новость

Начинающим программистам часто сложно настроить среду разработки и установить весь необходимый софт. Для них, а также для специалистов, которые работают в распределенных командах, GitHub запустил новый сервис github.dev.

10.09.2021    5272    user1015646    0       

Раскрыта дата релиза Windows 11

Новость Windows ИТ-новость Новости компаний

Microsoft официально объявила, когда станет доступна новая версия самой популярной десктопной ОС. Обновиться с Windows 10 до Windows 11 можно будет уже 5 октября 2021 года.

09.09.2021    8738    user1015646    0       

В Google научились увеличивать изображения в 16 раз с восстановлением деталей

Новость Искусственный интеллект ИТ-новость

Раньше увеличить видео с камер наблюдения в десятки раз получалось только у героев фильмов. Но теперь такая возможность существует и в реальной жизни – инженеры Google разработали прорывную технологию масштабирования изображений.

09.09.2021    4251    user1015646    3       

Эксперты подготовили рекомендации по использованию кириллицы в доменах и почте

Новость Интернет ИТ-новость

Рабочая группа представила стандарты внедрения, обработки, хранения, валидации и адаптации кириллических символов для программ, поддерживающих доменные имена и email-адреса.

07.09.2021    2855    VKuser24342747    0       

Госструктуры перейдут на российские системы видеоконференций

Новость Импортозамещение ИТ-новость Облачные технологии

Российских чиновников переводят на использование отечественного сервиса видеоконференций. Будут внедрять систему TrueConf на базе ОС Astra Linux и процессоров Baikal-M от «Байкал Электроникс».

03.09.2021    3213    user1015646    0       

Минэкономики раскритиковало требования к обновлению оборудования для суверенного Рунета

Новость Импортозамещение Интернет ИТ-новость Телекоммуникации

Минэкономики пришло к выводу, что требования Минцифры затормозят развитие связи в России. По мнению специалистов ведомства, возможным последствием может стать ухудшение интернет-услуг провайдеров.

03.09.2021    2615    VKuser24342747    0       

Разработчики назвали любимые языки программирования

Новость ИТ-новость Языки программирования

Крупнейший форум для разработчиков Stack Overflow составил рейтинг любимых языков программирования. Первую строчку списка занял молодой, но перспективный Rust.

02.09.2021    5247    user1015646    3       

Петербургские ученые обучили нейросеть находить вредоносных ботов в соцсетях

Новость Безопасность Искусственный интеллект ИТ-новость Соцсети

Сотрудники Санкт-Петербургского федерального исследовательского центра Российской академии наук (СПб ФИЦ РАН) создали решение для поиска ботов, размещающих спам и дезинформацию на любом языке.

02.09.2021    2307    VKuser24342747    1       

Windows Server исключается из эксперимента по поставке обновлений Microsoft WaaS

Новость Windows ИТ-новость Новости компаний Облачные технологии

По результатам четырехлетнего эксперимента Windows as a Service Microsoft решила, что больше не будет обновлять Windows Server несколько раз в год. Для серверной ОС было решено вернуться к практике обновления каждые 2-3 года.

01.09.2021    5403    SKravchenko    0       

Microsoft добавила в Power BI инструменты аналитики для Angular-приложений

Новость Аналитика ИТ-новость

Microsoft представила новый компонент для создания веб-сервисов аналитики данных. Он позволит интегрировать функции Power BI в Angular-приложения.

31.08.2021    3285    user1015646    0       

Windows 11 лишится нескольких функций предыдущей версии системы

Новость Windows ИТ-новость

Microsoft в бета-версии Windows 11 изменила привычные функции. Из ОС исчезло отображение секунд на часах и возможность быстро добавлять события в календарь, а кнопка «Пуск» переместилась в центр панели задач.

31.08.2021    4956    VKuser24342747    6       

GitHub в версии утилиты CLI 2.0 добавил поддержку расширений

Новость GitHub ИТ-новость Новости компаний

Разработчики GitHub представили вторую версию утилиты для управления проектами при помощи командной строки CLI. Приложение поддерживает несколько стандартных расширений и создание собственных.

27.08.2021    6495    VKuser24342747    0       

Круглая дата: ядру Linux исполнилось 30 лет

Новость Linux ИТ-новость Новости компаний

Ядро Linux отмечает юбилей. О создании новой ОС 21-летний Линус Торвальдс объявил 25 августа 1991 года.

27.08.2021    4685    user1015646    2       

Искусственный интеллект научился распознавать изображения лучше человека

Новость Искусственный интеллект ИТ-новость

Алгоритм компьютерного зрения впервые превзошел человека. В экспериментах людям и системе искусственного интеллекта предлагали определить, что изображено на фото, и ответить на вопросы. Результат ИИ оказался выше, чем у человека.

26.08.2021    3691    user1015646    5       

Facebook представил криптобиблиотеку для разработчиков – Winterfell

Новость ИТ-новость Новости компаний

Специалисты Facebook выпустили новую библиотеку Winterfell. Проект с открытым исходным кодом может генерировать доказательство вычислительной целостности STARK.

24.08.2021    4707    user1015646    3       

В GitHub добавлена поддержка цитирования из репозиториев

Новость GitHub ИТ-новость

GitHub позволил использовать файл CITATION.cff, в котором можно указать, как правильно ссылаться на содержимое репозитория при написании академических публикаций.

24.08.2021    5067    VKuser24342747    0       

GitHub официально представил новую версию «Обсуждений»

Новость GitHub ИТ-новость

GitHub заявил о завершении бета-тестирования обновленной версии раздела Discussions. Релизный вариант площадки для обсуждений репозиториев разрабатывался почти год при активном участии сообщества.

23.08.2021    3319    VKuser24342747    0       

Разработчик создал браузерную версию OpenAI Codex для управления веб-страницами

Новость Интернет Искусственный интеллект ИТ-новость

Программист Эндрю Кантино рассказал, что сделал расширение для модификации страниц в Google Chrome, работающее на основе ИИ-ассистента для разработки OpenAI Codex.

23.08.2021    5913    VKuser24342747    0       

Российский разработчик создал эмулятор для запуска приложений iOS на M1 Mac

Новость Mac OS ИТ-новость Мобильные приложения

Программа PlayCover позволяет запускать на компьютерах с операционной системой MacOS любые мобильные приложения для iOS, в том числе игры с поддержкой мыши и клавиатуры.

20.08.2021    6407    VKuser24342747    0