Российский ИИ проведет психоанализ по постам в социальных сетях

10.12.2021      16029

В России создадут систему искусственного интеллекта, которая будет оценивать психологическое состояние жителей страны по материалам на их страницах в социальных сетях. Грант на разработку получил Институт системного программирования им. В. П. Иванникова (ИСП).

Зачем это нужно

По словам представителей Аналитического центра при Правительстве РФ, система искусственного интеллекта поможет бороться с запрещенным контентом и его распространителями. Анализ постов позволит быстро находить группы смерти и площадки для размещения информации о террористических и экстремистских организациях, чтобы оперативно их блокировать.

Эксперты считают, что материалы из соцсетей позволяют прогнозировать поведение человека. И в отличии от психологического тестирования и других экспертиз, для таких исследований не нужно получать добровольное согласие автора.

Применять систему будут, в первую очередь, для исследования аккаунтов людей, которые принимают важные решения в большом бизнесе или на государственном уровне. Искусственный интеллект поможет выявить манипуляции над большими группами лиц, чтобы предупредить разжигание конфликтов, национальной розни, а также вербовку и привлечение к терроризму.

Кроме того, технология сможет оценивать творческий потенциал сотрудников и прогнозировать их профессиональный рост.

Во сколько обойдется создание системы

ФГБУ «Институт системного программирования им. В. П. Иванникова» получило грант на создание такой системы. В ее основу должна лечь доверенная технология диагностики свойств личности.

На портале госзакупок организация объявила тендер с максимальной ценой 36 млн рублей – во столько оценили проведение исследования возможностей создания такого решения. Работы нужно выполнить до 1 сентября 2024 года. О внедрении технологии и рабочих прототипах речь пока не идет.

ФГБУ объявил и другие тендеры, связанные с ИИ. Например, в этой заявке с максимальной ценой 16 млн рублей речь идет об обнаружении методов противодействия состязательным атакам на модели машинного обучения.

С чем будет работать ИИ

Системе предстоит анализировать цифровые следы личности. Это, прежде всего, информация из соцсетей: фото, статусы, посты, репосты, подписки.

В описании тендера подчеркивается: социальные сети «накапливают обширный материал». Он позволит судить об интересах и увлечениях человека, его поведенческой активности.

Насколько это законно

Юристы считают, что система искусственного интеллекта может нарушать нормы закона, связанные с защитой персональных данных. В конце прошлого года власти приняли поправки, в которых четко сказано, что анализировать даже опубликованные гражданами данные можно использовать только с их согласия.

Искусственный интеллект фактически нарушит право на частную жизнь, отметил преподаватель Moscow Digital School Олег Блинов. Пока от человека не получено согласие, в котором подробно описаны условия и ограничения обработки данных третьими лицами, психологическую диагностику проводить нельзя, добавила директор по правовым инициативам Фонда развития интернет-инициатив Александра Орехович. Она также добавила, что на анализ записей не из общего доступа нужно получать отдельное согласие.

Жизнеспособна ли эта идея

Анализ материалов в социальных сетях действительно способен помочь в диагностике психологического состояния и даже в выявлении психических расстройств. Например, фото в Instagram могут быть маркерами депрессии. В исследовании искусственный интеллект анализировал цвета на фото, компоненты метаданных снимков, а также обнаруживал лица и выявлял эмоции на них. Полученные модели были в целом эффективнее, чем средний показатель успешной диагностики депрессии у врачей общей практики.

Сами социальные сети активно борются с запрещенным контентом. Например, алгоритмы Facebook уже в 2017 году позволяли выявлять и блокировать материалы, посвященные терроризму, настолько быстро, что исследователи не смогли собрать достаточно данных для анализа. Алгоритмы «ВКонтакте» были не столь эффективны, и ученым удалось отследить механику создания и наполнения таких групп.

Проблема в том, что у подобных аналитических алгоритмов очень высок процент ложных срабатываний. Обнаружение реальной угрозы – это даже не поиск иголки в стоге сена, а перебирание кусочков таких иголок для нахождения самого опасного из них, отметил сотрудник DARPA (Управление перспективных исследовательских проектов) Тед Сенатор. И высока вероятность, что использование алгоритмов для таких целей рискованно и нецелесообразно.

Автор:
Обозреватель


Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. Serega-artem 17 10.12.21 11:46 Сейчас в теме
На портале госзакупок организация объявила тендер с максимальной ценой 36 млн рублей – во столько оценили проведение исследования возможностей создания такого решения. Работы нужно выполнить до 1 сентября 2024 года. О внедрении технологии и рабочих прототипах речь пока не идет.


Ну вот собственно и весь ответ. Распилят 36 лямов на этом всё и закончится. Сколько уже всякого такого проектировали и изобретали и где оно? Сколько денег угрохали в Спутник? И в итоге? Хром с криво прибитой табличкой "Спутник". В России есть талантливые люди, которые могут что-то сделать по-настоящему полезное и интересное, но вот все этих гос. конторы и их написанные под конкретного исполнителя тендеры - полная лажа, я считаю.
Obertone; +1 Ответить
2. tps_01 63 10.12.21 13:09 Сейчас в теме
(1)
полная лажа, я считаю


На кривой козе, да выедут: за 36 млн только выяснят, что это практически реализуемо. Потом еще миллиарды попилят. Конечно, не все сразу заработает, не все также хорошо работать будет, как у гугла))), но Государство в открытой форме показывает, что оно тоже интересуется вашим психологическим портретом.

А уж как оно будет с этими данными работать - вот тут, на мой взгляд, самый главный вопрос. Одно дело, если гугл продает твои данные с целью продать тебе что то, и другое дело - власть, которая в этом всем, возможно, в первую очередь станет искать способы тебя ограничить (посадить, запретить) с целью сохранения своей безопасности и стабильности. И уж во вторую-пятую очередь, подарит тебе бесплатный абонемент к психологу или должность в госкорпорации, или о чем там заявляют в заголовках ;)
Serega-artem; retr0; Obertone; +3 Ответить
Оставьте свое сообщение

См. также

«Сколково» объявил отбор перспективных ИИ-проектов для получения грантов

Новость Искусственный интеллект ИТ-Новость

В 2024 году «Сколково» выделит пилотным проектам в сфере искусственного интеллекта гранты на общую сумму 554 млн рублей. В результате отбора финансирование получат проекты с применением ИИ в областях производства, операционной деятельности и в работе предоставляемых сервисов.

12.04.2024    737    AnastasiaKl    3       

3

В программу подготовки спортивных программистов вошли бег и скорость печати

Новость ИТ-Новость

Пятничное: в России вступил в силу стандарт подготовки по дисциплине «спортивное программирование». В стандарт вошли требования к физическим показателям спортсменов и скорости набора текста.

16.02.2024    781    VKuser24342747    2       

1

Росстандарт утвердил протокол LoRaWAN для интернета вещей

Новость ИТ-Новость

Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило национальный стандарт протокола LoRaWAN RU, таким образом он получил официальный статус. Технология используется для беспроводной передачи данных между устройствами интернета вещей.

19.01.2024    562    VKuser24342747    0       

2

Новый закон откладывает на год вступление в силу изменений в порядок регистрации на сайтах

Новость Законодательство ИТ-Новость

12 декабря вступил в силу Федеральный закон, меняющий срок, к которому все владельцы сайтов должны внести изменения в порядок авторизации пользователей на сайте. Закон вводит переходный период до 1 января 2025 года.

20.12.2023    719    VKuser24342747    2       

1

Вышло крупное обновление для Android Studio

Новость Мобильные приложения ИТ-Новость

Новая версия Android Studio под номером 2023.1 получила имя Hedgehog. Появились возможности контролировать производительность приложений и управлять подключенными устройствами.

07.12.2023    919    VKuser24342747    2       

3

GitHub опубликовал результаты ежегодного исследования проектов с открытым исходным кодом

Новость GitHub ИТ-Новость

GitHub собрал данные об Open Source проектах в рамках ежегодного исследования Octoverse. Компания изучила географию репозиториев, используемые языки программирования и нейросети, а также активность сообщества.

15.11.2023    579    VKuser24342747    1       

2

Некоммерческие проекты смогут получить бесплатный доступ к GigaChat API

Новость ИТ-компания ИТ-Новость

Компания «Сбер» заявила, что будет бесплатно предоставлять доступ к API нейросети для генерации текста GigaChat для некоммерческих проектов. Однако для них будет ограничено число доступных токенов.

01.11.2023    729    VKuser24342747    2       

3

Состоялся релиз свободной среды разработки Geany 2.0

Новость ИТ-Новость Программист

Вышла новая версия Geany 2.0. Обновление затронуло внешний вид программы, расширило поддержку файлов и сторонних проектов, добавило новые способы работы с кодом.

25.10.2023    765    VKuser24342747    0       

1

Минцифры подготовило критерии по выбору оператора реестра провайдеров хостинга

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило проект постановления, которое утверждает требования к организации, претендующей на статус оператора реестра провайдеров хостинга.

25.10.2023    418    VKuser24342747    0       

1

Минцифры составило алгоритм действий для компаний, у которых не работает VPN

Новость Минцифры ИТ-Новость

Минцифры подготовило разъяснения для российских организаций, у которых возникли перебои в работе VPN-сервисов для клиентов и сотрудников из-за блокировки запрещенных ресурсов Роскомнадзором.

24.10.2023    703    VKuser24342747    0       

0

«Сбер» объявила о доступности SberLinux OS Server для российских компаний

Новость Импортозамещение ИТ-Новость

«СберТех», дочерняя компания «Сбера», объявила о предоставлении доступа к собственной серверной операционной системе SberLinux OS Server российским компаниям. ОС включена в реестр отечественного ПО.

20.10.2023    977    VKuser24342747    0       

2

Минцифры внесло изменения в проект правил идентификации клиентов веб-хостингов

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило изменения в пакет документов, которые устанавливают новые требования для провайдеров хостинга. Ведомство расширило перечень допустимых методов идентификации клиентов.

18.10.2023    505    VKuser24342747    0       

1

Google выпустила финальную версию Android 14

Новость Android Google ИТ-Новость

Google выпустила новую версию мобильной ОС Android 14. Изменения затронули настройки внешнего вида и безопасности. Были расширены возможности камеры и инструментов для хранения данных.

12.10.2023    784    VKuser24342747    0       

1

Яндекс объявил об открытии исходного кода DataLens

Новость Аналитика ИТ-Новость Яндекс

BI-система Yandex DataLens теперь развивается в опенсорс. Код продукта выложен для всех на GitHub. Любой желающий сможет развернуть DataLens на своем железе и доработать его под свои сценарии применения.

03.10.2023    1545    ЕленаЧерепнева    1       

6

Роскомнадзор создаст реестр хостинг-провайдеров

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило несколько проектов постановлений, которые утверждают правила ведения реестра поставщиков хостинг-услуг, а также новые требования к провайдерам.

02.10.2023    651    VKuser24342747    0       

1

«СберТех» представил репозиторий GitVerse с ИИ-помощником для написания кода

Новость Импортозамещение ИТ-Новость Программист

«СберТех» начал прием заявок на тестирование веб-сервиса для публикации ИТ-проектов GitVerse. Платформа подходит для разработки программ с открытым и закрытым кодом.

26.09.2023    904    VKuser24342747    2       

1

ИП и юрлица смогут использовать смартфон для создания и замены электронной подписи

Новость ИТ-Новость ФНС Цифровая подпись

ФНС внесла изменения в правила оформления электронной подписи руководителя организации и ИП. Станет возможным продлевать ее и записывать при помощи мобильного устройства.

18.09.2023    479    VKuser24342747    1       

1

Журнал IEEE Spectrum опубликовал рейтинг популярности языков программирования

Новость ИТ-Новость Языки программирования

Журнал Института инженеров электротехники и электроники IEEE Spectrum подготовил рейтинг самых популярных языков программирования в 2023 году. Статистика разделена на три категории.

01.09.2023    1404    VKuser24342747    4       

2

В бета-версии Microsoft 365 появилась поддержка языка Python для Excel

Новость ИТ-Новость Языки программирования

С помощью библиотек и средств визуализации Python можно будет манипулировать данными Excel, а затем использовать полученные результаты в формулах, диаграммах и сводных таблицах.

28.08.2023    769    VKuser24342747    0       

2

Специалисты Калифорнийского университета установили, что боты справляются с CAPTCHA лучше, чем люди

Новость ИТ-Новость

Международная группа исследователей изучила эффективность тестов CAPTCHA. Ученые пришли к выводу, что технология больше мешает людям, потому что боты научились с ней справляться.

24.08.2023    1244    VKuser24342747    23       

2

Google Chrome начнет поддерживать квантово-устойчивые алгоритмы шифрования

Новость Google Безопасность ИТ-Новость

В версии Google Chrome 116 появится поддержка алгоритмов шифрования, устойчивых к попыткам дешифрации при помощи квантовых вычислений. Технология объединяет преимущества классической и инновационной криптографии.

24.08.2023    523    VKuser24342747    0       

1

В реестр российского ПО включен первый комплекс обработки больших данных

Новость Импортозамещение Минцифры ИТ-Новость Реестр ПО

Минцифры внесло в реестр отечественного ПО программно-аппаратный комплекс «Скала-Р», предназначенный для обработки больших данных. Это первый комплекс с таким функционалом, включенный в перечень.

22.08.2023    510    VKuser24342747    0       

1

Microsoft внедрила новые функции в GitHub Copilot и анонсировала Windows Copilot

Новость GitHub Искусственный интеллект

ИИ-помощник для разработчиков GitHub Copilot теперь не только в реальном времени анализирует код, предлагает варианты для его улучшения и помогает найти решение проблем в разработке, но и  показывает ссылки на репозитории, из которых взят код. 

17.08.2023    1255    VKuser24342747    0       

1

В JetBrains разработали ИИ-помощника для аналитиков данных

Новость Аналитика Искусственный интеллект

JetBrains представила нейросеть Ask AI для онлайн-блокнота Datalore. Виртуальный ассистент способен генерировать код на нескольких языках, предлагать доработки и упрощать процесс аналитики данных. 

16.08.2023    743    VKuser24342747    0       

1

Исследование: ChatGPT дает неправильный ответ на половину вопросов о программировании

Новость Искусственный интеллект ИТ-Новость

Чат-бот OpenAI ошибается в 52% случаев, когда отвечает на вопросы по программированию. Однако делает это так убедительно, что пользователи не замечают ошибки. 

14.08.2023    1195    VKuser24342747    5       

3