Правительство совместно с ИТ-компаниями подготовили кодекс этики в сфере ИИ

03.11.2021      18781

Правительство, «Сбер», «Яндекс», VK и другие российские компании подготовили документ, который содержит рекомендации для бизнеса по морально-этическим вопросам использования ИИ.

Кто разработал документ

26 октября на первом международном форуме «Этика искусственного интеллекта: начало доверия» прошла церемония подписания кодекса этики в сфере искусственного интеллекта (КЭСИИ). В мероприятии приняли участие чиновники администрации президента и правительства, а также представители компаний, входящих в альянс в сфере ИИ: «Газпром нефти», МТС, «Российского фонда прямых инвестиций», «Сбера», «Яндекса», интернет-холдинга VK. В разработке документа также были задействованы Аналитический центр при правительстве РФ, Минэкономразвития, эксперты академического сообщества.

Текст кодекса предназначен для компаний, которые используют искусственный интеллект с невоенными, гражданскими целями. Положения документа актуальны и для российских, и для иностранных разработчиков, заказчиков, регулирующих органов, операторов систем на базе ИИ и других лиц, влияющих на развитие технологии.

Положения КЭСИИ

В кодекс включены 33 пункта, которые определяют основные морально-этические принципы для организаций и частных лиц, использующих искусственный интеллект.

Документ рекомендует бизнесу сотрудничать в отраслях, связанных с выявлением и проверкой информации о методах создания универсальных ИИ-систем, а также заниматься предотвращением угроз, которые может нести технология сильного искусственного интеллекта. По мнению авторов кодекса, государство должно контролировать применение таких разработок.

Еще одно ключевое положение КЭСИИ – честное информирование пользователей о взаимодействии с ИИ-системой, если этот процесс касается вопросов прав человека и критических сфер его жизни. Также компании должны представить инструменты, которые позволяют прекратить подобную коммуникацию. Авторы документа полагают, что отвечать за применение искусственного интеллекта должны люди, а не машины.

Чтобы реализовать положения кодекса на практике, планируется создание комиссии, сформированной из представителей бизнеса, научных организаций и государственных ведомств. Компании, которые подписали документ, должны выбрать среди своих работников уполномоченных по этике искусственного интеллекта, в задачи которых войдет контроль за исполнением кодекса. Разбором спорных случаев будет заниматься внутренняя комиссия организации.

Также КЭСИИ предусматривает создание свода наилучших и наихудших практик решения этических вопросов, связанных с применением ИИ. К этому документу будет предоставлен публичный доступ.


Автор:
Аналитик


Комментарии
Подписаться на ответы Инфостарт бот Сортировка: Древо развёрнутое
Свернуть все
1. DrAku1a 1724 06.11.21 14:44 Сейчас в теме
Боятся появления диких искинов?))
2. Leon75 06.11.21 19:56 Сейчас в теме
(1)Нет, это безуспешная попытка все контролировать.
Obertone; Hammerboy; +2 1 Ответить
3. retr0 08.11.21 07:02 Сейчас в теме
государство должно контролировать
никогда такого не было и вот опять)
4. Darklight 32 08.11.21 09:18 Сейчас в теме
государство должно контролировать применение таких разработок

Мёртворождённый кодекс

если этот процесс касается вопросов прав человека и критических сфер его жизни

Как вот этот эфемерное понятие будет определяться? Без чёткого определения - это всё туфта!
Как и средства прекращения? Вот звоните Вы в 112 - а Вам отвечает робот. Вы ему - меня убивают! Робот отвечает - тогда я должен Вас информировать о том, что Вы разговариваете с роботом! Вы - не хочу говорить с роботом! Робот - тогда инициирую отказ от сервиса под управлением искусственного интеллекта, до свидания - и кладёт трубку!

Также КЭСИИ предусматривает создание свода наилучших и наихудших практик решения этических вопросов, связанных с применением ИИ

Лучше бы проработали документ о том , как решать вопросы решения ситуаций с нанесением вреда человеку системами, под управлением ИИ. Как это всё будет регулироваться. На основании каких положений должен принимать решение ИИ в сложных ситуациях, когда нельзя быстро и однозначно принят решение когда тот или иной ущерб неизбежен. И как потом определять виновного?
Всё валить - на заранее определённого ответственного человека? Д а Вы просто не найдёте таких "козлов отпущения" в здравом уме!
Мёртворождённый кодекс
Obertone; +1 Ответить
5. pavel06 2 09.11.21 00:16 Сейчас в теме
(4)
Мёртворождённый кодекс


Можно будет ссылаться на нарушение кодекса и сажать.
6. Darklight 32 09.11.21 09:44 Сейчас в теме
(5)Кодекс ≠ Закон - юридической силы сам по себе не имеет, и не может быть основанием для проведения процессуальных процедур.
Но на основе кодекса дальше могут появиться уже законодательные документы - тогда да - можно будет и юридически ограничивать и даже применять меры пресечения. Но до этого кодекс должен дорасти - а так - думаю у него нет шансов дожить до этих времён (по крайней мере в таком виде).
А без законодательной базы на основе кодекса можно выстраивать только собственное взаимодействие (в тч. с внешними контрагентами) - как минимум это повлияет на все госзаказы и госсервисы. Но кодекс не должен противоречить конституции
7. pavel06 2 09.11.21 10:32 Сейчас в теме
(6)
Кодекс ≠ Закон - юридической силы сам по себе не имеет


Может быть, у Вас слегка идеалистическое представление о современной юрсистеме в РФ.
Есть такое известное изречение "закон, что дышло...", законов полно, неясно сформулированных,
И любое правонарушение по мнению власть имеющего можно подогнать под нужный закон,
был бы некий предупреждающий "кодекс" - ориентир для самоцензуры.
8. Darklight 32 09.11.21 10:49 Сейчас в теме
(7)Для решения таких споров и есть юристы, и соответствующие суды, влоть до конституционного. Законы в РФ действительно сформулированы через "одно место" и под них часто питаются подгибать неугодных. Но всё же, обсуждали кодекс, а не закон
Obertone; +1 Ответить
Оставьте свое сообщение

См. также

«Сколково» объявил отбор перспективных ИИ-проектов для получения грантов

Новость Искусственный интеллект ИТ-Новость

В 2024 году «Сколково» выделит пилотным проектам в сфере искусственного интеллекта гранты на общую сумму 554 млн рублей. В результате отбора финансирование получат проекты с применением ИИ в областях производства, операционной деятельности и в работе предоставляемых сервисов.

12.04.2024    728    AnastasiaKl    3       

3

В программу подготовки спортивных программистов вошли бег и скорость печати

Новость ИТ-Новость

Пятничное: в России вступил в силу стандарт подготовки по дисциплине «спортивное программирование». В стандарт вошли требования к физическим показателям спортсменов и скорости набора текста.

16.02.2024    776    VKuser24342747    2       

1

Росстандарт утвердил протокол LoRaWAN для интернета вещей

Новость ИТ-Новость

Федеральное агентство по техническому регулированию и метрологии (Росстандарт) утвердило национальный стандарт протокола LoRaWAN RU, таким образом он получил официальный статус. Технология используется для беспроводной передачи данных между устройствами интернета вещей.

19.01.2024    555    VKuser24342747    0       

2

Новый закон откладывает на год вступление в силу изменений в порядок регистрации на сайтах

Новость Законодательство ИТ-Новость

12 декабря вступил в силу Федеральный закон, меняющий срок, к которому все владельцы сайтов должны внести изменения в порядок авторизации пользователей на сайте. Закон вводит переходный период до 1 января 2025 года.

20.12.2023    716    VKuser24342747    2       

1

Вышло крупное обновление для Android Studio

Новость Мобильные приложения ИТ-Новость

Новая версия Android Studio под номером 2023.1 получила имя Hedgehog. Появились возможности контролировать производительность приложений и управлять подключенными устройствами.

07.12.2023    911    VKuser24342747    2       

3

GitHub опубликовал результаты ежегодного исследования проектов с открытым исходным кодом

Новость GitHub ИТ-Новость

GitHub собрал данные об Open Source проектах в рамках ежегодного исследования Octoverse. Компания изучила географию репозиториев, используемые языки программирования и нейросети, а также активность сообщества.

15.11.2023    575    VKuser24342747    1       

2

Некоммерческие проекты смогут получить бесплатный доступ к GigaChat API

Новость ИТ-компания ИТ-Новость

Компания «Сбер» заявила, что будет бесплатно предоставлять доступ к API нейросети для генерации текста GigaChat для некоммерческих проектов. Однако для них будет ограничено число доступных токенов.

01.11.2023    724    VKuser24342747    2       

3

Состоялся релиз свободной среды разработки Geany 2.0

Новость ИТ-Новость Программист

Вышла новая версия Geany 2.0. Обновление затронуло внешний вид программы, расширило поддержку файлов и сторонних проектов, добавило новые способы работы с кодом.

25.10.2023    761    VKuser24342747    0       

1

Минцифры подготовило критерии по выбору оператора реестра провайдеров хостинга

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило проект постановления, которое утверждает требования к организации, претендующей на статус оператора реестра провайдеров хостинга.

25.10.2023    415    VKuser24342747    0       

1

Минцифры составило алгоритм действий для компаний, у которых не работает VPN

Новость Минцифры ИТ-Новость

Минцифры подготовило разъяснения для российских организаций, у которых возникли перебои в работе VPN-сервисов для клиентов и сотрудников из-за блокировки запрещенных ресурсов Роскомнадзором.

24.10.2023    699    VKuser24342747    0       

0

«Сбер» объявила о доступности SberLinux OS Server для российских компаний

Новость Импортозамещение ИТ-Новость

«СберТех», дочерняя компания «Сбера», объявила о предоставлении доступа к собственной серверной операционной системе SberLinux OS Server российским компаниям. ОС включена в реестр отечественного ПО.

20.10.2023    972    VKuser24342747    0       

2

Минцифры внесло изменения в проект правил идентификации клиентов веб-хостингов

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило изменения в пакет документов, которые устанавливают новые требования для провайдеров хостинга. Ведомство расширило перечень допустимых методов идентификации клиентов.

18.10.2023    504    VKuser24342747    0       

1

Google выпустила финальную версию Android 14

Новость Android Google ИТ-Новость

Google выпустила новую версию мобильной ОС Android 14. Изменения затронули настройки внешнего вида и безопасности. Были расширены возможности камеры и инструментов для хранения данных.

12.10.2023    774    VKuser24342747    0       

1

Яндекс объявил об открытии исходного кода DataLens

Новость Аналитика ИТ-Новость Яндекс

BI-система Yandex DataLens теперь развивается в опенсорс. Код продукта выложен для всех на GitHub. Любой желающий сможет развернуть DataLens на своем железе и доработать его под свои сценарии применения.

03.10.2023    1543    ЕленаЧерепнева    1       

6

Роскомнадзор создаст реестр хостинг-провайдеров

Новость Минцифры ИТ-Новость Роскомнадзор

Минцифры подготовило несколько проектов постановлений, которые утверждают правила ведения реестра поставщиков хостинг-услуг, а также новые требования к провайдерам.

02.10.2023    647    VKuser24342747    0       

1

«СберТех» представил репозиторий GitVerse с ИИ-помощником для написания кода

Новость Импортозамещение ИТ-Новость Программист

«СберТех» начал прием заявок на тестирование веб-сервиса для публикации ИТ-проектов GitVerse. Платформа подходит для разработки программ с открытым и закрытым кодом.

26.09.2023    900    VKuser24342747    2       

1

ИП и юрлица смогут использовать смартфон для создания и замены электронной подписи

Новость ИТ-Новость ФНС Цифровая подпись

ФНС внесла изменения в правила оформления электронной подписи руководителя организации и ИП. Станет возможным продлевать ее и записывать при помощи мобильного устройства.

18.09.2023    475    VKuser24342747    1       

1

Журнал IEEE Spectrum опубликовал рейтинг популярности языков программирования

Новость ИТ-Новость Языки программирования

Журнал Института инженеров электротехники и электроники IEEE Spectrum подготовил рейтинг самых популярных языков программирования в 2023 году. Статистика разделена на три категории.

01.09.2023    1397    VKuser24342747    4       

2

В бета-версии Microsoft 365 появилась поддержка языка Python для Excel

Новость ИТ-Новость Языки программирования

С помощью библиотек и средств визуализации Python можно будет манипулировать данными Excel, а затем использовать полученные результаты в формулах, диаграммах и сводных таблицах.

28.08.2023    769    VKuser24342747    0       

2

Специалисты Калифорнийского университета установили, что боты справляются с CAPTCHA лучше, чем люди

Новость ИТ-Новость

Международная группа исследователей изучила эффективность тестов CAPTCHA. Ученые пришли к выводу, что технология больше мешает людям, потому что боты научились с ней справляться.

24.08.2023    1240    VKuser24342747    23       

2

Google Chrome начнет поддерживать квантово-устойчивые алгоритмы шифрования

Новость Google Безопасность ИТ-Новость

В версии Google Chrome 116 появится поддержка алгоритмов шифрования, устойчивых к попыткам дешифрации при помощи квантовых вычислений. Технология объединяет преимущества классической и инновационной криптографии.

24.08.2023    517    VKuser24342747    0       

1

В реестр российского ПО включен первый комплекс обработки больших данных

Новость Импортозамещение Минцифры ИТ-Новость Реестр ПО

Минцифры внесло в реестр отечественного ПО программно-аппаратный комплекс «Скала-Р», предназначенный для обработки больших данных. Это первый комплекс с таким функционалом, включенный в перечень.

22.08.2023    510    VKuser24342747    0       

1

Microsoft внедрила новые функции в GitHub Copilot и анонсировала Windows Copilot

Новость GitHub Искусственный интеллект

ИИ-помощник для разработчиков GitHub Copilot теперь не только в реальном времени анализирует код, предлагает варианты для его улучшения и помогает найти решение проблем в разработке, но и  показывает ссылки на репозитории, из которых взят код. 

17.08.2023    1248    VKuser24342747    0       

1

В JetBrains разработали ИИ-помощника для аналитиков данных

Новость Аналитика Искусственный интеллект

JetBrains представила нейросеть Ask AI для онлайн-блокнота Datalore. Виртуальный ассистент способен генерировать код на нескольких языках, предлагать доработки и упрощать процесс аналитики данных. 

16.08.2023    737    VKuser24342747    0       

1

Исследование: ChatGPT дает неправильный ответ на половину вопросов о программировании

Новость Искусственный интеллект ИТ-Новость

Чат-бот OpenAI ошибается в 52% случаев, когда отвечает на вопросы по программированию. Однако делает это так убедительно, что пользователи не замечают ошибки. 

14.08.2023    1182    VKuser24342747    5       

3