Генеральный директор SpaceX и Tesla Илон Маск заявил в своем твиттере, что все разработки в области искусственного интеллекта должны регулироваться, даже в его собственной компании.
Это замечание Илон Маск сделал в ответ на критическую статью об организации OpenAI, соучредителем которой он является. В статье утверждалось, что организация отошла от своих первоначальных принципов безопасного и справедливого развития ИИ, и стала скрывать свои разработки, привлекая огромные инвестиции.
Когда Маска спросили, имеет ли он в виду, что ИИ должны регулироваться правительствами отдельных стран или глобальными организациями (например ООН), он ответил: «и тем и другим». Ранее он уже заявлял, что у него «нет контроля над OpenAI и очень ограниченное понимание о том, чем они занимаются», он «не очень верит в безопасность того, что они разрабатывают», и считает, что «работа OpenAI должна стать более открытой».
OpenAI
Компания OpenAI была создана в октябре 2015 года Илоном Маском, Сэмом Альтманом и другими бизнесменами как независимая исследовательская организация, главная цель которой – создать машину, обладающую так называемым «ИИ общего назначения» (AGI – Artifical General Intelligence), способным понять и освоить любую интеллектуальную задачу, которую может выполнить человек. 21 февраля 2018 года Маск покинул совет директоров, указав на «потенциальный конфликт интересов» между разработками OpenAI и исследованиями для беспилотных автомобилей, проводимыми Tesla.
За четыре года своего существования OpenAI стала одной из ведущих исследовательских лабораторий ИИ в мире. После перехода OpenAI от некоммерческого проекта к коммерческой форме, компания начала распределять акции среди своих сотрудников и заключила партнерские отношения с корпорацией Microsoft, которая объявила об инвестиционном пакете в размере 1 млрд. долларов США. В прошлом году OpenAI объявила о своем намерении коммерчески лицензировать свои технологии для создания общего продукта с Microsoft.
В критической статье журнала MIT Technology Review отмечается, что существует несоответствие между тем, что компания публично поддерживает, и тем, как она на самом деле работает. Жесткая конкуренция в разработке AGI заставляет компанию в последнее время испытывать коммерческое давление, которое подрывает основополагающие идеалы прозрачности, открытости и сотрудничества OpenAI.
Беспризорный интеллект
Хотя может показаться удивительным, что Маск включил Tesla в общий призыв к регулированию развития продвинутого ИИ, это соответствует его общей позиции в отношении развития искусственного интеллекта. Илон Маск является одним из крупнейших критиков технологий ИИ и обеспокоен тем, что OpenAI может не выполнить все свои обещания.
Это далеко не первый раз, когда Маск выражает озабоченность по поводу потенциальных негативных последствий развития ИИ. В 2014 году он написал в Твиттере, что это может быть «более опасно, чем ядерное оружие», и сказал аудитории на симпозиуме по аэронавтике и астронавтике в Массачусетском технологическом институте в том же году, что ИИ является «нашей самой большой угрозой существованию». В 2018 году он заявил, что, по его мнению, правительственный комитет должен потратить год или два на «понимание ИИ», а затем придумать правила, обеспечивающие его разработку и безопасное использование.
Надзорные органы
На следующий день после заявления Маска, Европейский Союз обнародовал план по регулированию систем искусственного интеллекта «высокого риска». Ожидается, что новые законопроекты появятся в конце 2020 года. В прошлом году 42 страны подписались под обещанием предпринять шаги для регулирования ИИ. Тем не менее, в настоящее время США и Китай, по-видимому, отдают приоритет инновациям и устанавливают превосходство в области искусственного интеллекта над вопросами регулирования и безопасности.
В то же время в РФ, в рамках государственной программы «Цифровая экономика Российской Федерации» предусмотрена реализация комплекса мер по развитию искусственного интеллекта для достижения «лидирующих позиций в мире».
Напомним также, что гендиректор группы компаний InfoWatch Наталья Касперская недавно предложила закрепить за государством ведение информационных технологий и оборот данных россиян, а также закрепить это в конституции РФ.