Ученые из Google Brain научили искусственный интеллект «отращивать» ноги

24.10.2018     

В ходе серии экспериментов исследователи Google Brain научили искусственный интеллект менять свое строение для решения поставленных задач: например, «отращивать» ноги для преодоления препятствий.

Google Brain – исследовательский проект Google по изучению искусственного интеллекта на основе глубокого обучения.

Обучение вместо эволюции

Чаще всего цель обучения ИИ состоит в том, чтобы изучить политику манипулирования виртуальным агентом, конструкция которого фиксирована и редко подходит для выполнения конкретной задачи. Но разработчики утверждают, что агент может не только улучшить свою структуру, но и облегчить процесс обучения при этом.

Ходок из многоугольника с парой ног путешествовал в среде OpenAI Gym. Ландшафт при этом генерировался случайно. Боту нужно было пройти по этой местности, меняя толщину и размер ног для успешного выполнения задания.

Процесс обучения был аналогичен методу проб и ошибок, за исключением того, что боты вознаграждаются за хорошие стратегии и их реализации. Решения, принятые в таких условиях, оказываются нестандартными и предсказуемыми для человека.

 

 

Вооружившись способностью изменять конфигурацию тела агента, Дэвид Ха из Google Brain с коллегами решил изучить, как побудить бота бросить вызов себе, вознаграждая его за сложные решения. Например, перенос одной и той же полезной нагрузки с использованием меньших ног может привести к более высокой награде, чем в случае с длинными ногами. 

За основу исследования программисты взяли принцип, согласно которому эволюция формирует общую структуру тела конкретного вида, но организм также может изменяться и адаптироваться к окружающей среде в течение жизни.

А я милого узнаю по походке

Эксперимент Google Brain не первый в своем роде. Аналогичные опыты проводила и компания Roboschool. У ее виртуальной среды есть собственный агент по имени Ant. Его тело поддерживают четыре ноги, и каждая из них состоит из трех частей, которые контролируются двумя моторными суставами.

 

Агент развивает более длинные и тонкие ноги, поддерживая одно и то же тело во время тренировки

 

На видео видно, как собственный дизайн тела агента отличается от оригинального: он учится развивать более длинные и тонкие ноги, параллельно изучая перенос тела через окружающую среду. При этом одна нога оказывается более крупной, обеспечивая большую стабильность. 

Возможность улучшать версию своего тела помогает агенту достичь большей производительности. Но с помощью подобных опытов можно решать и другие задачи, не всегда полезные для производительности. Например, агент сможет изучать дизайн, для воплощения которого требуется меньшее количество материалов, достигая при этом удовлетворительного качества работы. 

Результаты исследования

Программисты Google Brain пришли к выводу, что обучение агента с положительным подкреплением позволяет свести к минимуму вмешательство человека. Но повсеместно применять эту методику нельзя, ведь может случиться так, что требующего наименьших затрат решения не окажется, и робот не решит поставленную задачу без участия инженеров.

Использовать методику команда Google Brain предлагает для проектирования аэродинамических форм, испытаний материалов, создания роботов или улучшения компьютерной графики.


Автор:
Сергей Кравченко Обозреватель


Какие разработки Google в сфере ИИ вы считаете наиболее интересными?


Нейросеть для выявления заболеваний глаз (50%, 5 голосов)
50%
WaveNet – приближает созданную компьютером речь к естественному звучанию (50%, 5 голосов)
50%
Технология улучшения качества изображений (20%, 2 голосов)
20%
Инструмент для рисования AutoDraw (20%, 2 голосов)
20%
AlphaGo – нейронная сеть для игры в го (10%, 1 голосов)
10%
Другое (в комментарии) (0%, 0 голосов)
0%

Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. s22 19 24.10.18 13:28 Сейчас в теме
на конференции майла показывали реализацию wavenet. Звучит лучше диктора.
Оставьте свое сообщение

См. также

Nvidia купит производителя чипов ARM

Новость ИТ-новость

Производитель графических карт Nvidia заключил соглашение с японским холдингом Softbank. Цель – покупка разработчика процессоров ARM за 40 млрд долларов США.

сегодня в 13:21    423    user1015646    0       

Рассекречены характеристики процессоров Intel, которые сменят Atom

Новость ИТ-новость Микроэлектроника

Процессоры Intel Atom стали основой тысяч моделей бюджетных ноутбуков с пассивным охлаждением. Инсайдеры рассказали о характеристиках новых чипов, которые сменят Atom на рынке и обеспечат достойную производительность при достаточно низкой цене.

вчера в 11:05    2141    user1015646    0       

Деньги на ветер: Google опубликовала на Github исходники проекта Makani

Новость GitHub Google ИТ-новость

Google выложила исходный код программного обеспечения для управления системой ветрогенераторов. Проект, для которого разработаны исходники, уже закрыт, но они почти целиком стали доступны как open source.

вчера в 09:48    2498    VKuser24342747    0       

Microsoft подвела итоги эксперимента по размещению своих дата-центров под водой

Новость Дата-центры ИТ-новость Новости компаний

Проект «Natick», в рамках которого сервера в герметичном контейнере разместили в океане недалеко от Шотландии, длился 5 лет. Недавно состоялся подъем контейнера и подведение итогов исследования.

18.09.2020    2891    ЕленаЧерепнева    0       

Прощай, браузер: Google разработает замену для Chrome OS

Новость ОС Google ИТ-новость

Google работает над созданием новой операционной системы под внутренним названием LaCrOs. Разработка должна заменить Chrome OS. Ключевое отличие – отказ от встроенного в ОС браузера.

18.09.2020    3702    VKuser24342747    0       

Android 11 представлен официально

Новость Android ИТ-новость Мобильные приложения

Компания Google выпустила новую версию самой популярной в мире мобильной операционной системы. Android 11 – Red Velvet Cake – названа в честь торта «Красный бархат», получила новые настройки приватности, поддержку 5G, встроенную функцию записи экрана и опцию подтвержденных звонков от компаний.

18.09.2020    5310    user1015646    0       

Google объединила разработку no-code, управление API и бессерверные вычисления

Новость Google ИТ-новость Новости компаний

Google Cloud объявила о запуске своей новой платформы бизнес-приложений, которая сочетает в себе управление через API с разработкой приложений без кода, а также с возможностями автоматизации и анализа данных.

18.09.2020    2501    SKravchenko    1       

Microsoft раскрыла исходники библиотеки для редактирования документов в облаке

Новость ИТ-новость Новости компаний Облачные технологии

Microsoft опубликовала исходный код собственного фреймворка Fluid. Компания использует его в Office 365 для создания облачных документов для совместного редактирования.

17.09.2020    1815    VKuser24342747    0       

Microsoft и VMware запустили облачный сервис Azure Spring для Java-разработчиков

Новость ИТ-новость Новости компаний Облачные технологии

Компания Microsoft совместно с VMware запустила сервис для облачной разработки – Azure Spring Cloud. Это комфортная среда для создания Java-приложений на платформе Microsoft Azure с использованием популярного фреймворка Spring Boot.

17.09.2020    1625    user1015646    0       

Приближается конец Adobe Flash Player

Новость Интернет ИТ-новость

В июле 2017 года Microsoft вместе с Adobe объявили, что Adobe Flash Player больше не будет поддерживаться системой после декабря 2020. В соответствии с этим планом Microsoft прекратит и использование Flash Player в Edge и IE 11.

16.09.2020    2445    SKravchenko    1       

Утверждено крупное обновление языка С++

Новость ИТ-новость Языки программирования

Выхода С++ 20 осталось ждать совсем недолго. Новый стандарт утвердила группа международной организации по стандартизации ISO – Working Group 21 (WG21).

15.09.2020    2564    user1015646    6       

GitHub победил: Microsoft закроет IDE Visual Studio Codespace

Новость GitHub ИТ-новость

Microsoft в этом году запретит создавать новые проекты в облачной среде разработки Visual Studio Codespace. Вместо нее компания будет продвигать одноименный инструмент GitHub.

14.09.2020    2849    VKuser24342747    3       

Mozillа: история самой недооцененной технологической компании

Новость Интернет ИТ-новость Новости компаний Языки программирования

В августе Mozilla запустила второй раунд увольнений за год. Хотя официальной причиной называют COVID-19, это свидетельствует о глубоком кризисе компании с долгой историей, которая приложила руку к созданию многих ИТ-стандартов и технологий.

11.09.2020    3055    SKravchenko    1       

Microsoft изучают LTO + PGO для ядра Linux

Новость Linux ИТ-новость

Ян Бирман – менеджер по разработке программного обеспечения в Microsoft – представил на конференции Linux Plumbers Conference доклад об исследовании профильной оптимизации ядра Linux.

10.09.2020    2997    SKravchenko    2       

Microsoft выпустила официальные ISO-образы Windows 10 20H2 для инсайдеров

Новость Windows ИТ-новость

Microsoft активно работает над следующей версией Windows 10, известной как 20H2. Она будет выпущена в конце 2020 года. И недавно 20H2 стала доступна в виде ISO-образов для коммерческих клиентов в бета-канале.

09.09.2020    1149    SKravchenko    2       

Устройства Huawei больше не будут получать патчи безопасности Android

Новость Android ИТ-новость Мобильные приложения

Компания Google прекратила предоставление патчей безопасности для смартфонов и планшетов Huawei, которые работают под управлением Android. Это следствие политики американского правительства, которое ограничивает работу с китайскими партнерами.

09.09.2020    896    user1015646    3       

Google представила новый инструмент для Android-разработки Jetpack Compose

Новость Android Google ИТ-новость Мобильные приложения

Компания Google запустила альфа-тест UI-фреймворка Jetpack Compose, предназначенного для создания приложений под Android. Инструментарий решения уже доступен в Android Studio 4.2.

09.09.2020    741    VKuser24342747    2       

Российские разработчики бесплатно передали Linux поддержку NTFS

Новость Linux ИТ-новость

Сообщество Linux получило драйвер для файловой системы NTFS, которая используется в Windows. Код решения бесплатно передали разработчики российской компании Paragon Software.

08.09.2020    2245    user1015646    0       

Google запустил портал для разработчиков Chrome OS

Новость ОС Google ИТ-новость

Компания Google представила новый портал ChromeOS.dev. Это ресурс, предназначенный для общения и предоставления информации всем разработчикам системы Chrome OS и приложений для нее.

07.09.2020    768    user1015646    0       

Facebook ждёт обрушения доходов от рекламы из-за повышенной конфиденциальности в iOS 14

Новость iOS ИТ-новость Мобильные приложения Соцсети

26 августа Facebook предупредил рекламодателей, что новые инструменты Apple для борьбы с отслеживанием активности пользователей могут привести к падению доходов издателей более чем на 50 процентов.

04.09.2020    986    SKravchenko    2       

Энтузиасты демонстрируют Windows 10 для ARM с функцией, аналогичной Continuum

Новость Windows ИТ-новость Мобильные приложения

Недавние выпуски Windows 10 на ARM позволили энтузиастам включить поддержку двойного экрана. Некоторым разработчикам даже удалось воссоздать возможности Windows Phone Continuum.

03.09.2020    872    SKravchenko    0       

Программист из США попросил суд выдать ИИ патент на изобретение

Новость Инновации Искусственный интеллект ИТ-новость

Американский разработчик настаивает, что созданная им нейросеть стала автором двух изобретений. Патентное ведомство США отказалось признать ИИ владельцем интеллектуальных прав на устройства.

03.09.2020    1033    VKuser24342747    30       

В Microsoft Word появились функция расшифровки аудио и голосовые команды

Новость Автоматизация Infostart Software Partners Искусственный интеллект Маркет

Компания Microsoft представила обновление офисного пакета Microsoft 365. Теперь в приложении Word доступны функция расшифровки аудиозаписей и поддержка голосовых команд.

03.09.2020    1322    user1015646    3       

Разработчики языка Rust и компания Mozilla объявили о намерении создать фонд Rust Foundation

Новость ИТ-новость Новости компаний Языки программирования

Команда Rust – исследовательский проект спонсируемый Mozilla, планирует создать фонд. Сокращение 250 сотрудников компании Mozilla ускорило принятие этого решения.

01.09.2020    937    SKravchenko    1       

Минкомсвязь озвучила требования к социально значимым сайтам

Новость Интернет ИТ-новость Минкомсвязь

Доступ к социально значимым сайтам хотят сделать бесплатным в рамках проекта «Доступный интернет». Минкомсвязь определила, каким требованиям должны соответствовать такие сайты.

01.09.2020    865    user1015646    0