В Google сообщили о создании сопроцессора Edge TPU для аппаратного ускорения обученных нейросетевых моделей в конечных устройствах. В корпорации уверены, что схема упростит разработку и широкомасштабное развертывание устройств интернета вещей.
Обучение нейросетевых алгоритмов чаще всего проводят на облачных или локальных серверах. Этот процесс требует больших вычислительных ресурсов. Но даже применение уже обученной нейросетевой модели не обходится без проблем: устройства пользователей не всегда подключены к интернету или не обладают мощностью для обработки данных нейросетевыми алгоритмами.
Особенности разработки
Сопроцессор Edge TPU – интегральная схема специального назначения. Создатели оптимизировали ее для эффективного выполнения алгоритмов нейросетей. Выполнять тренировку алгоритмов можно и в облаке, поскольку чип может работать с платформой Cloud TPU. Модель машинного обучения можно запустить и на движке TensorFlow Lite на границе сети.
Google утверждает, что процессор в реальном времени может обработать HD видео с частотой 30 кадров в секунду, используя для этого несколько часто применяемых нейросетевых моделей. Остальные технические характеристики корпорация предпочла не раскрывать.
Комплект разработчика
Разработчикам представили не только сам чип, но и два устройства на его основе. В комплект включили систему на модуле (SOM) Edgе TPU Dev Board с центральным процессором NXP i.MX 8M, графическим процессором Integrated GC7000, модулями Wi-Fi и Bluetooth в компактном форм-факторе.
Второе устройство из комплекта — Edge TPU Accelerator с разъемом USB Type-C для подключения SOM к Linux-системе. Оба устройства поддерживают ПО Debian Linux и Android Things. Перед тем, как попасть в руки разработчиков в октябре 2018 года, комплект пройдет предварительную регистрацию.
Напомним, что в феврале 2018 года пользователям представили стабильную версию сервиса для подключения устройств из интернета вещей Cloud IoT Core. С помощью инструмента можно полноценно управлять девайсами через облако и создавать собственные системы машинного обучения.