IVA Technologies представила собственную архитектуру для тензорных процессоров. По независимым международным тестам она не отстает от разработок лидеров отрасли.
Хорошие показатели
Первые чипы на отечественной архитектуре IVA TPU для нейропроцессоров появятся в первом квартале 2021 года. Перспективность технологии, созданной IVA Technologies из группы «Хайтек», подтверждена международным консорциумом MLPerf. На тестах архитектура была квалифицирована в том числе в самую сложную группу Closed Division Edge – закрытый список сетей с ограничениями на модификации, время ожидания и точность.
Анализ показал, что архитектура IVA TPU демонстрирует в три раза меньшую задержку, чем Xilinx Alveo U250 для одной из самых распространенных нейронных сетей Resnet-50. Как пояснили разработчики из IVA Technologies, этот результат значит, что их процессор превосходит решение одного из мировых лидеров, созданное специально для вычислений, связанных с искусственным интеллектом. Инженеры полагают, что после реализации ускорителя с архитектурой IVA TPU в интегральной схеме спецназначения производительность чипа будет превосходить показатели ближайшего конкурента NVidia Jetson Xavier NX несмотря на отставание в техпроцессе: 28 нм против 12 нм.
«Успешное участие в тестировании на общепринятой методике с жестким аудитом результатов – это в первую очередь показатель зрелости решения, его готовности к промышленному применению», – заявил Евгений Терентьев, заместитель гендиректора IVA Technologies.
Вопрос конкуренции
Евгений Терентьев пояснил, что большинство тензорных процессоров, которые позиционируются на рынке как самостоятельные решения, на самом деле представляют собой компиляцию ядер с архитектурой сторонних разработчиков. IVA TPU полностью оригинальна. Заместитель главы компании уверен, что разработка будет востребована и в России, и на иностранных рынках.
На базе новой архитектуры будут созданы два типа чипов: для встраиваемых систем и для серверного применения. Представитель организации ожидает, что продуктовой линейкой для эффективных нейросетевых вычислений заинтересуются производители смарт-устройств, разработчики автономных устройств, операторы дата-центров.
При этом IVA Technologies не собирается конкурировать с инженерами, работающими над «Эльбрусами» и «Байкалами». Терентьев объясняет: самые известные российские чипы представляют собой центральные процессоры, в то время как IVA TPU – архитектура для специализированных сопроцессоров. Поэтому главным конкурентом разработки компании стоит считать именно Nvidia.
Кто проводил тесты
Площадка MLPerf – международный консорциум, созданный для разработки инструментов тестирования эффективности решений в отрасли искусственного интеллекта. Учредители организации – Baidu, Google, Гарвардский, Стенфордский и Калифорнийский университеты, а также университет в Беркли. В аттестационные группы площадки входят эксперты из ARM, Facebook, Google, Microsoft, HP, IBM, Intel, Nvidia, Cisco, Cray и других известных ИТ-компаний.