Nvidia расширяет спектр своих решений далеко за пределы искусственного интеллекта и игр, собираясь охватить вычислительную экосистему мобильностью и облачными центрами обработки данных. Архитектура BlueField DPU и DOCA SDK обеспечат стратегическую платформу для расширения охвата компании.
Создан, чтобы разгрузить ЦП
Генеральный директор Nvidia Дженсен Хуанг позиционирует компанию как поставщика «комплексных вычислений», демонстрируя, что вкладывает значительные средства в исследования и разработку. На виртуальной конференции по технологиям графических процессоров Хуанг объявил о развертывании новой архитектуры микросхем BlueField DPU (data processing unit - блок обработки данных).
DPU_BlueField-2X
BlueField DPU основан на двух недавних смелых приобретениях Nvidia: новая аппаратная архитектура работает на ARM, а также включает технологию высокоскоростного соединения, которую компания приобрела вместе с Mellanox.
Новая архитектура DPU представляет высокопроизводительную многоядерную SoC (систему на кристалле). DPU BlueField включают программируемые механизмы обработки данных, которые могут ускорить широкий спектр корпоративных рабочих нагрузок: ИИ, сетей, виртуализации, безопасности, хранения.
В качестве основы серверных интеллектуальных контроллеров сетевого интерфейса DPU разгружают рабочие нагрузки с ЦП, одновременно эффективно анализируя, обрабатывая и передавая большие объемы данных на линейных скоростях. Помимо преимуществ ускорения разгрузки ЦП, DPU могут усилить безопасность центра обработки данных, – встроенные в них ядра Arm обеспечивают дополнительный уровень изоляции между службами безопасности и приложениями, выполняемыми ЦП.
На последней конференции GTC2020 были анонсированы следующие версии семейства DPU SoC:
Nvidia BlueField-2 - архитектура будет включать следующие возможности:
- Nvidia Mellanox ConnectX-6 Dx SmartNIC;
- программируемые ядра Arm;
- поддерживает скорость передачи данных 200 Гбит/с и обеспечивает разгрузку оборудования для ускорения ключевых задач центра обработки данных;
- ускоряет задачи безопасности, сети и хранения, включая изоляцию, доверие корня, управление ключами, RDMA / RDMA через конвергентную сеть Ethernet, GPUDirect, эластичное блочное хранилище и сжатие данных;
- контроллер для управления высокопроизводительной внутренней энергонезависимой памятью, экспресс-хранилищем, массивами all-flash и гиперконвергентными системами;
- один DPU BlueField-2 может разгрузить рабочие нагрузки центра обработки данных от 125 ядер ЦП, тем самым освобождая циклы для обработки других корпоративных приложений.
Nvidia BlueField-2X еще в стадии разработки и должен стать доступен в 2021 году. Он добавляет графический процессор на архитектуре Nvidia Ampere к BlueField-2 для сетевых вычислений с CUDA и Nvidia AI, а также включает все ключевые функции BlueField-2 и использует тензорные ядра третьего поколения для аналитики безопасности на основе ИИ в реальном времени. Он может определять аномальный трафик, указывающий на кражу конфиденциальных данных, шифровать аналитику трафика на линейной скорости, анализировать трафик для выявления вредоносной активности, автоматически запускать функции безопасности и автоматические ответы.
Nvidia также объявила, что запустит DPU следующего поколения BlueField-3 и BlueField-3X в 2022 году и BlueField-4X в 2023 году. В последнем поколении Nvidia будет интегрировать ядра GPU и Arm на уровне кремния. Компания пообещала, что BlueField-4 увеличит скорость обработки DPU в 1000 раз по сравнению с BlueField-2X и в 600 раз по сравнению с BlueField-3X.
Новая экосистема
Поддержка NVIDIA для Arm распространяется от суперкомпьютеров до персональных и встраиваемых систем
Превращая свою аппаратную платформу в архитектуру, ориентированную на DPU, для поддержки новых корпоративных приложений, Nvidia обеспечивает интеграцию ускорителей BlueField/DOCA в партнерскую экосистему Arm.
Поставщик объявил, что поможет партнерам Arm выйти на рынок с платформами полнофункциональных решений, которые включают в себя сетевые технологии, технологии хранения и безопасности с поддержкой GPU и DPU. Он привлек партнеров Arm для создания полнофункциональных решений для высокопроизводительных вычислений, облачных вычислений, периферийных устройств и возможностей ПК. Кроме того, он переносит свои движки AI и RTX на Arm, так что они предназначены для более широкого рынка, чем платформы x86, на которых традиционно работает Nvidia.
Партнеры играют важную роль в планах Nvidia. В настоящее время, доступный только для партнеров с ранним доступом, DOCA SDK позволяет разработчикам программировать приложения на сервисах инфраструктуры центра обработки данных с ускорением BlueField. Разработчики могут переложить нагрузку с ЦП на DPU BlueField. Следовательно, это новое предложение дополняет корпоративные инструменты разработчика Nvidia и модель программирования CUDA, которая дает возможность разрабатывать приложения с ускорением на GPU.
Кроме того, SDK полностью интегрирован в каталог контейнерного программного обеспечения Nvidia NGC, что побуждает сторонних поставщиков приложений разрабатывать, сертифицировать и распространять приложения с ускорением DPU.
VMware, Red Hat, Canonical и Check Point Software Technologies объявили на GTC о планах интеграции своих продуктов с новой архитектурой ускорения DSP / DOCA в следующем году. Nvidia объявила, что несколько ведущих производителей серверов, включая Asus, Atos, Dell Technologies, Fujitsu, Gigabyte, H3C, Inspur, Lenovo, Quanta/QCT и Supermicro, планируют интегрировать DPU в свои продукты в те же сроки.
Microsoft внедряет Nvidia AI в Azure, чтобы использовать интеллектуальные возможности с ускорением на GPU в облачном интерфейсе Microsoft Office. Возможно, в ближайшие годы мобильное взаимодействие с приложениями Office будет ускорено локально за счет использования технологии DPU-offload.
Nvidia снижает зависимость от GPU
Дженсен Хуанг также объявил, что платформа пограничных серверов Nvidia EGX AI развивается для объединения графического процессора архитектуры Nvidia Ampere и DPU BlueField-2 на одной карте PCIe.
Хотя не было конкретной привязки BlueField DPU к Nvidia Jetson, SoC компании на базе Arm для робототехники AI, следует ожидать, что DOCA SDK будет продвигаться для поддержки разработки этих приложений.
Новая архитектура Nvidia BlueField DPU и DOCA SDK обеспечивают стратегическую платформу для расширения ее возможностей для предприятий, поставщиков услуг и потребителей всех типов.
Архитектура DPU предоставляет Nvidia путь для конвергенции новых моделей программирования DOCA с ее платформой разработки CUDA AI и каталогом контейнерных облачных решений NGC. Это позволит компании предоставить аппаратные и программные платформы своим разработчикам продуктов и партнерам по решениям.
Ожидая одобрения приобретения Arm Technology, Nvidia необходимо доказать эффективность новой архитектуры своей партнерской экосистеме. Если технология DPU не будет соответствовать обещаниям Nvidia в отношении агрессивной производительности, этот недостаток может испортить отношения с огромным количеством лицензиатов Arm.
Nvidia не может позволить себе потерять импульс в войне микропроцессоров, после того как начала отказываться от услуг своего главного соперника и производителя процессоров Intel.