ИИ на борту

Ambarella X7: отдельный ИИ-ускоритель на 2–5 Вт для любого процессора по PCIe или USB

Производитель чипов для камер впервые выпустил ускоритель, который работает не внутри собственной SoC, а рядом с чужим процессором на Arm или x86.

Что анонсировано

15 сентября Ambarella представила X7 — свой первый отдельный ИИ-ускоритель. Внутри — нейроядро CVflow третьего поколения, то же, что компания ставит в свои процессоры для камер. X7 подключается к любому хосту на Arm или x86 по одной линии PCIe Gen 3 или по USB 3.2 и определяется системой как обычное PCIe-устройство. Хостом может быть и SoC самой Ambarella.

В текущих проектах заказчиков X7 укладывается в 2–5 Вт. Поддерживаются свёрточные сети, трансформеры для зрения и мультимодальные трансформеры. Эталонная плата XCalibur сделана в формате M.2 2280 с памятью LPDDR5 и пропускной способностью по PCIe выше 840 МБ/с; полный комплект её проектной документации компания обещает открыть заказчикам. Среди целевых применений прямо названы дроны и мобильные роботы. Производительность в TOPS Ambarella не раскрыла.

Одна линия PCIe — и зачем это

Большинство ускорителей в формате M.2 рассчитаны на две или четыре линии PCIe. X7 рассчитан на одну, а если свободной линии нет — на USB. Это важно для малых бортовых вычислителей: у Raspberry Pi 5 наружу выведена ровно одна линия, у многих плат на Rockchip линии делят с SSD и сетью.

Обратная сторона — полоса. Одна линия Gen 3 даёт около 985 МБ/с теоретически, а XCalibur показывает больше 840 МБ/с, то есть работает почти на пределе. Модель и промежуточные данные ускоритель держит в собственной LPDDR5, по шине идут кадры и результаты. На нескольких видеопотоках высокого разрешения ограничителем станет именно шина.

Отдельные ускорители в каталоге

Пока у X7 нет цифры производительности, его можно сравнить с соседями только по потреблению и интерфейсу.

УскорительПроизводительностьПотреблениеИнтерфейсФорм-фактор
Hailo-8 M.226 TOPS2,5 Вт (чип)PCIe Gen 3 ×4M.2 Key M
Hailo-8L M.213 TOPS1,5 Вт (чип)PCIe Gen 3 ×2M.2 Key B+M
Hailo-8R Mini PCIe13 TOPS—PCIe Gen 3 ×1Mini PCIe
Hailo-10H M.240 TOPS INT4 / 20 TOPS INT82,5 ВтPCIe Gen 3 ×4M.2 2242/2280
Radxa AICore DX-M125 TOPSтипично 3 ВтPCIe Gen 3 ×4M.2 Key M
Raspberry Pi AI HAT+ 26 TOPS26 TOPS INT8—PCIe Gen 3плата HAT+
Ambarella X7не раскрыта2–5 ВтPCIe Gen 3 ×1 или USB 3.2эталонная плата M.2 2280

По паспортам производителей. TOPS считают при разной точности — INT8 или INT4 — и сравнивать ускорители честнее по скорости конкретной сети, а не по пиковой цифре.

Что ждать

Сильная сторона X7 не в цифре, а в общей архитектуре с процессорами Ambarella: модель, собранная под их SoC, рассчитана на запуск на X7 без переделки. Для тех, кто уже делает камеру на чипе Ambarella, это способ нарастить ИИ, не меняя основной процессор. Для остальных X7 станет реальной альтернативой Hailo только после публикации производительности и тестов на типовых сетях.

Другие новости