Dell расширяет AI Factory: стойки на NVIDIA Vera и первая система для инференса на Groq 3 LPU

Увеличить

Dell Technologies добавила новое оборудование в портфолио Dell AI Factory with NVIDIA. Новые системы построены на процессорах NVIDIA Vera. Кроме того, Dell впервые выпускает стоечную систему для инференса на ускорителях Groq 3 LPU. Главная мысль анонса: агентному ИИ мало одних GPU. Ему нужны плотные CPU-мощности и отдельное железо для массового выполнения моделей.

Почему это важно

Нагрузки агентного ИИ отличаются от классического обучения моделей. Агенты распределяют задачи, вызывают внешние инструменты, обрабатывают данные и проходят циклы обучения с подкреплением. Почти вся эта работа ложится на CPU, а не на GPU-кластер. Dell предлагает разделить CPU- и GPU-вычисления по отдельной, специально спроектированной инфраструктуре. По словам компании, так ЦОД эффективнее расходует питание и охлаждение.

Новая линейка

Dell PowerEdge M9882: 256 процессоров Vera в одной стойке

• Формат: стоечная система 48U

• Вычисления: 256 процессоров NVIDIA Vera

• Назначение: отдельный CPU-уровень для агентного ИИ, который работает параллельно с GPU-кластерами для инференса

Когда CPU-нагрузка уходит с GPU-узлов, каждый уровень можно рассчитывать и охлаждать под его реальную задачу. Закладывать избыточный запас под оба уже не нужно.

Dell PowerEdge R8822: Vera в стандартной стойке

• Конфигурация: двухпроцессорный сервер на NVIDIA Vera

• Охлаждение: воздушное, жидкостная инфраструктура не нужна

• Совместимость: стандартные 19-дюймовые стойки

• Расширение: до четырёх двухслотовых GPU

• Задачи: агентный ИИ, обучение с подкреплением, обработка данных и аналитика

R8822 — самый простой способ перейти на платформу Vera. Сервер ставится в существующий ЦОД без перестройки.

Dell PowerEdge XE9810: первая система Dell на Groq 3 LPU

• Ускорители: Groq 3 LPU (Language Processing Unit)

• Архитектура: 16 вычислительных модулей

• Охлаждение: прямое жидкостное (DLC)

• Назначение: высокопроизводительный инференс для массовых задач агентного ИИ

Сколько LPU стоит в каждом модуле, Dell не уточняет. Компания позиционирует XE9810 как дополнение к GPU-кластерам, а не их замену. GPU остаются для обучения и универсальных задач, а уровень LPU обслуживает большие объёмы инференса.

Сроки доступности

Общая картина

Эти системы продолжают серию недавних анонсов Dell:

• расширенная платформа Dell AI Data Platform

• PowerEdge R7725 для хранения данных, с SSD большой ёмкости

• сервер PowerEdge XE8812 на архитектуре NVIDIA Vera Rubin NVL4

Всё вместе складывается в многоуровневый стек ИИ-инфраструктуры. GPU отвечают за обучение, процессоры Vera — за оркестрацию агентов и работу с данными, LPU — за быстрый и недорогой инференс. Компании могут собирать собственную «ИИ-фабрику» из специализированных блоков, а не полагаться на один тип ускорителей.