Dell PowerEdge XE9680 H200

6U · 8 × H200 SXM · NVIDIA HGX

Под заказ

GPU-сервер Dell PowerEdge для обучения моделей, распределённого инференса и HPC. Конфигурация NVIDIA HGX с восемью H200 SXM предоставляет 1128 ГБ памяти HBM3e, объединяя ускорители через NVLink. Стоечная платформа 6U с двумя Intel Xeon Scalable. CPU, оперативная память, накопители и сетевые адаптеры подбираются под задачи проекта.

8 × H200 SXM1128 ГБ HBM3e6U · Dell PowerEdge

СтоимостьПо запросу

Подготовим предложение под вашу комплектацию.

Запросить предложение

Подбор совместимой платформы Согласование комплектации

AI / ИНФЕРЕНС

Какие модели
можно запускать.

Отправная точка для выбора оборудования под вашу задачу.

Конфигурация: весь сервер с 8 × H200 SXM по 141 ГБ, всего 1128 ГБ HBM3e. Веса распределяются между GPU. Это оценка для инференса по объёму памяти, а не аппаратный тест. Контекст, KV-кэш, параллельные запросы и среда запуска требуют дополнительной памяти; обучение рассчитывается отдельно.

DeepSeek-R1 671B

Полная MoE-модель для рассуждений, математики и кода. Веса распределяются между восемью H200.

FP8

Llama 3.1 405B Instruct

Большая языковая модель для текстовых ассистентов. 16-битные веса распределяются между GPU сервера.

BF16

Qwen3-235B-A22B

MoE-модель для текста, кода и рассуждений. В памяти размещаются все 235B параметров, с распределением между GPU.

BF16

BF16 — 16-битные веса. FP8 — 8-битная квантизация, которая сокращает расход памяти. Название модели ведёт на страницу её разработчика.

Примеры — оценка по памяти для инференса, а не результаты тестов на этом оборудовании. Дополнительно нужна память для контекста и среды запуска. Итог зависит от ПО, длины контекста и числа запросов; обучение и дообучение требуют отдельного расчёта. Подробнее о памяти

ТЕХНИЧЕСКИЕ ДАННЫЕ

Всё, что важно
для вашей задачи.

Данные производителя

Платформа: NVIDIA HGX H200, 8 × H200 SXM5
Память GPU: 8 × 141 ГБ HBM3e, всего 1128 ГБ
Связь GPU: NVIDIA NVLink
Корпус: 6U Rackmount, воздушное охлаждение
Процессоры: 2 × Intel Xeon Scalable 4-го или 5-го поколения
Оперативная память: 32 DIMM, до 4 ТБ DDR5 RDIMM
Накопители: До 8 × 2,5″ NVMe/SAS/SATA или до 16 × E3.S NVMe, по конфигурации
Расширение: До 10 × PCIe Gen5 x16
Управление: iDRAC9, OpenManage
Питание: 2800 Вт Titanium, резервируемые блоки с горячей заменой

Представлена конфигурация XE9680 с H200 SXM5. CPU, RAM, SSD, сеть и сервисный пакет согласуются отдельно. Перед поставкой уточняются требования к стойке, электропитанию и охлаждению.