Qwen3-32B
Универсальный ассистент: работа с текстом, кодом и рассуждениями. Веса в 16-битном формате.

Hopper · PCIe · серверный ускоритель
Серверный GPU NVIDIA Hopper с 141 ГБ памяти HBM3e для больших языковых моделей, аналитики и HPC. Исполнение H200 NVL с интерфейсом PCIe рассчитано на совместимые серверные платформы. Для масштабирования доступны конфигурации из двух или четырёх GPU с NVLink.
Подготовим предложение под вашу комплектацию.
Отправная точка для выбора оборудования под вашу задачу.
Конфигурация: одна H200 NVL, 141 ГБ. Примеры рассчитаны на размещение весов в памяти GPU; доступный контекст и число одновременных запросов подбираются отдельно.
Универсальный ассистент: работа с текстом, кодом и рассуждениями. Веса в 16-битном формате.
Диалоги и текстовые ассистенты. Для одной карты используется 8-битная версия NVIDIA.
Дистиллированная модель на 32B параметров для рассуждений, математики и кода.
BF16 — 16-битные веса. FP8 — 8-битная квантизация, которая сокращает расход памяти. Название модели ведёт на страницу её разработчика.
Примеры — оценка по памяти для инференса, а не результаты тестов на этом оборудовании. Дополнительно нужна память для контекста и среды запуска. Итог зависит от ПО, длины контекста и числа запросов; обучение и дообучение требуют отдельного расчёта. Подробнее о памяти
Указаны характеристики H200 NVL, не SXM. 141 ГБ — память одной карты. Совместимость сервера, охлаждение и мосты NVLink согласуются отдельно.