Qwen3-32B
Универсальный ассистент: работа с текстом, кодом и рассуждениями. Веса в 16-битном формате.

Server Edition · пассивное охлаждение
Серверная видеокарта NVIDIA Blackwell для AI-инференса, рендеринга и научных расчётов. 96 ГБ GDDR7 ECC подходят для крупных моделей и сложных сцен. Пассивное охлаждение рассчитано на направленный обдув совместимого сервера.
Подготовим предложение под вашу комплектацию.
Отправная точка для выбора оборудования под вашу задачу.
Конфигурация: одна RTX PRO 6000 Server Edition, 96 ГБ, в совместимом сервере с направленным обдувом. Для Llama 70B нужна указанная FP8-версия.
Универсальный ассистент: работа с текстом, кодом и рассуждениями. Веса в 16-битном формате.
Диалоги и текстовые ассистенты. Для одной карты используется 8-битная версия NVIDIA.
Дистиллированная модель на 32B параметров для рассуждений, математики и кода.
BF16 — 16-битные веса. FP8 — 8-битная квантизация, которая сокращает расход памяти. Название модели ведёт на страницу её разработчика.
Примеры — оценка по памяти для инференса, а не результаты тестов на этом оборудовании. Дополнительно нужна память для контекста и среды запуска. Итог зависит от ПО, длины контекста и числа запросов; обучение и дообучение требуют отдельного расчёта. Подробнее о памяти
Это Server Edition с воздушным охлаждением. Необходим серверный обдув; фактический лимит мощности зависит от платформы. Жидкостное исполнение подбирается отдельно.