DeepSeek-R1 671B
Полная MoE-модель на 671B параметров для сложных рассуждений, математики и кода.

SYS-822GS-NB3RT · 8U · 8 GPU
Сервер Supermicro на платформе NVIDIA HGX B300 для обучения больших моделей, инференса и высокопроизводительных вычислений. Восемь ускорителей B300 объединены NVLink пятого поколения. Процессоры, оперативная память и накопители подбираются под ваш проект.
Подготовим предложение под вашу комплектацию.
Отправная точка для выбора оборудования под вашу задачу.
Конфигурация: весь сервер с 8 × B300 по 288 ГБ. Для этих моделей нужен распределённый инференс: веса и вычисления разделяются между GPU.
Полная MoE-модель на 671B параметров для сложных рассуждений, математики и кода.
Большая языковая модель для текстовых ассистентов. Веса в 16-битном формате распределяются между GPU.
MoE-модель для текста, кода и рассуждений. В памяти размещаются все 235B параметров.
BF16 — 16-битные веса. FP8 — 8-битная квантизация, которая сокращает расход памяти. Название модели ведёт на страницу её разработчика.
Примеры — оценка по памяти для инференса, а не результаты тестов на этом оборудовании. Дополнительно нужна память для контекста и среды запуска. Итог зависит от ПО, длины контекста и числа запросов; обучение и дообучение требуют отдельного расчёта. Подробнее о памяти
CPU, RAM, SSD и итоговая комплектация согласуются отдельно. Требования к питанию, размещению и обязательному onsite-сервису уточняются перед поставкой.