Сервер NVIDIA DGX B300

NVIDIA DGX B300 — интегрированная вычислительная система нового поколения для обучения, дообучения и инференса крупных моделей искусственного интеллекта, генеративного ИИ, аналитики данных и высокопроизводительных вычислений (HPC). Платформа создана для организаций, которым требуется максимальная производительность для работы с современными моделями ИИ корпоративного уровня.

DGX B300 объединяет восемь ускорителей NVIDIA B300 Blackwell Ultra Tensor Core GPU, высокоскоростную архитектуру NVIDIA NVLink/NVSwitch пятого поколения, серверную платформу Intel Xeon, сетевые адаптеры NVIDIA ConnectX-8 и программный стек NVIDIA DGX OS. Благодаря увеличенному объему GPU-памяти и высокой пропускной способности межсоединений система обеспечивает эффективную работу с наиболее требовательными ИИ-нагрузками.

Вычислительная архитектура для крупных моделей

NVIDIA DGX B300 оснащена восемью ускорителями NVIDIA B300 Blackwell Ultra Tensor Core GPU. Каждый GPU оборудован 288 ГБ памяти HBM3e, а общий объем GPU-памяти системы составляет 2,3 ТБ. Такой объем высокоскоростной памяти позволяет размещать значительно более крупные модели непосредственно в памяти ускорителей, сокращая необходимость распределения вычислений между большим количеством узлов.

Архитектура NVIDIA Blackwell Ultra оптимизирована для современных задач искусственного интеллекта, включая обучение больших языковых моделей, генеративные модели и сложные инференс-нагрузки. Ускорители поддерживают вычисления с использованием современных форматов точности FP4 и FP8, обеспечивая высокую производительность при работе с трансформерными архитектурами.

Два коммутатора NVIDIA NVSwitch пятого поколения формируют высокоскоростную вычислительную фабрику между восемью GPU. Такая архитектура обеспечивает быстрый обмен данными между ускорителями и позволяет эффективно выполнять распределенные операции, синхронизацию параметров моделей и параллельные вычисления внутри одного вычислительного узла.

Вычислительную подсистему дополняют два процессора Intel Xeon Platinum 6776P. Система поставляется с 2 ТБ оперативной памяти с возможностью расширения до 4 ТБ, что обеспечивает необходимый запас ресурсов для подготовки данных, управления контейнерами, работы системных сервисов и выполнения CPU-зависимых операций.

Для построения масштабируемых кластеров DGX B300 использует сетевую инфраструктуру NVIDIA ConnectX-8. Восемь сетевых адаптеров обеспечивают подключение с пропускной способностью до 800 Гбит/с InfiniBand или Ethernet, позволяя объединять вычислительные узлы в высокоскоростные AI-кластеры.

Система также оснащена двумя NVIDIA BlueField-3 DPU для задач управления, хранения и сетевой обработки. Такой подход позволяет разгрузить центральные процессоры и повысить эффективность работы инфраструктуры при масштабных распределенных вычислениях.

Основные сценарии применения

• Обучение крупнейших моделей искусственного интеллекта. Создание и обучение больших языковых моделей (LLM), мультимодальных систем и специализированных корпоративных моделей с большим количеством параметров.
• Генеративный ИИ корпоративного уровня. Развертывание интеллектуальных помощников, систем генерации контента, платформ поиска с генерацией ответов (RAG), AI-агентов и других приложений нового поколения.
• Высокопроизводительный инференс. Обработка большого количества запросов к моделям ИИ в режиме реального времени с минимальными задержками и высокой эффективностью использования ресурсов.
• Научные и инженерные вычисления. Использование GPU-ускоренных вычислений для моделирования, анализа данных, вычислительной науки и сложных исследовательских задач.
• Масштабируемая корпоративная AI-инфраструктура. Создание кластеров для централизованной разработки, обучения и эксплуатации моделей искусственного интеллекта в крупных организациях.

NVIDIA DGX B300 в корпоративной инфраструктуре

NVIDIA DGX B300 предназначена для организаций, которые строят собственную инфраструктуру искусственного интеллекта нового поколения и работают с моделями, требующими максимальных вычислительных ресурсов. Большой объем памяти HBM3e и высокая скорость межсоединений позволяют эффективно запускать задачи, которые ранее требовали распределения между большим количеством серверов.

Платформа может использоваться как самостоятельная вычислительная система или как базовый элемент масштабируемого AI-кластера. При проектировании инфраструктуры необходимо учитывать требования к электропитанию, охлаждению, сетевой архитектуре и системам хранения данных, поскольку современные ИИ-нагрузки предъявляют высокие требования ко всему вычислительному контуру.

DGX B300 объединяет аппаратные ускорители NVIDIA Blackwell Ultra, высокоскоростную сетевую архитектуру и программную экосистему NVIDIA в единую платформу для корпоративного искусственного интеллекта. Это позволяет сократить время внедрения AI-проектов и создать надежную основу для эксплуатации моделей в производственной среде.