Сервер NVIDIA DGX B200

NVIDIA DGX B200 — высокопроизводительная вычислительная система для полного цикла работы с искусственным интеллектом: подготовки данных, обучения моделей, дообучения и промышленного инференса. Платформа построена на архитектуре NVIDIA Blackwell и предназначена для корпоративных ИИ-сред, которым требуется максимальная производительность и масштабируемость.

DGX B200 объединяет восемь ускорителей NVIDIA B200 Tensor Core GPU, пятого поколения NVLink, NVSwitch, процессорную подсистему Intel Xeon, высокоскоростную сеть NVIDIA ConnectX-7 и оптимизированный программный стек NVIDIA DGX OS. Такая архитектура обеспечивает готовую основу для развертывания современных AI-приложений и вычислительных кластеров.

Вычислительная архитектура для крупных моделей

NVIDIA DGX B200 оснащена восемью ускорителями NVIDIA B200 Tensor Core GPU на базе архитектуры Blackwell. Каждый ускоритель предоставляет 180 ГБ памяти HBM3e, а общий объем GPU-памяти системы составляет 1440 ГБ. Такой объем высокоскоростной памяти позволяет эффективно работать с крупными языковыми моделями, генеративным ИИ и сложными вычислительными задачами.

Архитектура Blackwell включает усовершенствованные Tensor Cores и поддержку современных форматов вычислений, включая FP4 и FP8, что позволяет повысить эффективность обучения и инференса при сохранении необходимой точности вычислений.

Два коммутатора NVIDIA NVSwitch пятого поколения обеспечивают взаимодействие между восемью GPU с агрегированной пропускной способностью до 14,4 ТБ/с. Это позволяет ускорителям работать как единая вычислительная система при распределении больших моделей и выполнении параллельных операций.

Система оснащена двумя процессорами Intel Xeon 8570 с архитектурой PCIe Gen5 и 56 ядрами каждый. Объем системной памяти составляет 2 ТБ с возможностью расширения до 4 ТБ, что обеспечивает необходимый запас ресурсов для работы с большими наборами данных и вычислительными процессами.

Для подключения к кластерной инфраструктуре используются сетевые адаптеры NVIDIA ConnectX-7 с поддержкой InfiniBand и Ethernet до 400 Гбит/с, обеспечивающие высокую скорость обмена данными между узлами.

Основные сценарии применения

• Обучение и дообучение больших моделей. Создание LLM, мультимодальных моделей и специализированных корпоративных AI-решений.
• Генеративный искусственный интеллект. Разработка сервисов генерации текста, изображений, кода и интеллектуальных корпоративных помощников.
• Инференс в производственной среде. Высоконагруженное выполнение AI-моделей с большим количеством параллельных пользователей.
• Научные и инженерные вычисления. Моделирование, анализ данных и задачи HPC с использованием ускоренных вычислений.
• Построение AI-кластеров. Масштабирование вычислительной инфраструктуры путем объединения нескольких систем DGX B200.

NVIDIA DGX B200 в корпоративной инфраструктуре

NVIDIA DGX B200 представляет собой универсальную платформу для организаций, которые внедряют искусственный интеллект как часть своей корпоративной инфраструктуры. Благодаря архитектуре Blackwell система обеспечивает значительный прирост производительности при работе с современными моделями ИИ.

Платформа подходит для создания выделенных AI-сред, исследовательских центров и корпоративных вычислительных кластеров. При развертывании необходимо учитывать требования к электропитанию, охлаждению, сетевой инфраструктуре и системам хранения данных.

DGX B200 объединяет вычислительные ускорители, высокоскоростную коммуникационную среду и программный стек NVIDIA в единую платформу, позволяя организациям быстрее переходить от разработки моделей к их промышленной эксплуатации.