Сервер ИИ NVIDIA B300 Blackwell

Сервер ИИ NVIDIA B300 Blackwell AI Server — это платформа для центров обработки данных следующего поколения, построенная на архитектуре графических процессоров Blackwell. Она предназначена для масштабного генеративного искусственного интеллекта, обучения больших языковых моделей (LLM) и высокопроизводительных вычислений. Платформа сочетает в себе исключительную пропускную способность памяти, почти линейный масштабируемый режим работы с несколькими GPU и передовую энергоэффективность, что позволяет переопределить инфраструктуру ИИ.

Особенности продукта

• Экстремальная производительность ИИ

  Сервер оснащён графическими процессорами NVIDIA Blackwell B300, что обеспечивает значительно более высокую пропускную способность как при обучении, так и при инференсе по сравнению с предыдущими поколениями. Поддерживается точность FP8 и FP4, ускоряя циклы обучения крупных моделей до 3 раз.

• Оптимизировано для крупных языковых моделей (LLM)

  Архитектура разработана специально для моделей типа GPT, глубокого обучения и задач генеративного искусственного интеллекта, включая эффективную обработку длинных окон контекста. Также предусмотрена параллелизация модели и пайплайна для ускорения распределённого обучения моделей с триллионами параметров.

• Ультра-широкополосная память

  Каждый графический процессор оснащён новейшей памятью HBM3e, обеспечивая до 288 ГБ объёма и превышающую 10 ТБ/с пропускную способность. Это устраняет ограничения по памяти, позволяя работать с большими объёмами данных и более длинными последовательностями при выполнении сложных задач в области искусственного интеллекта.

• Масштабируемая архитектура с несколькими GPU

  С использованием NVLink четвёртого поколения и NVSwitch сервер поддерживает полностью взаимосвязанные топологии с несколькими GPU (8, 16 или более), обеспечивая двунаправленную пропускную способность до 900 ГБ/с. Это гарантирует почти линейную масштабируемость как для распределённого обучения на одном узле, так и на уровне кластера.

• Энергоэффективный дизайн

  Улучшенная производительность на ватт — до 2,5 раз выше по сравнению с предыдущими поколениями — снижает эксплуатационные расходы центров обработки данных. Гибридные системы охлаждения (воздушное и жидкостное) позволяют достичь более высокой плотности вычислений при существующих ограничениях по мощности.

• Готов к работе в дата-центре

  Создан в соответствии со стандартами OCP с поддержкой питания 48 В и API Redfish для бесперебойной интеграции в существующие системы управления. Дублирующее питание и вентиляторы, а также MTBF более 100 000 часов гарантируют надежность предприятия на 24 часа в сутки и 7 дней в неделю.

Сценарии применения

Что такое Сервер ИИ NVIDIA B300 Blackwell?

Экосистема решений Telefly

Помимо AI-серверов NVIDIA B300 Blackwell, Telefly поставляет полный спектр серверных компонентов: видеокарты NVIDIA, процессоры Intel Xeon, оперативную память Samsung DDR4/DDR5, сетевые карты Mellanox, Broadcom и Intel, оптические трансиверы, электронные модули и готовые серверы Dell, HPE и Supermicro. Это позволяет собрать вычислительную платформу под ключ из одного источника.