NVIDIA представила ускоритель ИИ HGX H200 – вдвое быстрее H100

Новости
|

NVIDIA анонсировала самый мощный в мире ускоритель под названием HGX H200. Новинка основана на уже известной архитектуре NVIDIA Hopper и является обновлённой версией флагманского ускорителя H100 с более быстрой памятью HBM3e. Благодаря новому хранилищу ускоритель сможет быстрее обрабатывать большие объёмы данных для генеративного ИИ и высокопроизводительных вычислительных задач.

NVIDIA HGX H200

NVIDIA HGX H200 – первый графический процессор с памятью HBM3e, которая быстрее традиционной HBM3. NVIDIA HGX H200 обладает 141 ГБ памяти HBM3e со скоростью 4,8 ТБ/с. Тогда как у H100 только 80 ГБ (3,35 ТБ/с).

HGX H200

Используя достаточную пропускную способность и ёмкость памяти, HGX H200 обеспечивает почти в 2 раза более высокую скорость вывода на продвинутых моделях искусственного интеллекта, таких как языковая модель Llama от Anthropic с 70 миллиардами параметров. Это увеличивает время отклика при обработке естественного языка.

Ожидается, что поставки HGX H200 начнутся во втором квартале следующего года, что даст центрам обработки данных более года на подготовку инфраструктуры для новейших карт-ускорителей. Серверы на базе HGX H200 будут доступны у всех основных производителей и облачных провайдеров.

Материалы по теме:

Intel представила ИИ-ускоритель Gaudi 3 – он быстрее NVIDIA H100
Intel представила ИИ-ускоритель Gaudi 3 – он быстрее NVIDIA H100
Представлен ускоритель NVIDIA H100 – 80 ГБ памяти, 700 Вт и 60 TFLOPS
Представлен ускоритель NVIDIA H100 – 80 ГБ памяти, 700 Вт и 60 TFLOPS
NVIDIA зарабатывает на каждом ускорителе H100 около 1000%
NVIDIA зарабатывает на каждом ускорителе H100 около 1000%