NVIDIA анонсировала самый мощный в мире ускоритель под названием HGX H200. Новинка основана на уже известной архитектуре NVIDIA Hopper и является обновлённой версией флагманского ускорителя H100 с более быстрой памятью HBM3e. Благодаря новому хранилищу ускоритель сможет быстрее обрабатывать большие объёмы данных для генеративного ИИ и высокопроизводительных вычислительных задач.
NVIDIA HGX H200 – первый графический процессор с памятью HBM3e, которая быстрее традиционной HBM3. NVIDIA HGX H200 обладает 141 ГБ памяти HBM3e со скоростью 4,8 ТБ/с. Тогда как у H100 только 80 ГБ (3,35 ТБ/с).
Используя достаточную пропускную способность и ёмкость памяти, HGX H200 обеспечивает почти в 2 раза более высокую скорость вывода на продвинутых моделях искусственного интеллекта, таких как языковая модель Llama от Anthropic с 70 миллиардами параметров. Это увеличивает время отклика при обработке естественного языка.
Ожидается, что поставки HGX H200 начнутся во втором квартале следующего года, что даст центрам обработки данных более года на подготовку инфраструктуры для новейших карт-ускорителей. Серверы на базе HGX H200 будут доступны у всех основных производителей и облачных провайдеров.
