Илон Маск, глава X (Twitter), Tesla, xAI и SpaceX, объявил о начале обучения модели искусственного интеллекта GROK 3 в Мемфисе. Обучение проводится на кластере, состоящем из 100 тысяч графических процессоров NVIDIA H100, что делает его самым мощным в мире для обучения ИИ.
«Отличная работа команды xAI, команды X, NVIDIA и компаний поддержки, которые начали обучение в Мемфисском суперкластере примерно в 4:20 утра по местному времени. 100 тысяч процессоров H100 с жидкостным охлаждением на одной RDMA-матрице делают этот кластер самым мощным для обучения искусственного интеллекта в мире», – написал Маск в X.
Ранее xAI арендовала чипы NVIDIA для обучения ИИ у Oracle, но теперь компания решила создать собственный центр обработки данных. Новый ЦОД превзойдет по мощности арендованный у Oracle, демонстрируя решимость Маска и его команды продвигать передовые технологии ИИ.
Каждый ускоритель H100 стоит около 30 000 долларов. Для обучения предыдущей модели, GROK 2, использовалось 20 000 таких процессоров, но для GROK 3 потребовалось в пять раз больше вычислительных ресурсов.
Ожидается, что релиз чат-бота GROK 2 состоится в следующем месяце, а GROK 3 будет представлен к декабрю текущего года.
