Генеральный директор OpenAI Сэм Альтман подтвердил, что развертывание их долгожданной модели GPT-4.5 сдерживается, потому что у компании, попросту говоря, закончились графические процессоры.
В откровенном посте в социальной сети X Альтман заявил, что быстрый рост OpenAI и масштаб GPT-4.5 привели к беспрецедентному спросу на графические процессоры. Эти мощные чипы являются источником жизненной силы современного ИИ, позволяя выполнять сложные вычисления, необходимые для работы больших языковых моделей.
По словам Альтмана, GPT-4.5, описанный как «гигантский» и «дорогой», нуждается в «десятках тысяч» дополнительных GPU, прежде чем он станет широко доступен пользователям ChatGPT. Нехватка графических процессоров уже негативно сказывается на доступности передового ИИ.
Чтобы решить эту проблему, компания наращивает свою инфраструктуру, планируя добавить десятки тысяч GPU на следующей неделе. Также ведётся гораздо более масштабное расширение вычислительных мощностей, и OpenAI ожидает развернуть сотни тысяч графических процессоров в ближайшем будущем для поддержки своей быстро растущей пользовательской базы. Несмотря на эти ограничения, GPT-4.5 уже доступен для подписчиков ChatGPT Pro, а на следующей неделе его смогут опробовать клиенты ChatGPT Plus.
Помимо нехватки GPU, ещё один аспект GPT-4.5 вызывает удивление – его цена. OpenAI взимает колоссальную плату: $75 за миллион токенов (примерно 750 000 слов), подаваемых в модель, и $150 за миллион токенов, сгенерированных ею. Как отметили некоторые пользователи в сети, такое ценообразование «ненормально».
