Создатели больших моделей переходят на собственные чипы для ИИ

Причина — эпоха инференса: на этот этап приходится до 90 процентов вычислительных затрат за жизненный цикл модели. В отличие от обучения, это ежедневный растущий счёт, зависящий от числа пользователей. Специализированные чипы резко сокращают стоимость обработки запросов, поэтому такие инвестиции оправданы.

Отличительная черта новой волны — создание чипов с помощью самих больших моделей. OpenAI активно применяла ИИ-инструменты и Codex, что сократило сроки до рекордных. Anthropic показала, как её Claude за одни выходные адаптировала модель под чипы AMD. Считается, что это снижает барьеры перехода и подрывает монополию CUDA.

Впрочем, проекты пока на ранней стадии: массовые поставки Jalapeno начнутся лишь к концу 2027 года, другие только формируют команды. Но сам факт прихода разработчиков моделей в производство чипов уже меняет рынок AI-полупроводников и создаёт новые возможности для кооперации.