AI Infra входит в эпоху самоэволюции: команда Цинхуа создала фабрику триллионов токенов
Китай не отстает. Стартап «Цинмао» (清昴智能) из Университета Цинхуа с самого начала сделал ставку на то, чтобы ИИ оптимизировал сам себя. Его основатель Гуань Чаоюй — ученик профессора Чжу Вэньу, который еще в 2022 году предложил концепцию «самодвижущегося» машинного обучения. Технология выросла из AutoML и метаобучения, а в международных соревнованиях команда не раз побеждала соперников из Гарварда и MIT.
Суть проблемы — в разрыве между моделями и инфраструктурой. Модели становятся автономными, как автопилот уровня L4, а инфраструктура на отечественных чипах остается на уровне L1 — ручной настройки. Из-за ограничений на импорт передовых чипов Китай опирается на собственную полупроводниковую базу, но ее экосистема фрагментирована: для каждой новой модели нужно вручную адаптировать операторы, компиляторы и планировщики памяти. Это занимало недели труда опытных инженеров.
«Цинмао» автоматизировал этот процесс. Система сама находит узкие места, перебирает варианты и запоминает удачные решения, чтобы применять их в следующий раз. В итоге разработка сложного оператора сократилась с двух недель до одного часа — в 336 раз быстрее. Полная адаптация нового чипа уменьшилась с месяца до одного-семи дней, а ускорение отдельных операторов достигает 30 раз. Компания уже адаптировала более половины ключевых отечественных чипов.
Следующий этап — фабрики токенов. В эпоху агентов расход токенов на отдельные задачи вырос в сотни раз, и бизнесу нужно стабильное и недорогое производство триллионов токенов в день. Стартап предлагает либо арендовать готовые мощности и платить за токены, либо развернуть собственную платформу, которая продолжает самооптимизироваться под новые модели и чипы. Покупка не заканчивается разовой адаптацией: система постоянно накапливает опыт.
Фактически компания первой в Китае превращает оптимизацию инфраструктуры из разовой услуги в постоянно работающий процесс. По замыслу авторов, если ИИ способен самосовершенствоваться, то и фундамент, на котором он работает, должен уметь делать то же самое.
Источник: www.qbitai.com
Поделиться