ИИ-агент ForgeKernel обошел инженеров DeepSeek в написании вычислительных операторов

Китайская компания по разработке искусственного интеллекта «Мяньби Чжинэн» (ModelBest) провела публичный эксперимент, который наглядно показал, как автономный ИИ-агент обошел лучшие достижения человека в написании низкоуровневых вычислительных операторов. Речь идет о системе ForgeKernel, которая без доступа к исходному коду, без научных статей и без единой строки, написанной человеком, сумела превзойти эталонный показатель, установленный инженерами DeepSeek, — и сделать это быстрее на 9,8 процента.

Суть эксперимента, транслировавшегося в прямом эфире, состояла в следующем. Агенту дали лишь математическое определение оператора FlashMLA Prefill из открытой библиотеки DeepSeek и целевые ограничения по аппаратному обеспечению — видеокарте Nvidia B200. Все остальное система должна была сделать сама, методом последовательного самосовершенствования. FlashMLA считается своего рода вершиной человеческой инженерии в этой области: это ядро внимания, созданное командой, которую в отрасли признают сильнейшей в инфраструктурных решениях, а 20 октября оно вошло в открытый фреймворк вывода DeepInfer.

Ход трансляции показал, как ИИ шаг за шагом улучшал результат. Первая версия прошла проверку на корректность, но работала медленно — 1834 микросекунды. Меньше чем за четыре часа время удалось снизить до 593 микросекунд, то есть примерно на 67,6 процента, приблизившись к девяти десятым от лучшего на тот момент показателя. Примерно к седьмому часу произошел структурный прорыв: система сначала обошла свою же предыдущую версию, а затем впервые превзошла FlashMLA. К девяти утра трансляция завершилась. Итоговая версия работала 472 микросекунды против 518 у FlashMLA — те самые 9,8 процента преимущества. Всего за 22,5 часа агент прошел 42 итерации, оставив после себя 32 версии, потратив одну видеокарту B200 и 22 GPU-часа. Человек для этого оператора не написал ни строчки кода.

Стоит отметить, что это не первое появление ForgeKernel на публике. Несколькими днями ранее, 27 октября, официальный канал китайской платформы Ascend CANN сообщил, что система одновременно возглавила три аппаратных рейтинга CANNBench — для чипов 950DT, 950PR и A3. На рейтинге 950DT ForgeKernel набрала 4010,75 балла, опередив второе место на 27,8 процента, с базовым ускорением 1,533 и результатом около 143 процентов от второго места. Это означает, что при тех же вложениях в железо доступная вычислительная мощность растет почти на 50 процентов, а затраты на закупку и развертывание могут сократиться примерно вдвое. Важность этого результата в том, что 950DT — чип нового поколения, чья библиотека операторов еще только формируется, и ручная адаптация заняла бы много времени. ForgeKernel же справилась первой, резко сократив разрыв между выходом нового чипа на рынок и его полноценной программной адаптацией.

На рейтинге 950PR, где конкуренция оказалась самой жесткой, система набрала 4165,94 балла и тоже стала первой с ускорением 1,638. А на A3, то есть на широко используемом чипе Ascend 910C, ForgeKernel удерживает первое место с 15 октября: в версии рейтинга 1.1 она уже была лидером, а после открытия версии 2.0 не уступила позицию, набрав 4341,16 балла с ускорением 1,898. Показательно, что трансляция шла на Nvidia B200 с использованием CUDA, где накоплен многолетний экспертный опыт, а рейтинги Ascend построены на собственной архитектуре и инструментах. То есть одна и та же система сумела победить в двух совершенно разных программно-аппаратных экосистемах.

Как этого удалось добиться? Ключевая идея описана в статье JustGoal, опубликованной 27 октября на arXiv командой ForgeKernel совместно с Университетом Цинхуа и другими организациями. Исследователи давали модели только цель оптимизации, не передавая никаких знаний об операторах и не задавая жесткого регламента. На B200 модель обошла поддерживаемые людьми открытые библиотеки в восьми операторах из десяти. При этом подключение специализированного фреймворка KDA-0.5, в разработке которого участвовала команда Хань Сун из MIT, дало средний результат лишь 0,95 от подхода JustGoal — иными словами, заранее прописанные экспертами процедуры скорее мешают, чем помогают.

Однако у подхода «только цель» есть слабое место: модель хорошо доводит детали, но плохо проектирует общую архитектуру и часто фиксирует маршрут в первых попытках. ForgeKernel как раз закрывает этот пробел. Во-первых, она разделяет проектирование архитектуры и реализацию, разбивая задачу на этапы. Во-вторых, складывает в базу знаний проверенный на практике опыт работы с железом, который можно переносить на другие операторы. В-третьих, использует собственную лучшую версию как соперника для следующего раунда самосовершенствования. В ходе трансляции это проявилось наглядно: сначала система обошла свою предыдущую версию и лишь затем FlashMLA. Позже она самостоятельно обнаружила, что пакетная загрузка данных Q конкурирует за пропускную способность памяти с переносом данных KV, и сама притормозила ритм запросов Q, сэкономив еще 2,4 процента времени — решение, которое раньше принимал бы только опытный инженер. В более широком сравнении ForgeKernel в 24 из 29 случаев сравнялась с экспертной реализацией или превзошла ее, а семь сильнейших операторов, открытых тремя ведущими агентными системами, также были повторены или улучшены.

Экономический эффект здесь вполне конкретный. По последнему прогнозу Gartner, в 2026 году мировые расходы на инфраструктуру ИИ составят около 1,48 триллиона долларов. При таком масштабе каждый процент роста эффективности вычислений соответствует примерно 148 миллиардам долларов. На китайских чипах выигрыш заметнее: CUDA оптимизировалась экспертами годами, тогда как библиотеки для отечественного железа еще несовершенны. По наблюдениям команды, один и тот же подход дает прирост 20–30 процентов на китайских чипах против 5–10 процентов на Nvidia. Генерируемые системой операторы уже вошли в тренировочные фреймворки и прошли длительные испытания модели MiniCPM5-1B как на отечественном железе, так и на платформе Nvidia.

Особый смысл происходящего в том, что в перестройке вычислительной базы участвуют и китайские большие модели вроде DeepSeek V4.1: они включились в генерацию и оптимизацию операторов, которые затем стабильно работают на китайских чипах. Складывается замкнутая экосистема полного цикла — «китайская модель пишет операторы, китайский чип их исполняет». По словам chief scientist по интеллектуальной эволюции ModelBest Ли Юйсюаня, поскольку код быстро проверяется машиной, инженерное внедрение замыкается раньше теоретических исследований: если раньше на топовые операторы вроде FlashAttention у экспертов уходили месяцы, то теперь задача превзойти лучшее человеческое решение занимает внутри команды не больше двух дней. С открытием исходного кода ForgeKernel этот метод становится инфраструктурой, дающей производителям чипов и командам моделей новый путь к эффективности. Барьер, который CUDA строила годами за счет накопленного экспертного опыта, ИИ пробивает напрямую, а роль человека смещается от шлифовки каждой строки низкоуровневого кода к созданию среды, постановке целей и критериев проверки — от ремесленника к архитектору систем.