Мэтью Хоннибал разоблачил сенсацию MIT о модели Astra, читающей чужие веса

Недавняя работа исследователей из MIT, нашумевшая в начале ноября, столкнулась с серьёзной критикой со стороны одного из самых уважаемых специалистов в области обработки естественного языка. Мэтью Хоннибал, создатель библиотеки spaCy и соучредитель компании Explosion, опубликовал разбор, в котором обвинил авторов исследования в вводящей в заблуждение подаче результатов. Речь идёт о модели Astra, которая, как утверждалось, научилась без обучения и без вычисления градиентов напрямую редактировать веса другой нейросети.

Согласно изначальным заявлениям команды MIT, Astra изменила всего 0,016 процента весов модели Qwen3.5-0.8B — и результат по математическим задачам вырос с 7,9 процента до 48,1 процента, то есть более чем в шесть раз. В социальных сетях тут же подхватили красивую метафору: искусственный интеллект якобы начал читать мысли другого искусственного интеллекта, заглядывая в его «мозг» на уровне сырых чисел. Звучало впечатляюще, почти как научная фантастика.

Однако Хоннибал утверждает, что за эффектной обёрткой скрывается классический трюк иллюзиониста. Он сравнил ситуацию с выступлением фокусника: в первый раз зритель видит спецэффект и думает, что понял механику, во второй раз трюк исполняется иначе, и прежняя догадка рассыпается, а на третий раз используется совсем другой приём. Наблюдая за одним номером, невозможно разгадать все три, если считать, что перед тобой всегда одна и та же техника. Именно так, по мнению критика, устроена и презентация Astra.

Если внимательно прочитать саму статью, а не только аннотацию, выяснится, что авторы демонстрируют три разные способности. Первая — чтение весов: модель по голым числам определяет, какую задачу выполняет небольшая нейросеть. Вторая — запись весов: Astra с нуля генерирует или правит параметры маленькой сети, чтобы та, например, играла в «Арканоид». Третья — починка большой языковой модели: та самая правка Qwen, позволившая резко поднять математические результаты. Аннотация же создаёт впечатление, будто все три чуда объясняются одним и тем же навыком прямого чтения и редактирования «мозга» модели.

Разбор восьми групп экспериментов показывает: условия были совершенно разными. В опытах с распознаванием задач маленьких сетей и с восстановлением застрявшей модели гоночного симулятора Astra действительно работала только с сырыми числами весов. Но и ограничения там были жёсткими: на вход подавались исключительно числовые значения, модели запрещалось запускать код на Python и запрещалось исполнять целевую сеть, чтобы посмотреть на её поведение. Размер параметров в таких тестах составлял от 17 тысяч до 172 тысяч — по меркам современных языковых моделей это очень скромно, и до понимания полноценной большой модели здесь дистанция огромного размера.

А вот в самом громком эксперименте с Qwen на 800 миллионов параметров никакого прямого чтения весов не было. Astra разрешили писать код на Python и провести до пятидесяти прямых прогонов: модель получала пачки учебных задач, наблюдала за ответами целевой сети и уже на основе этого анализа правила веса. По сути, это работа внешнего тренера, который смотрит на поведение подопечного и корректирует его, а не телепат, заглядывающий в числовую структуру. Хоннибал подчёркивает: упаковка двух принципиально разных методов в один сюжет подталкивает читателя к ложному выводу, будто «чтение мыслей», отработанное на крошечных сетях, масштабируется до моделей на сотни миллионов параметров.

При этом критик вовсе не утверждает, что исследование бесполезно. Напротив, он признаёт: даже без ореола сверхспособности результат впечатляет. Модель, которой достаточно поставить задачу, самостоятельно пишет код, анализирует веса и правит их — то есть выполняет работу инженера по машинному обучению. Ещё пару лет назад языковые модели проваливали подобные задачи полностью. То, что сегодняшние флагманы способны выступать в роли своеобразного «AI-инженера», диагностирующего и ремонтирующего другие модели, само по себе серьёзный инженерный прорыв. Проблема, по мнению Хоннибала, не в науке, а в маркетинге: две разные способности слиты в одну туманную «суперсилу», которая читает и переписывает мозг искусственного интеллекта. В атмосфере нынешнего хайпа вокруг ИИ такая подача, к сожалению, предсказуема — и именно она мешает трезво оценить действительно ценные стороны работы.