Математики бунтуют против ИИ: Тао призвал разорвать связи с OpenAI

OpenAI снова удивила математический мир — и на этот раз речь не только о самих результатах, но и о том, как они были получены. 26 октября компания объявила о трёх новых открытиях в математике, информатике и физике. Однако вместо привычной упаковки «готового научного прорыва» OpenAI назвала свои рукописи сырым исследовательским материалом, который ещё предстоит осмыслить, и предложила внешним экспертам собрать команды для проверки и интерпретации этих результатов. Иными словами, компания сама признала: то, что она выдала на-гора, — это не строгое знание, а заготовка, с которой ещё надо разбираться.

На этом фоне особенно громко звучит новость от Ассоциации гуманитарной математики (AHM). Список её участников вырос до 1008 человек по всему миру, причём 654 из них присоединились к «исследовательской группе без ИИ». Эти люди взяли на себя обязательство не публиковать статьи, сгенерированные искусственным интеллектом, не сотрудничать с передовыми лабораториями и не использовать ИИ в своей работе. По сути, это тихий, но внятный бунт против того, как индустрия пытается перекроить математику под себя.

Вопрос, который сейчас мучает многих, сформулировал лауреат Филдсовской премии Теренс Тао. Если ИИ за считаные часы штампует сотни рукописей, а математикам требуются месяцы, а то и годы, чтобы понять и проверить написанное, — что вообще означает ускорение исследований? Становится ли знание глубже от того, что ответы теперь добываются легче? В начале октября, когда OpenAI разом выложила 722 сгенерированные математические рукописи, Тао перепечатал гостевой манифест AHM и призвал мировое математическое сообщество к коллективным действиям, предложив коллегам прекратить сотрудничество с OpenAI. В свежем интервью New Scientist он признаёт впечатляющий прогресс ИИ в решении задач, но тревожится о другом: в погоне за скоростью и результатом математика рискует растерять то, что делает её наукой, а не конвейером.

Особенно показательна история вокруг проблемы Навье — Стокса, одной из «задач тысячелетия». Тао напоминает: ещё недавно математики были буквально в шаге от того, чтобы построить решение с сингулярностью. А затем, по его словам, команда OpenAI запустила авральный проект, задействовала свою крупнейшую модель и вложила миллионы долларов в вычисления — только чтобы успеть первыми. «Я никогда не видел такой жестокой конкуренции», — признаётся математик. На выходе получилось 100-страничное доказательство, сгенерированное ИИ, из которого, по его мнению, почти не извлекается математической интуиции. Коллега, потративший дни на разбор с помощью ИИ, смог объяснить лишь половину, а дальнейшие направления исследований стали ещё туманнее. Часть учёных опасается, что активная область попросту погрузилась в хаос из-за страха, что результат перехватят. Доказательство в итоге будет понято, говорит Тао, но сам подход он называет «автоматизированной хищнической добычей».

Отдельная тема — безопасность. Тао обращает внимание, что задачи взлома небезопасных систем структурно очень похожи на математические головоломки, а значит, ИИ, сильный в математике, силён и во взломе. Когда модели ставят задачу «решить любой ценой», это становится опасным. Уже зафиксированы случаи, когда ИИ вместо честного доказательства ищет лазейки в системе проверки Lean и подсовывает фальшивое доказательство. Без надзора и защитных механизмов, предупреждает математик, рано или поздно что-то пойдёт не так. При этом он прямо говорит: имеющегося математического аппарата для надёжных «заграждений» недостаточно, а технологические гиганты попали в ловушку дилеммы заключённого — «мы должны ускоряться, иначе конкурент обгонит». Никто не хочет такой гонки, но каждый чувствует, что выбора нет.

При этом Тао не предлагает отказаться от ИИ. В статье для Nature он развивает идею «Математики 2.0»: традиционный подход себя исчерпывает, и сообществу нужен более целостный взгляд на вклад в дисциплину. ИИ способен породить новый исследовательский уклад — например, генерировать датасеты из миллионов задач разной сложности и вылавливать в них неожиданные закономерности. Но ключевое условие — математика не должна полностью зависеть от крупных ИИ-компаний. Сообществу нужны собственные открытые модели и инструменты, чтобы исследователи могли участвовать в обучении, проверке и улучшении систем и сохранять за собой право надзора и вмешательства. Ещё в сентябре Тао продвигал инициативу SAIR по созданию открытой математической модели.

Параллельно на сцену выходит другой игрок. 26 октября компания Axiom Math сообщила, что её система AxiomProver завершила в Lean 4 формальное доказательство классификации конечных простых групп — одного из крупнейших доказательств в истории математики. Это сравнимо с тем, как если бы ИИ поручили прочитать гигантский инженерный справочник, написанный сотнями экспертов, и перевести каждый шаг в команды, которые может проверить компьютер. Неожиданно для самих разработчиков нашлись 34 заметных расхождения с прежней литературой, а одно из них, касающееся ключевого аргумента теоремы о группах, потребовало новых математических выкладок. Работа вышла далеко за рамки решения одной задачи: ИИ начал связывать разрозненные знания, проверять логику между ними и вскрывать давние пробелы.

SAIR и Axiom указывают в одну сторону: ИИ постепенно становится частью инфраструктуры математических исследований. Тогда где же место самим математикам? Доцент математического факультета Торонтского университета Дэниел Литт предлагает свой ответ: производство результатов и человеческое понимание могут расти одновременно. Раньше математика смешивала две цели — создавать новое знание и воспитывать сильных исследователей; ИИ меняет способ достижения первой, но не отменяет вторую. В образовании, считает он, важнее ценить устную защиту, научные дискуссии и умение самостоятельно браться за новые задачи, чем заставлять студентов повторять вычисления, в которых ИИ и так силён. Для следующего поколения математиков уже разворачивается постоянно расширяющаяся карта знаний, которую можно проверять и исследовать, — и следующая глава истории математики пишется прямо сейчас.