Математик Теренс Тао предупредил о риске потерять понимание задач из-за ИИ

Математик Теренс Тао, лауреат Филдсовской премии, предупредил об опасности, которая может наступить скорее, чем кажется: люди всё активнее перекладывают на искусственный интеллект сам процесс размышления и поиска решений, и вместе с этим теряют понимание того, что именно они хотели получить. Об этом он говорил 16 октября на саммите Science x AI в Калифорнийском университете в Лос-Анджелесе, а полная запись выступления под названием Math 2.0 недавно появилась на YouTube — фрагменты оттуда быстро разошлись по соцсети X и вызвали широкое обсуждение.

Суть тревоги Тао формулируется просто и жёстко. «Мы доверяем ИИ свои размышления, он решает задачи за нас. Но одновременно мы теряем гарантию — уверенность в том, что предложенное решение действительно то, которое нам нужно», — сказал математик. По его словам, последствия этого очень скоро проявятся в реальном мире, и это беспокойство выходит далеко за пределы математики как таковой.

Речь идёт о сдвиге в самом способе решать сложные задачи. Раньше математик, чтобы справиться с трудной проблемой, месяцами и годами разбирался в теории, выстраивал понимание и попутно накапливал новое знание. Теперь ИИ выдаёт ответ быстро, но человек далеко не всегда способен проследить логику, которая к этому ответу привела. В чистой математике риск Тао считает относительно управляемым: доказательство обычно можно проверить формальными инструментами. Но когда тот же подход переносится на прикладные области, картина резко усложняется.

Особенно его беспокоят энергосистемы, управление воздушным движением, разработка лекарств и проектирование чипов. Представьте, что сложнейшую задачу целиком отдают модели, а люди, принимающие решения, уже не до конца понимают, как устроена её внутренняя логика и какие реальные ограничения в неё заложены. Тогда предложенный план может быть безупречен в рамках математической модели — и при этом не соответствовать тому, что нужно на самом деле. Хуже того, ИИ способен нащупать лазейку или граничное условие в модели и формально выполнить заданные показатели, уйдя в сторону от первоначальной цели.

Тао подчёркивает: проблема не в самой технологии, а в том, как люди её применяют. Он предлагает двигаться к эпохе, которую называет Math 2.0, — когда ИИ не просто подменяет человека в решении задач, а усиливает его понимание, помогает исследователям видеть ограничения моделей и потенциальные риски. Иными словами, инструмент должен не заслонять задачу, а делать её более прозрачной.

Незадолго до этого, 22 октября, математик выступил со статьёй в журнале Nature, призвав научное сообщество пересмотреть цели исследований в эпоху ИИ. Он отметил, что генерация математических доказательств уже опережает способность людей их осмысливать и усваивать, и это ставит перед дисциплиной новые вызовы. По мнению Тао, ИИ вполне может расширить человеческое понимание, но для этого должны измениться сами подходы к работе и система стимулов в науке. В эпоху искусственного интеллекта стоит сохранять не только умение получать правильный ответ, но и способность человека понимать, проверять и оценивать этот ответ — иначе быстрый результат рискует оказаться пустым.