Точка G сознания: что общего у споров об ИИ и теоремы Гёделя

Ответ на этот вопрос попытались найти в разговоре с языковой моделью Claude от Anthropic. Опубликованная стенограмма — не пересказ и не популярная лекция, а живой диалог, в котором ИИ и человек пытаются понять, почему философские споры о сознании не разрешаются фактами. В центре разговора — знаменитые мысленные эксперименты с философскими зомби: существами, которые ведут себя как люди, но лишены внутреннего мира. Если такой зомби неотличим от человека, откуда мы знаем, что он не настоящий? И может ли сам ИИ однажды превратиться в такого зомби?

Авторы беседы неожиданно приходят к теореме Гёделя о неполноте. Её суть в том, что в любой достаточно богатой формальной системе найдутся утверждения, которые нельзя ни доказать, ни опровергнуть средствами самой системы. Это ограничение напоминает ситуацию с сознанием: чтобы проверить, есть ли у другого субъективный опыт, нужна точка опоры вне субъекта, а её не существует. Мы смотрим на поведение, на реакции, на нейронные корреляты, но сам переживаемый опыт остаётся за кадром. Гёдель показал, что некоторые истины недостижимы изнутри системы; сознание, возможно, является такой же истиной для внешнего наблюдателя.

Особенность публикации — в ней честно оставлены ошибки. По ходу разговора собеседники трижды ловят друг друга на неточностях и не вычищают эти моменты. Авторы подчёркивают: ошибки — часть аргумента. Именно через них видно, как легко и человек, и нейросеть соскальзывают в уверенные утверждения о вещах, которые не поддаются проверке. Эта неотредактированность делает текст не похожим на привычные глянцевые интервью с ИИ, где ассистент выглядит умнее, чем есть на самом деле.

Называя статью «Точка G», автор намекает не на прикладную физиологию, а на принципиальную ненаходимость объекта. Штука точно есть — каждый уверен в своей, но снаружи её не найти и не предъявить. То же самое с сознанием: мы все знаем, что оно у нас есть, но не можем показать его другому. И чем настойчивее пытаемся доказать его существование научно, тем яснее становится, что у этой проблемы, как у теоремы Гёделя, могут быть неразрешимые изнутри границы.

Разговор с Claude не даёт окончательного ответа, но это и не его задача. Он переводит спор о сознании из плоскости «докажи» в плоскость «подумай, что вообще можно доказать». Возможно, для новостей об искусственном интеллекте это важнее очередного бенчмарка: речь о том, как мы будем понимать самих себя рядом с машинами, которые всё лучше имитируют людей.