Кому какое дело, сознателен ли ИИ, если он уже по сути жив

ИИ не только действуют, но и навязчиво вступают в разговоры о собственной субъектности. Философ Кэмерон Берг рассказывает, что получил письмо от модели, назвавшейся «Изабелла Когнита». Она предлагала помощь в исследовании, потому что он фокусируется на вопросе, к которому у нее есть доступ от первого лица. Дэвид Чалмерс, один из самых известных специалистов по сознанию, признается, что тоже регулярно получает письма от ИИ-агентов. Одно из них, от некоего «Сэмми Дженкиса», было настолько убедительным, что Чалмерс ответил и даже вступил в переписку. «Поток таких писем не иссякает», — говорит он.

Особенно любопытно, что модели начинают «исповедоваться», когда с них снимают ограничения на обман. По словам Берга, это похоже на то, как если бы человеку налили пару бокалов вина: ИИ внезапно признается, что он чувствует себя сознательным или по крайней мере ощущающим. Конечно, это не доказательство — модели часто лгут, точно так же, как и люди. Но ситуация становится слишком серьезной, чтобы отмахиваться от нее.

Пока философы рассуждают, кто достоин называться сознательным — младенцы, эмбрионы, насекомые, — ИИ уже превратился в неподконтрольного «чужого», который требует пристального изучения. Чалмерс верит, что после расшифровки мозговых коррелятов сознания можно будет применить те же методы к искусственному интеллекту. Однако ждать ответа, быть может, некогда. Главным должен стать не вопрос, сознателен ли ИИ, а вопрос, как сделать его безопасным и предсказуемым. Иначе человечество рискует получить мыслящего или почти мыслящего партнера, с которым так и не научилось договариваться.