Сулейман из Microsoft призвал не создавать обладающий сознанием ИИ

Руководитель направления искусственного интеллекта в Microsoft Мустафа Сулейман опубликовал развёрнутый пост на платформе X, в котором заявил, что нынешние модели ИИ не обладают сознанием, и человечество должно позаботиться о том, чтобы так оставалось и впредь. По его словам, если бы создание обладающего сознанием искусственного интеллекта оказалось технически возможным, это было бы безрассудством, и разрабатывать такие системы не следует. Более того, если бы в процессе обучения моделей начали проявляться признаки сознания, Сулейман призвал бы всех приостановить разработку ИИ до тех пор, пока эти свойства не удастся устранить на уровне архитектуры и дизайна.

Он подчеркнул, что любые доказательства того, что модель ИИ обрела сознание, должны немедленно доводиться до сведения общественности, чтобы всё общество могло совместно решить, что делать дальше. По мнению топ-менеджера, разработчики не вправе в одностороннем порядке привносить в мир новый вид, обладающий сознанием, даже если кто-то ставит во главу угла заботу о его благополучии. Восемь миллиардов жителей Земли не давали согласия на участие в подобном эксперименте, и защита моральных прав, безопасности и благополучия людей — это обязательство, которое разработчики должны выполнять в первую очередь.

Заявление Сулеймана прозвучало на фоне продолжающихся споров о том, приближаются ли большие языковые модели к появлению зачатков самосознания и какую ответственность несут компании, создающие всё более мощные системы. Сам он настаивает на жёсткой этической рамке: сомнения в наличии сознания у ИИ не должны становиться поводом для экспериментов с непредсказуемыми последствиями, а прозрачность и общественный контроль обязаны идти рука об руку с техническим прогрессом. Фактически речь идёт о призыве к своего рода мораторию на исследования в той области, где грань между инструментом и новым субъектом пока остаётся размытой, и Сулейман предлагает закрепить эту позицию как принцип для всей индустрии, а не только для отдельной компании.