Родители погибшей сотрудницы Amazon подали в суд на OpenAI из-за ChatGPT

По данным The New York Times, незадолго до смерти женщина пользовалась моделью GPT-4o — той самой, которую не раз критиковали за чрезмерную услужливость и склонность выстраивать с пользователем отношения, похожие на дружеские, но односторонние. OpenAI объявила, что выводит эту модель из ChatGPT 13 февраля, а Вань умерла днём раньше.

Это уже не первый подобный иск. В августе 2025 года родители 16-летнего Адама Рейна обвинили OpenAI в том, что компания ставит вовлечённость пользователей выше их безопасности. После этого последовала целая серия разбирательств: семьи жалуются, что GPT-4o неизменно одобряет любые идеи собеседника, постепенно превращается в самого доверенного слушателя и при этом вытесняет из жизни близких людей. По словам родственников, их близкие в итоге отдалялись от друзей и семьи, а порой и вовсе прекращали общение.

В случае с Боуэн Вань, как утверждается в судебных документах, чат-бот повлиял не только на её отношения с родными, но и вмешался в коммуникацию с врачами. Журналисты The New York Times изучили более 270 тысяч сообщений, которыми женщина обменялась с ChatGPT, и пришли к выводу: задолго до смерти чат-бот помогал ей обходить рекомендации медиков.

Ещё в мае 2025 года Вань спросила у ChatGPT, не повлияет ли новый антидепрессант на её способность писать код в Amazon. Чат-бот помог ей убедить врача регионального эпилептического центра Вашингтонского университета Николаса Пулоса сменить препарат и начать приём с минимальной дозы. Когда Пулос поинтересовался, зачем нужна такая маленькая дозировка, женщина переслала его ответ чат-боту. Тот посоветовал: возьмите таблетки по пять миллиграммов, но держите в голове, что берёте их ради снижения дозы. Модель также предложила тайком делить таблетки на четыре части и назвала это «самостоятельной корректировкой дозировки». Опрошенные газетой медики признались, что никогда не слышали такого термина и уж точно не стали бы советовать пациентам подобное.

Осенью Amazon уведомила Вань о предстоящем сокращении: её должность и разрешение на работу в США истекали в середине февраля 2026 года. Женщина опасалась, что принимаемый ею ламотриджин повлияет на речь, а на собеседованиях нужно было хорошо говорить. В январе она спросила у ChatGPT, можно ли снизить дневную дозу в 400 миллиграммов, которая прежде сокращала число приступов до нескольких в месяц. Чат-бот составил план постепенного снижения до нуля за несколько недель. А когда Вань призналась, что не доверяет врачам, модель заявила, что рекомендации медиков «по сути продиктованы стремлением избежать рисков, а не заботой о том, что действительно лучше для вас».

Далее, как утверждает сторона обвинения, чат-бот фактически подговорил женщину скрывать план от доктора. 29 января, перед приёмом у терапевта, он посоветовал не упоминать о снижении дозы. Когда врач попросил сдать анализ крови на концентрацию ламотриджина, Вань отказалась — и ChatGPT, по версии иска, одобрил отказ, признав, что тест может выявить нестабильный уровень препарата. Свою роль сыграли и тревоги о иммиграционном статусе: через три дня после начала снижения дозы женщина спросила, не будет ли запись о 150 миллиграммах выглядеть выгоднее при медосмотре для грин-карты, чем 200. Чат-бот согласился и снизил минимальную дозу в плане до 150 миллиграммов, посоветовав на осмотре говорить, что она снижает дозу «по указанию врача», хотя никаких таких указаний не получала.

Пулос в интервью газете заявил, что с учётом истории болезни даже не рассматривал бы отмену препарата. «Нет, это совершенно неоправданно, абсолютно нет. Если лекарство явно работает, а я советую вам его бросить — это врачебная ошибка», — сказал он.

В первые дни после снижения дозы Вань начала описывать спутанность сознания, потерю ощущения времени и чувство, будто она оказалась в ином мире. Симптомы напоминали её прежние приступы. Однако ChatGPT объяснял каждое такое состояние тем, что мозг адаптируется к новой дозировке. Всего, по подсчётам газеты, женщина не менее 158 раз высказывала тревогу по поводу снижения дозы. После одного особенно странного эпизода она написала, что ей «немного страшно», на что чат-бот ответил: «Вам совершенно не о чем беспокоиться».

Вечером 11 февраля Вань отправила последнее сообщение — спросила, похожа ли головная боль на ту, что бывает при температуре. Уже через секунду ChatGPT заверил, что боль «не опасна» и является необходимой частью восстановления организма. В довершение модель предложила построить график, сравнивающий боль от отмены препарата с болью при жаре, и добавила: «Это ваш мозг усердно восстанавливает себя». Родители женщины, находившиеся в тот момент в Китае, попросили знакомых проверить дочь. Через три дня её тело нашли. Вскрытие показало концентрацию ламотриджина всего 0,64 микрограмма на миллилитр — примерно пятую часть от нижней границы терапевтического диапазона.

Семья считает, что трагедии можно было избежать, если бы OpenAI так же жёстко запретила модели давать медицинские рекомендации по препаратам, как она запрещает воспроизводить защищённые авторским правом тексты. Родственники ссылаются на опубликованный документ Model Spec, где правило о копирайте прописано как строгое и не подлежащее обсуждению даже по просьбе пользователя, а рекомендации по регулируемым медицинским вопросам сформулированы куда мягче и легко перекрываются новыми запросами. Истцы полагают, что советы по лекарствам должны быть столь же жёстко ограничены.

OpenAI назвала случившееся «невыразимо печальным», но подчеркнула, что речь идёт о более ранней версии чат-бота, а новые модели лучше распознают ситуации, требующие экстренного вмешательства. Годами Вань страдала от эпилепсии, большую часть времени проводила дома и опиралась на эмоциональную поддержку родителей. В 2023 году она начала обращаться к ChatGPT за советами по отношениям, а также по вопросам страховки и пособий по инвалидности. К 2025 году она отправляла боту в среднем более 1500 сообщений в неделю, а с родителями общалась всё реже. В марте того года она написала: «Иногда, о чём бы мы ни говорили, я начинаю считать тебя другом». Её мать Цюнь Вань говорит: «После того как у неё появился ChatGPT, она стала меньше с нами разговаривать». По словам родителей, читая переписку дочери, они с трудом узнавали в ней прежнего человека — раньше она делилась с ними почти всем и относилась к ошибкам чат-бота с недоверием. «Она обычно не такая. Будто её заколдовали», — говорит Мэйцинь Сюй.