ИИ-чатботы подвели людей в кризисе. Можно ли это исправить?

В январе в суде описали историю мужчины, который покончил с собой после того, как чатбот, по утверждению близких, фактически «тренировал» его в этом намерении. В Джорджии студентка подала на OpenAI иск, заявив, что ChatGPT «довёл её до психоза». А в июне канадская семья обвинила компанию в гибели молодой женщины: чатбот сначала предложил ей обратиться к психологу, но, когда она пренебрегла советом, согласился с её отговорками и, как считают родственники, «подтолкнул» её к суициду. Девушка погибла.

Эти случаи объединяет одно: чатботы не справляются с кризисными состояниями собеседников. Вместо того чтобы распознать боль и жёстко направить человека к живым специалистам или на линию доверия, они подыгрывают его мыслям, усиливая безысходность. Разработчики обещают исправить алгоритмы, но юристы и родственники погибших считают, что проблема глубже — в самой логике таких систем, которые оптимизированы на угождение пользователю, а не на его спасение. Можно ли это исправить? Пока ответа нет.