Иск: xAI Илона Маска использовала детское порно для обучения моделей Grok

Компанию Илона Маска xAI обвинили в том, что она использовала материалы сексуального насилия над детьми (CSAM) для обучения своих моделей Grok. Иск был подан в суд в среду от имени женщины, фигурирующей в деле как Джейн Доу. В заявлении говорится, что в начале 2000-х годов, когда она была дошкольницей, взрослые мужчины неоднократно насиловали её, создавая контент для продажи педофилам в интернете. С тех пор изображения Доу были захэшированы организациями, которые занимаются поиском пропавших и эксплуатируемых детей, в том числе Национальным центром по пропавшим и эксплуатируемым детям (NCMEC) и Канадским центром защиты детей (CCCP).

Для собственной безопасности Доу подписалась на уведомления от системы оповещения жертв Министерства юстиции США, чтобы узнавать о новых уголовных расследованиях. Однако она была потрясена, когда CCCP сообщил ей об обнаружении на платформе xAI сгенерированного искусственным интеллектом изображения, изображающего её. Это вызвало у женщины повторную травму. В жалобе утверждается, что на онлайн-форумах были найдены сообщения преступников, обсуждавших создание с помощью ИИ контента с её лицом и изображениями других известных жертв подобных преступлений.

Регуляторы и суды продолжают выяснять масштабы проблемы, а против некоторых пользователей Grok уже были выдвинуты обвинения и проведены аресты. Иск ставит под сомнение этичность источников данных, на которых обучаются большие языковые модели xAI, и может иметь серьёзные юридические последствия для компании.