В отчете о запрете соцсетей подросткам в Австралии нашли ошибки, использовался ChatGPT

Отчет по заказу правительства готовила британская организация Age Check Certification Scheme (ACCS). Контракт стоил 3,48 млн австралийских долларов. В документе оценивались технологии, которые платформы могли бы использовать для соблюдения запрета на аккаунты для младше 16 лет. Министр связи Аника Уэллс высоко оценила отчет, заявив, что он демонстрирует "множество эффективных решений" и проложил путь к вступлению запрета в силу в декабре.

Однако в ходе сенатского расследования выяснилось, что в главе о "новых технологиях" ссылки на академические статьи содержат грубые ошибки. Как выяснило издание The Guardian, в одном только разделе было шесть неверных ссылок: часть DOI ведет на несуществующие публикации, часть — на чужие работы, а где-то авторы, журнал и год не соответствуют никакой известной литературе. Более того, в четырех ссылках нашлись метаданные, указывающие на происхождение из ChatGPT. После этого в ACCS признали, что нейросеть помогала переписывать некоторые абзацы для краткости, но заявили, что все ссылки проверялись вручную.

Даже исправленный список литературы, предоставленный ACCS, изобиловал ошибками. Одна из статей якобы была доступна в марте 2025 года, однако ее соавтор подтвердил, что публикация появилась только в июне, а указанный в отчете автор Jamil к работе отношения не имел. В организации объяснили ошибки тем, что ссылки могли "устареть" после публикации, но проверять это чиновники не стали.

Скандал уже аукнулся правительству: в прошлом году Deloitte вернула 440 тысяч австралийских долларов за отчет с ошибками, также написанным с помощью ИИ. Эксперты предупреждают, что ложные цитаты в документах подрывают доверие к власти. Сенатор Фатима Пейман потребовала от ACCS извинений и возврата денег.