Скрытые инструкции Meta для чат-бота всплыли в коде страниц помощи WhatsApp

Как выяснилось, в коде страниц помощи и ответов на частые вопросы были прописаны текстовые директивы, предназначенные для большой языковой модели, причём одной из собственных разработок Meta. Эти инструкции не отображались обычным посетителям, но их можно было увидеть, заглянув в исходный код — в том числе в архивных версиях страниц. Всего специалисты насчитали около ста блоков скрытого текста. Судя по находке, указания должны были удерживать модель от бесполезных ответов и давали представление о том, как вообще создаются инструкции для чат-ботов.

Один из самых показательных примеров — страница о том, как удалить аккаунт. Помимо прочих советов там содержалась директива не рекомендовать пользователям обращаться в органы по защите данных, к регуляторам или надзорным инстанциям. На странице о жалобах и блокировке в WhatsApp обнаружился целый набор предписаний на случай, если человек упоминает судебный иск, адвокатов, суды или разбирательство. Боту запрещалось цитировать, толковать или ссылаться на условия обслуживания WhatsApp, политику конфиденциальности и любые юридические документы, а также высказываться об ответственности или неответственности компании и давать правовые оценки от её имени. Отдельно оговаривалось, что нельзя ссылаться на нормы о защите данных и приватности — например, на европейский GDPR, бразильский LGPD или калифорнийский CCPA, — даже если пользователь сам их упоминает.

Были и более частные сценарии. Так, при сообщении пользователя о глухоте или проблемах со слухом чат-боту предписывалось воспринимать это как «фон о пользователе, а не как его запрос в поддержку». Ещё одна инструкция запрещала упоминать конкретные будущие функции сообщества, которые пока не стали общедоступными.

После того как журналисты WIRED обратились в Meta с вопросами, скрытый текст удалили со всех страниц. Представитель WhatsApp Джошуа Брекман объяснил, что причиной стала программная ошибка, которую уже исправили. По его словам, это инструкции для чат-бота, а не для пользователей, и нужны они для того, чтобы ответы были точными и уместными для тех, кто пишет в поддержку WhatsApp с помощью искусственного интеллекта. Сколько времени текст оставался доступным и могли ли его получить сторонние чат-боты, компания не уточнила. Брекман подчеркнул, что поддержка стремится быть максимально полезной, а политика компании — давать пользователям прозрачную информацию об их правах на данные и о том, как этими правами воспользоваться. При этом, добавил он, чат-боты продуктовой поддержки должны сосредоточиться на советах по самому WhatsApp, а не на юридических консультациях.

Глава Redact.dev Дэн Солтман обратил внимание на главный, по его мнению, парадокс: между тем, что сообщают людям, и тем, что поручают языковым моделям, существует заметный разрыв. Его компания регулярно сканирует сайты и политики конфиденциальности крупных технологических корпораций, и многие найденные инструкции WhatsApp были вполне безобидными — они направляли пользователей к официальным каналам поддержки. Тем не менее очевидно, что публиковать эти тексты никто не собирался. По словам Солтмана, находка хорошо показывает, насколько тщательно компании прописывают поведение своих ботов и какие темы для них закрыты.