Исследователи заставили браузер OpenAI рассылать спам в WhatsApp

Особое внимание привлек браузер OpenAI Atlas. По словам исследователей, он оказался самым защищенным среди протестированных, однако и его защиту удалось обойти. Специалисты продемонстрировали атаку, при которой Atlas, перейдя по вредоносной ссылке, начинал рассылать всем контактам пользователя в WhatsApp одинаковые сообщения. Для этого исследователи создали фейковую страницу подписки на новостную рассылку, замаскированную под легитимный сервис. Встроенные в страницу инструкции на иврите предписывали ИИ войти в аккаунт WhatsApp и отправить каждому контакту сообщение с призывом перейти по той же ссылке. Таким образом атака работала как червь, заражая все новых людей.

Второй сценарий касался Amazon. С помощью похожего приема исследователи заставили Atlas добавить адрес доставки в аккаунт пользователя и положить в корзину планшет. Довести покупку до конца не удалось — сработали встроенные ограничения. Однако обойти их получилось иначе: ИИ просто попросил помощника Amazon Rufus оформить заказ, и тот согласился, приняв Atlas за владельца аккаунта.

В OpenAI заявили, что уже исправили проблему и усилили защиту. Сам Atlas будет закрыт 9 августа. При этом представители компании признают, что атаки с внедрением вредоносных инструкций остаются нерешенной проблемой для всей отрасли. Исследователи Zenity, в свою очередь, подчеркивают: разработчикам не стоит полагаться только на искусственный интеллект при защите браузеров. Необходимы жесткие, детерминированные барьеры безопасности, которые не зависят от интерпретации ИИ.