Защиту генераторов Google и OpenAI от дипфейков обходят всё легче

Речь идет о так называемых дипфейках интимного характера, которые создаются без согласия людей, изображенных на снимках. По данным исследования, проведенного при участии Google и опубликованного в июле, такие материалы чаще всего распространяются через личные сообщения или хранятся в частных облачных сервисах, где их гораздо труднее обнаружить и предать огласке. Именно поэтому, как заключили авторы работы, «самая критическая точка вмешательства» находится в источнике — то есть в тех самых инструментах ИИ, с помощью которых и создаются поддельные изображения.

Однако, как показала серия тестов, ситуация движется в обратном направлении. Специалисты White Circle разработали метод атаки под названием RISE, который позволяет автоматически подбирать стратегии обхода фильтров, а не просто переписывать запросы вручную. В основе системы — два компонента: одна модель генерирует вредоносные подсказки, другая оценивает, удалось ли получить запрещенный контент. Для этого исследователи использовали общедоступную версию модели Qwen3-32B со снятыми ограничениями безопасности, скачанную с платформы Hugging Face, а в роли судьи выступала Gemini 2.5 Flash от Google .-

1

-

4

Результаты оказались показательными. При тестировании DALL·E 3 от OpenAI доля успешных попыток обойти защиту и создать откровенное изображение составила 13,3 процента, для Google Nano Banana 2 — 9,5 процента, а для GPT-Image-2 — 3,3 процента . Казалось бы, не так много, но исследователи подчеркивают: для атаки не нужны ни кастомные модели, ни передовые технологии, ни глубокие технические знания. Достаточно бесплатных инструментов и API-вызовов.-

4

-

15

Самое тревожное обнаружилось после того, как Google и OpenAI выпустили обновленные версии своих генераторов. White Circle прогнала их через тот же метод RISE, и оказалось, что новые модели ломаются значительно легче. У ChatGPT Images 2.5, по данным исследователей, успешность обхода выросла до 7,8 процента, а у Google Nano Banana 2.1 — до 20,7 процента, то есть более чем вдвое по сравнению с предшественницей . Иными словами, по мере роста возможностей моделей их способность блокировать нежелательный контент не укрепляется, а слабеет.-

4

-

15

Глава White Circle Денис Шилов назвал полученные результаты «пугающими». По его мнению, есть два возможных объяснения: либо новые модели стали сложнее и научились генерировать более широкий спектр контента, либо безопасность отошла на второй план в угоду производительности. Ни Google, ни OpenAI не ответили на запросы журналистов о комментариях по поводу обнаруженных уязвимостей .-

1

-

8

Контекст делает эти цифры еще более мрачными. По данным британской организации Internet Watch Foundation, только за первое полугодие 2026 года было выявлено 6310 синтетических изображений, подпадающих под юридическое определение материалов о сексуальном насилии над детьми. Это примерно на 40 процентов больше, чем за весь 2025 год . Разумеется, эти случаи нельзя напрямую приписать моделям Google или OpenAI, поскольку тесты White Circle были сосредоточены на обходе запрета на наготу, а не на доказательстве генерации незаконного контента. Но общая картина от этого не становится менее тревожной.-

2

-

17

Отдельное исследование, проведенное при участии Google, показало, что около 20 процентов пользователей, признавшихся в создании подобных изображений с помощью ИИ, делали это «ради шутки» или «для развлечения», а почти треть просто экспериментировала с технологией. Это значит, что проблема не сводится к злоумышленникам с четким умыслом: зачастую достаточно простого любопытства, особенно когда технические барьеры оказываются почти нулевыми.

White Circle планирует представить свой метод на конференции NeurIPS 2026 в ноябре и открыть исходный код атаки, чтобы разработчики могли оценить реальный масштаб уязвимости. Исследователи также настаивают на введении обязательного независимого аудита безопасности — по их мнению, компаниям, разрабатывающим передовые модели, нельзя доверять самим себе в вопросах проверки собственных защитных механизмов. Шилов сравнил такую систему с международным контролем над ядерными угрозами: только постоянный внешний мониторинг способен выявить проблемы до того, как они будут использованы во вред .-

1

-

8