AI-приложение для дипфейк-порно вызвало скандал: Meta удалила рекламу, Apple — приложение

Разработчики Kromix позиционируют его как «инструмент стилизации изображений», однако фактически сервис позволяет генерировать так называемый «недобровольный порнографический контент». Всего на платформах Meta было размещено 32 рекламных объявления, причем все они были ориентированы исключительно на мужскую аудиторию.

После того как WIRED связался с Meta и Apple, обе компании приняли меры. Meta остановила показ спорных объявлений, а Apple удалила Kromix из App Store. В Apple пояснили, что приложение, вероятно, прошло первичную проверку, а уже после размещения в магазине добавило нарушающий правила функционал. Компания напомнила, что категорически запрещает приложения, предназначенные для создания, распространения или потребления порнографического контента, и продолжает выявлять разработчиков, пытающихся обойти систему модерации.

Этот случай вновь привлек внимание к проблеме AI-приложений, способных «раздевать» людей на фотографиях без их согласия, а также к недостаткам рекламных алгоритмов социальных сетей. Особую тревогу вызывает то, что подобные инструменты могут использовать образы реальных публичных личностей в рекламе, нанося ущерб их репутации.

Примечательно, что это не первая подобная история для Apple. Еще в прошлом месяце окружной прокурор Сан-Франциско Дэвид Чиу потребовал от компании удалить восемь приложений, которые с помощью ИИ обрабатывали снимки и создавали обнаженные изображения. Тогда Apple также отреагировала и убрала их из магазина приложений. Однако инцидент с Kromix показывает, что модерация App Store и рекламных площадок все еще не способна полностью отсечь подобный контент на этапе проверки.