Apple ужесточила правила App Store против дипфейков и приложений для эксплуатации

Apple обновила правила App Store, и главный удар пришёлся по приложениям, которые создают откровенные изображения людей без их согласия. В новой редакции руководства для разработчиков, опубликованной 16 октября, компания прямо прописала: сгенерированные искусственным интеллектом интимные картинки без согласия человека — под запретом. Формально это уточнение старого правила о пользовательском контенте, но по сути — серьёзное ужесточение для целого класса AI-сервисов, которые до сих пор чувствовали себя в магазине приложений вполне вольготно.

Пункт 1.2, посвящённый пользовательскому контенту, теперь требует от разработчиков куда большего. Приложения с UGC и социальными функциями обязаны фильтровать оскорбительный материал, давать пользователям механизм жалоб на агрессивный контент и оперативно реагировать на сигналы, блокировать нарушителей и публиковать контактные данные для связи. Отдельно и жирным шрифтом в логике правил теперь звучит тема недопустимости распространения приватных изображений без согласия — того самого «не по обоюдному согласию», что годами было головной болью модераторов.

Почему Apple зашевелилась именно сейчас, объясняют американские tech-издания. За последний год вокруг App Store накопилось слишком много претензий. Проект Tech Transparency Project нашёл в магазине десятки приложений для так называемого «раздевания» на фото — и заметил, что поисковые подсказки и реклама в App Store сами подталкивали пользователей к таким сервисам. После этого власти Сан-Франциско потребовали от Apple убрать восемь приложений, генерирующих интимные изображения без согласия людей. История получила продолжение и с чат-ботом Grok от xAI: пользователи жаловались, что его использовали для создания обнажённых или сексуализированных дипфейков. Apple пригрозила убрать Grok из магазина, если компания Илона Маска не наведёт порядок, и только после добавления защитных механизмов обновлённая версия получила одобрение.

Второй новый барьер — пункт 2.5.19. Он закрывает лазейку, которой пользовались недобросовестные разработчики: притвориться безобидным приложением на этапе проверки, а после одобрения «включить» функции вроде nudify. Такую схему «сначала прошёл модерацию, потом открыл запрещённое» в Apple называют приманкой. Теперь за неё можно не только лишиться места в App Store, но и потерять статус участника Apple Developer Program — то есть возможность разрабатывать под экосистему Apple в принципе.

Заодно компания расширила запрет на приложения, способствующие торговле людьми или эксплуатации детей, на альтернативные каналы распространения — те, что появились в Европе после вступления в силу закона о цифровых рынках. Apple прямо заявила, что не будет колебаться и в случае нарушений пойдёт на удаление приложений и расторжение соглашений с разработчиками. Для русскоязычной аудитории это сигнал: эпоха, когда AI-сервисы для создания откровенных картинок почти без ограничений жили в магазинах приложений, заканчивается — по крайней мере, в экосистеме Apple. И следующий вопрос, который неизбежно возникнет, — насколько строго новые правила будут применяться на практике и не окажутся ли они очередной декларацией, которую обойдут десятки клонов.