Создавая ИИ и убирая мусор: Кремниевая долина платит за неконтролируемый контент

О масштабах проблемы говорит статистика. Spotify за прошлый год удалил 75 миллионов треков, признанных массовой загрузкой дубликатов и прочего мусора — это заметная доля всей музыкальной библиотеки сервиса. LinkedIn объявил ИИ-мусор главной заботой и добавил специальную кнопку для жалоб. YouTube за полгода закрыл 130 тысяч низкокачественных каналов, а затем вычислил и удалил 50 тысяч кластеров аккаунтов, которые штамповали похожие видео по шаблону.

Проблема настолько серьезна, что издательство Merriam-Webster выбрало слово slop словом года в 2025-м. Французский стриминг Deezer подсчитал: почти половина новых треков в его системе создана искусственным интеллектом, и большинство из них никогда не слушали. На Apple Music доля ИИ-контента превышает треть всех загрузок.

При этом главные борцы с мусором и есть его главные производители. Meta, владеющая Facebook и Instagram, в июле поддержала европейскую конвенцию о маркировке ИИ-контента, но в том же месяце запустила функцию, которая автоматически использовала фотографии пользователей Instagram для обучения генератора изображений. После трех дней скандала функцию отключили. Эксперт по ИИ из Университета Огайо Пол Шовлин объясняет: платформы долго получали выгоду от мусора, потому что он повышал вовлеченность, но теперь пользователи не могут найти качественный контент.

Исследователь Карнеги-фонда Эйдан Уолкер сравнивает ИИ-мусор с незаживающей раной. Камиль Франсуа из Колумбийского университета, организовавшая «салон по изучению мусора» с участием двух десятков ИИ-экспертов, настаивает, что это системный кризис информационной среды. Платформы, которые не научатся его решать, потеряют аудиторию.

Платформы уже переходят к практическим мерам. Pinterest позволяет пользователям ограничивать количество ИИ-постов в ленте. TikTok тестирует регулятор такого контента, пометил более трех миллиардов роликов как синтетические и удалил 377 тысяч видео за первые три месяца года. В X почти половина длинных постов, по оценкам Pangram, генерируется нейросетями. Платформа начала блокировать приложения, платившие ботам. Substack запустил детектор ИИ на базе Pangram, но авторы уже жалуются на ложные срабатывания и дополнительное давление. Глава Substack Крис Бест предупреждает: платформы, вознаграждающие фейковый контент, обречены на гонку вниз. Кремниевая долина начинает расплачиваться за то, что слишком долго не думала о последствиях.