Была ли моя работа в обучающей выборке ИИ? Чем обычнее, тем меньше шансов проверить

Со 2 августа в ЕС заработала статья 50 AI Act, которая обязывает генеративные системы помечать синтетический текст, изображения, аудио и видео машиночитаемым способом. А Spotify в середине сентября планирует начать помечать профили несуществующих исполнителей ярлыком AI Persona и убирать их из рекомендаций. Индустрия явно научилась отвечать на вопрос «это сделал ИИ?». Но есть и обратная сторона: как проверить, была ли конкретная работа использована при обучении модели?

Представьте музыканта, у которого двадцать лет каталога. Модель обучалась на каких-то данных. Как он может узнать, попала ли его запись в обучающую выборку и повлияла ли она на трек, сгенерированный вчера? Короткий ответ: практически никак. И объяснение этому не банальное. Часто говорят, что «модель ничего не хранит» — это распространенное и неверное объяснение. Причина сложнее и интереснее.

Для таких задач существуют два семейства методов: membership inference и training data attribution. Первые призваны определить, был ли конкретный объект включен в обучающий набор. Вторые — оценить вклад каждого примера в итоговое поведение модели. Звучит обнадеживающе, но на практике они сталкиваются с серьезными ограничениями. Membership inference часто требует доступа к архитектуре модели и работает только при определенных условиях. В реальности коммерческие модели закрыты, а их обучение — гигантский процесс с перемешанными данными. Training data attribution, в свою очередь, показывает лишь статистическую оценку влияния, и высокий influence score вовсе не означает, что модель «запомнила» конкретную работу или что она напрямую повлияла на данную генерацию. Для больших моделей, обученных на миллиардах документов, точная атрибуция потребовала бы переобучения множества контрольных экземпляров, что практически невозможно.

Еще важнее то, что типичные, обычные примеры почти невозможно отследить. Чем меньше уникальных черт в вашей работе, тем сильнее она растворяется среди похожих данных. Если вы пишете в стандартном жанре или используете общие музыкальные гармонии, вклад вашего трека неотличим от вклада тысяч других. Поэтому эксперты все чаще говорят: происхождение данных нужно фиксировать до обучения, а не пытаться восстановить после. Нужны лицензии, реестры, технические маркеры авторства и системы учета датасетов — вот что может защитить правообладателей в будущем.

Пока же индустрия в основном занимается маркировкой вывода ИИ, а не входных данных. Так что музыканту, подозревающему, что его каталог использовали без разрешения, остается уповать на юридические инструменты, а не на технические. Проверить это почти невозможно — но не потому, что модель не сохраняет ничего, а потому, что современные методы не в состоянии разглядеть вклад конкретного автора в безбрежном море данных.