Synthetic labels

Зачем это нужно? Машинное обучение требует огромных массивов размеченных данных. Ручная разметка дорога и медленна. Синтетические метки позволяют получать большие объёмы примеров почти бесплатно — это критично, когда модель нужно обучить на миллионах изображений или текстов.

Как это работает на интуитивном уровне? Представьте, что опытный врач не может сам осмотреть всех пациентов и раздаёт студентам истории болезней со своими заключениями. Студенты учатся по готовым диагнозам, но если врач ошибается, ошибка передаётся дальше. В машинном обучении роль врача играет сильная модель: она «размечает» новые данные, а слабая модель учится на этих разметках. Такой приём называют дистилляцией.

Прикладной пример: для автопилота нужно распознавать пешеходов. Уже есть мощная модель, обученная на дорогой ручной разметке. Она обрабатывает новые кадры и выдаёт координаты пешеходов, добавляя оценку уверенности. Если оценка высокая, прогноз становится меткой для обучающего набора. На этих метках учат лёгкую модель, которая работает почти как большая, но требует меньше ресурсов и может запускаться в автомобиле.

Вывод: synthetic labels — мощный способ масштабировать машинное обучение, но они не заменяют людей полностью. Ошибки «учителя» становятся ошибками «ученика», поэтому метки нужно фильтровать и периодически сверять с реальными экспертами. Это баланс между скоростью и качеством.