Tri-training

Три-тренинг — это метод обучения искусственного интеллекта, при котором одновременно работают три модели-учителя, помогая друг другу осваивать новую информацию на размеченных и неразмеченных данных. Проще говоря, это обучение алгоритма с минимальным участием человека: есть лишь небольшая горсть правильных примеров, но целое море «сырых» данных без ответов.

Разметка данных для ИИ стоит дорого и требует времени экспертов. Три-тренинг эффективно использует дешёвые неразмеченные данные, повышая точность там, где вручную разметить всё невозможно. Подход хорошо работает в задачах, где данных много, а готовых ответов мало.

Как это работает? Представьте трёх учеников, решающих один и тот же тест. Каждый отвечает немного по-своему. Если двое из них уверенно дали одинаковый ответ на сложный вопрос, а третий сомневается, то первый и второй могут объяснить ему, почему выбрали этот вариант. Так они совместно учатся на расхождениях и постепенно расширяют знания, подтягивая слабые места друг друга. В три-тренинге каждая модель получает от двух других «подсказки» на те неразмеченные примеры, где те уверены. Эти примеры становятся новыми учебными материалами, и модели итеративно улучшаются, пока не сойдутся к единому мнению.

Прикладной пример: в сельском хозяйстве нужно распознавать болезни растений по фотографиям листьев. Специалист вручную размечает лишь 200 снимков, а в распоряжении системы — миллионы неразмеченных фотографий с полей. Три модели обучаются на этих 200 примерах, затем каждая «смотрит» на неразмеченные снимки и добавляет в обучающий пул те, в которых две другие модели уверены. Постепенно модель обучается находить редкие болезни, не представленные в начальной разметке.

Вывод: три-тренинг — элегантный способ «научить модели учиться друг у друга», позволяющий сэкономить ресурсы и добиться хорошей точности при ограниченной разметке.