Federated learning

Федеративное обучение (federated learning) — это подход в машинном обучении, при котором модель обучается на данных, не покидающих устройство. Вместо сбора личных сведений в центре, алгоритм рассылает черновую модель на смартфоны и компьютеры. Каждый экземпляр дообучается на своих локальных данных и возвращает не сами данные, а только обновления весов нейросети. Сервер усредняет эти обновления от многих устройств, улучшая общую модель, и цикл повторяется. Это позволяет использовать данные, которые по закону нельзя передавать третьим лицам.

Почему это важно? Чувствительная информация не собирается в одном дата-центре, значит, риск утечек и злоупотреблений снижается. Пользователям не нужно доверять компании свою переписку или медицинские данные. К тому же передача компактных обновлений весов — это огромная экономия трафика по сравнению с загрузкой гигабайтов сырья. Например, это касается банковских записей или медицинской истории.

Интуитивно это похоже на коллективную работу с учебником. Учитель раздаёт ученикам книги с ошибками. Каждый исправляет свои ошибки на полях и возвращает только список правок, а не саму книгу. Учитель объединяет правки и выпускает новое издание. Так знания уточняются, не раскрывая личных пометок.

Показательный пример — клавиатура смартфона. Она предсказывает следующие слова, обучаясь на том, как вы печатаете. Нажатия не отправляются в облако, иначе это была бы слежка. Вместо этого модель тренируется на телефоне, а на сервер уходят лишь анонимные обновления. В итоге подсказки становятся точнее, но никто не читает ваши сообщения.

Вывод: федеративное обучение — компромисс между мощью данных и приватностью. Умные сервисы развиваются, не превращая личные данные в публичный ресурс.