Calibration

Калибровка в искусственном интеллекте — это свойство модели, при котором её уверенность в ответе совпадает с реальной вероятностью правильности. Если нейросеть заявляет 80% вероятности, то в восьми случаях из десяти ответ действительно верен. Калибровка не про ум, а про честность самооценки: в медицине, финансах или автопилотах завышенная уверенность ведёт к катастрофам. Модель, которая ошибается, но уверяет в 99% надёжности, опаснее той, что честно признаёт неуверенность, позволяя человеку перепроверить.

Представим калибровку как термометр. Идеальный показывает реальную температуру: если +25°, значит, воздух прогрет до +25°. Плохой может врать на пять градусов — его показания смещены. У модели «уверенность» — это стрелка, а реальная доля правильных ответов — фактическая температура. Калибровка — настройка, после которой стрелка перестаёт обманывать. Алгоритм прогоняют на множестве примеров, сравнивают прогнозы с истиной и вычисляют поправочную функцию для «сырой» самооценки.

Практический пример из метеорологии. ИИ предсказывает дождь с вероятностью 70%. За год было тысяча прогнозов, дождь прошёл в 720 случаях — реальная частота 72%, ошибка всего 2%. Модель откалибрована хорошо. Если бы дождь шёл лишь в половине случаев, а сервис упорно говорил «70%», люди перестали бы ему верить или брали зонты всегда. Откалиброванная модель позволяет принимать верные решения, опираясь на объективный риск.

Итак, калибровка — это честность ИИ. Она не добавляет ума, но делает модель полезнее и безопаснее. Когда алгоритмы советуют врачам, банкирам и пилотам, умение сказать «я не уверен» столь же важно, как верный ответ. Без калибровки даже точный ИИ превращается в самоуверенного консультанта, чьим советам нельзя доверять.