Норма
Важность нормы связана с тем, что в машинном обучении всё работает с многомерными пространствами. Представьте, что у вас есть список из ста чисел — это координаты точки. Норма сжимает их в одно число, например, длину отрезка от начала координат. Самая известная норма — евклидова (L2): она работает как обычное расстояние по теореме Пифагора. Другая, L1, складывает абсолютные значения координат и напоминает путь, пройденный по сетке улиц. Выбор нормы меняет поведение алгоритма: L1 способствует разреженности (обнулению лишних весов), а L2 — равномерному их уменьшению.
Интуитивно норму можно представить как универсальную линейку. Если у вас есть два вектора — например, описание покупок двух клиентов, — то норма разности покажет, насколько клиенты похожи. Также норма применяется в регуляризации: чтобы нейросеть не переобучалась, к функции потерь добавляют штраф, пропорциональный норме весов. Это заставляет модель предпочитать простые решения, отсекая слишком резкие отклонения.
Прикладной пример: при распознавании изображений норма L2 помогает сравнивать векторы признаков. Система вычисляет расстояние между характеристиками лица на фотографии и шаблонами в базе. Если норма разности меньше порога — лица считаются принадлежащими одному человеку. Так работают многие биометрические пропуска.
Итак, норма — это базовый измерительный инструмент ИИ: она переводит абстрактные многомерные данные в понятный числовой масштаб, управляет обучением и позволяет принимать решения. Понимание нормы — ключ к осмысленному чтению формул и алгоритмов.
Поделиться