Feature map
На интуитивном уровне представьте, что вы смотрите на фотографию сквозь несколько цветных плёнок. Одна плёнка усиливает вертикальные линии, другая — круглые пятна, третья — резкие перепады яркости. Каждая такая плёнка и есть карта признаков: она показывает, где и насколько сильно проявился искомый признак. Числа в карте — это «уверенность» сети в том, что в данной точке изображения есть нужный узор. Чем выше значение, тем ярче отклик. На следующем слое эти карты комбинируются, порождая новые, более абстрактные паттерны — например, угол глаза или изгиб крыла.
В прикладной задаче распознавания лиц первая карта признаков может выделять контуры бровей и губ. Затем следующая карта объединяет их в отдельные части лица, а последняя — собирает всё в целостный образ «человек с улыбкой». Именно по таким картам система понимает, что перед ней не просто набор пикселей, а знакомый объект.
Итог: карты признаков — это промежуточный «язык» нейросети. Они дают нам возможность заглянуть в её «мысли» и объяснить, почему модель приняла то или иное решение. Это ключ к интерпретируемости искусственного интеллекта и его улучшению.
Поделиться