Dense retrieval
Зачем это важно: традиционный поиск (sparse retrieval) опирается на точное совпадение терминов, поэтому синонимы и перефразировки теряются. Плотный поиск сравнивает запрос и документ через семантические векторы, что позволяет находить информацию по смыслу. На нём строятся современные корпоративные поисковики, чат-боты с базами знаний и рекомендательные системы.
Как это работает: модель-энкодер преобразует текст в точку многомерного пространства. При обучении близкие по значению тексты оказываются рядом. Например, запрос «как испечь хлеб» и статья «рецепт домашней булки» получат почти совпадающие координаты, хотя слова разные. Поиск превращается в геометрическую задачу: найти точки на минимальном расстоянии от вектора запроса.
Прикладной пример: в службе поддержки клиент пишет «глючит приложение при оплате», а система находит в архиве жалобы, где говорилось о «не работает платеж» или «ошибка при транзакции». Формулировки разные, но векторы близки, поэтому оператор получает готовые решения за секунды.
Краткий вывод: плотный поиск — это фундамент семантического поиска. Он позволяет машинам работать со смыслом, а не с буквальным совпадением слов, делая взаимодействие с информацией естественным и быстрым.
Поделиться