Retrieval-augmented generation

RAG (retrieval-augmented generation) — подход в ИИ, при котором языковая модель сначала ищет нужную информацию во внешнем источнике, а затем отвечает на её основе. Вместо генерации по памяти модель получает свежий контекст — как студент с учебником на экзамене.

Обычные языковые модели обучены на данных, замороженных в момент обучения: они не знают свежих событий и не имеют доступа к внутренним базам компании. Кроме того, они могут «галлюцинировать» — выдавать уверенные, но вымышленные ответы. RAG решает обе проблемы: модель обращается к актуальным источникам и опирается на реальные факты, что критично в медицине, юриспруденции и клиентской поддержке.

Как это работает: получив вопрос, RAG превращает его в поисковый запрос, находит релевантные документы в базе или интернете, добавляет их в контекст и затем генерирует ответ, переформулируя найденные данные. Пример — чат-бот магазина на вопрос «Где мой заказ?» без RAG ответит общими словами, а с RAG найдёт статус в базе и скажет: «Заказ № 4521 передан в доставку, прибудет завтра до 18:00». Так же работают корпоративные ассистенты с внутренними документами и поисковики с краткими ответами.

Итог: RAG соединяет ограниченные знания модели с живым массивом информации. Он снижает галлюцинации, позволяет отвечать на свежие вопросы и обновлять знания без переобучения. Это практичный способ сделать ИИ-помощников надёжными и полезными.