Cite-then-explain

Cite-then-explain — это принцип нейросети: сначала указать источник, затем дать ответ. Вместо догадок модель опирается на цитату из документа, статьи или базы знаний. Этот подход противоположен привычному чат-боту, который выдает текст без ссылок. Главное — цитата должна быть явной и проверяемой.

Почему это важно? Языковые модели склонны уверенно выдумывать факты. Когда требуют ссылку, выдумка невозможна: нет источника — модель отвечает «не знаю». Это критично в медицине, юриспруденции и образовании, где ошибка дорого стоит. Пользователь может сам открыть источник и убедиться в правдивости.

Как работает интуиция? Представьте студента, который цитирует учебник, а затем объясняет его словами. ИИ делает то же самое: находит релевантный документ, выделяет цитату, интерпретирует ее. Если источники противоречат друг другу, модель сообщает об этом, а не прячет конфликт.

Пример: клиент спрашивает банковского ассистента о ставке. Тот показывает выдержку из договора: «ставка фиксируется в день подписания», затем поясняет, что это значит. Врач видит ссылку на официальную инструкцию к препарату и проверяет дозировку. Прозрачность снижает риск ошибок и повышает доверие.

Итог: cite-then-explain делает ИИ честным советником, которого можно проверить. Он не заменяет эксперта, но делает ответы понятными и ответственными. Крупные компании уже внедряют этот принцип в свои сервисы.