Critic agent

Зачем это нужно? Языковые модели часто уверенно выдают ошибки. Без критика система может генерировать непроверенные или вредные результаты. Отдельный «критик» имитирует человеческую самопроверку: один агент предлагает, второй сомневается и аргументирует. Это повышает надёжность, особенно в медицине или юриспруденции, где цена ошибки высока.

Как это работает? Представьте, что вы пишете рассказ. Первый черновик — это actor, генерирующий идеи. Затем вы читаете его свежим взглядом, как critic: проверяете логику, факты, стиль, удаляете лишнее. В ИИ роль критика может выполнять отдельная модель или тот же алгоритм с другой инструкцией — не придумывать, а критиковать. Критик получает исходный запрос и черновой ответ, выдаёт список проблем и предложения. Исполнитель вносит правки и делает вторую версию. Цикл повторяется, пока критик не одобрит результат или не будет достигнут лимит итераций.

Пример: генератор кода. Исполнитель пишет скрипт, критик проверяет синтаксис, уязвимости, корректность использования библиотек. Он может указать: «Здесь не обработан вход с пустой строкой, добавьте проверку». Исполнитель исправляет, критик перепроверяет. Итог — более надёжное решение, чем без обратной связи.

Ключевой вывод: critic agent превращает генерацию ИИ из одностороннего выплёскивания данных в циклический контроль качества. Это дешёвый способ сделать ИИ осторожнее и точнее, добавив к основной модели полезную пару глаз, не заменяя её.