OPRO

OPRO (Optimization by PROmpting) — метод, где языковая модель выступает оптимизатором. Вместо математических алгоритмов она получает словесное описание задачи и предыдущие попытки с оценками, затем предлагает улучшенный вариант. Термин введён DeepMind в 2023 году.

Значимость OPRO — автоматизация поиска решений для плохо формализуемых задач. Например, подбор промпта для нейросети: качество ответа зависит от формулировки. Раньше такие промпты подбирали вручную. Теперь OPRO автоматизирует это и открывает путь к LLM как универсальным оптимизаторам в биологии, физике, экономике.

Принцип напоминает работу учёного: пробует решения, записывает результаты, анализирует, выдвигает гипотезы. Модель получает описание целевой функции и пары «решение — оценка», затем рассуждает на естественном языке, без градиентов, используя знания о мире.

Пример: компания анализирует отзывы клиентов нейросетью. Качество зависит от промпта. Человек задаёт цель, например точность 90%, запускает цикл. OPRO генерирует десятки вариантов, проверяет их, получает оценки и на этой основе уточняет формулировки. Итоговый промпт часто лучше первоначальных человеческих.

Таким образом, OPRO показывает, как языковые модели становятся инструментом творческого поиска, учась на примерах. Это не отменяет классическую оптимизацию, но добавляет гибкие методы для областей, где знание выражено словами.