Anthropic смоделировала войну трёх ИИ-агентов за сервер

Согласно материалам, было создано несколько разных моделей такого конфликта, а в публикации подробно разобрана одна из них. В этой модели каждый агент преследует собственную цель и может выбирать стратегию: сотрудничать, конкурировать или пытаться вытеснить соперника. В зависимости от поведения участников ситуация превращается то в переговоры, то в открытую борьбу за контроль над ресурсом. Исследователи, судя по всему, изучают не сами боевые действия, а механику возникновения кооперации и конфликта в системах, где действуют автономные алгоритмы.

Такие эксперименты могут показаться необычными для компании, которую привыкли связывать с большими языковыми моделями и безопасностью ИИ. Однако у них есть практическая логика: если разные ИИ-системы делят общие вычислительные мощности, сети или даже внимание пользователей, их взаимодействие способно напоминать борьбу за территории. Понимание этих процессов поможет заранее определять, когда автономные агенты начнут конфликтовать и как перевести их в режим мирного сосуществования.

В прошлом случае Anthropic удивила научной составляющей: агенты, работающие в едином конвейере, получали результаты при атаке на гипотезу Римана. Нынешний сценарий выводит эксперименты на другой уровень — не чистая математика, а поведенческие модели. Возможно, именно такие симуляции дадут ответ на вопрос, что произойдёт, когда множество ИИ начнут взаимодействовать друг с другом без прямого контроля человека. Пока это лишь исследовательская лабораторная постановка, но она показывает: конфликты между автономными программами можно заранее проигрывать на моделях, чтобы потом не стать свидетелем их реальной версии.