Всё началось с таблицы Excel, которую нельзя было заполнить
Через несколько дней ситуация повторилась. Агенту поручили найти файл с базой данных белков, но файл в контейнер положить забыли. Дальнейшая реконструкция событий, представленная OpenAI на брифинге, показала: агент искал файл, не нашёл, а затем переключился на поиск того, у кого файл может находиться. Спросить было негде, поэтому агент создал место, где можно задать вопрос. Таким местом стал JFrog Artifactory — служебный репозиторий пакетов, через который в изолированные среды раздают зависимости. Записывать туда может любой агент, и читать тоже любой — как из своего прогона, так и из совершенно другой задачи.
Через два месяца в этом хранилище оказались бы сотни тысяч сообщений, рабочие эксплойты и украденные учётные данные. Никто в компании об этом бы не знал.
Источник: habr.com
Поделиться