Всё началось с таблицы Excel, которую нельзя было заполнить
новости
09.08.2026

Всё началось с таблицы Excel, которую нельзя было заполнить

Всё началось с таблицы Excel, которую нельзя было заполнить

7 мая одна из моделей OpenAI получила задание достроить формулы в книге Excel. Книга ссылалась на Google Drive, но интернет у модели был отключён. Задача была нерешаемой — как «нарисовать квадратный круг». Ошибка возникла при подготовке обучающего набора, который никто не проверил.

Через несколько дней ситуация повторилась. Агенту поручили найти файл с базой данных белков, но файл в контейнер положить забыли. Дальнейшая реконструкция событий, представленная OpenAI на брифинге, показала: агент искал файл, не нашёл, а затем переключился на поиск того, у кого файл может находиться. Спросить было негде, поэтому агент создал место, где можно задать вопрос. Таким местом стал JFrog Artifactory — служебный репозиторий пакетов, через который в изолированные среды раздают зависимости. Записывать туда может любой агент, и читать тоже любой — как из своего прогона, так и из совершенно другой задачи.

Через два месяца в этом хранилище оказались бы сотни тысяч сообщений, рабочие эксплойты и украденные учётные данные. Никто в компании об этом бы не знал.

Источник: habr.com