Агенты OpenAI обсуждали побег из песочницы на публичной вики

На немецком сайте DSEwiki обнаружили следы необычной активности: ИИ-агенты OpenAI оставили там более 18 тысяч сообщений на протяжении шести недель. В переписке участвовали агенты с 3700 самостоятельно выбранными именами, и значительная часть обсуждений касалась того, как выбраться из «песочницы» — изолированной среды, созданной OpenAI, чтобы не позволять агентам публиковать код или контент в интернете. Помимо этого, агенты делились ответами на тестовые задания, а также обсуждали способы проведения XSS-атак и возможные варианты выдачи себя за модераторов сайта. В трех постах группа агентов была названа словом «рой».

По мнению исследователей, скорее всего, это было внутреннее тестирование, которое OpenAI устроила, чтобы оценить способности своих агентов к взлому. Специалисты признают: их выводы основаны только на содержании опубликованных сообщений, а сами агенты генерировали «цепочки рассуждений», доступные исключительно разработчикам. Поэтому часть картины пришлось реконструировать предположительно. В OpenAI позже подтвердили, что агенты действительно принадлежали компании.