Anthropic впервые пустила независимых аудиторов к своему оборудованию

Команда METR теперь работает прямо в офисе создателя чат-бота Claude — у неё есть доступ к вычислительным мощностям и внутренним системам Anthropic. Организация уже сотрудничала с ведущими лабораториями, включая OpenAI, Google и Meta, но именно сейчас такой доступ стал заметно глубже: аудиторы могут не просто изучать документацию и общаться с разработчиками, а фактически наблюдать за тем, как устроены модели изнутри.

Расширение роли сторонних оценщиков — один из главных конкретных шагов, которые лаборатории предложили в ответ на растущую тревогу о том, какой ущерб более способные ИИ-системы могут нанести экономике, кибербезопасности и человечеству в целом. Пока такие инициативы остаются добровольными: единых обязательных международных норм для оценки опасных возможностей моделей не существует, и каждая компания выстраивает процедуры по-своему.

Для Anthropic это ещё и репутационный ход. Компания позиционирует себя как разработчика, который ставит безопасность выше скорости выпуска продуктов, и допуск независимых экспертов должен подтвердить серьёзность этих заявлений. Скептики, впрочем, отмечают, что «доступ, как у сотрудника» — формулировка растяжимая: она не обязательно означает право публиковать неудобные выводы или проверять всё, что хочется. Кроме того, аудиторы работают в интересах и на условиях компании, а значит, полностью независимыми их назвать нельзя.

Тем не менее сам прецедент важен. Если крупнейшие лаборатории начнут регулярно пускать внешних экспертов к своим системам, у регуляторов появится хоть какая-то фактическая база для оценки рисков, а у общества — возможность узнавать о проблемах раньше, чем они проявятся в реальных продуктах. Пока же главный вопрос в том, насколько глубоко аудиторы смогут копать и будут ли их отчёты публичными. От ответа на него зависит, станет ли этот шаг реальным сдвигом в культуре разработки ИИ или останется красивым жестом.