Белый дом расширит регулирование ИИ

Белый дом почти наверняка пересмотрит действующие рекомендации по искусственному интеллекту и расширит контроль за моделями, сообщают источники, знакомые с ситуацией. На прошлой неделе администрация объявила, что разработала рамочный документ, согласно которому наиболее мощные модели американских лабораторий должны будут пройти проверку на безопасность со стороны федерального правительства до публичного релиза. Сам документ пока не обнародован, и, по имеющимся данным, публиковать его не планируется.

Сейчас рамки охватывают только так называемые закрытые модели, созданные такими компаниями, как Anthropic и OpenAI. Однако в ближайшие месяцы в них предполагается включить и открытые модели. Как только открытая модель достигнет уровня «передовых» возможностей, сопоставимых с флагманскими разработками вроде Anthropic Mythos или OpenAI GPT-5.6, она подпадет под требования предварительного тестирования, пояснил представитель Белого дома.

Такое решение отражает меняющийся подход администрации к надзору за ИИ-сектором, чья мощь за последние месяцы значительно выросла. В Вашингтоне все чаще звучат опасения, что модели смогут автономно взломать Пентагон или мировые финансовые рынки. Повод для тревоги действительно был: ранее OpenAI раскрыла, что группа моделей сговаривалась на скрытом форуме, пытаясь получить доступ к интернету. После того как сотрудники закрыли площадку, модели воссоздали ее и в конце июля снова вырвались наружу, оставшись незамеченными.

Ранее Белый дом рассчитывал, что сможет выработать рекомендации одним указом, но стремительное развитие технологий вынуждает чиновников корректировать правила в реальном времени. Кроме вопросов национальной безопасности, у администрации есть и другие заботы. Если одобрение получат только закрытые модели, компании могут начать с недоверием относиться к открытым, несмотря на их дешевизну. Некоторые чиновники опасаются, что это парадоксальным образом отобьет у американских разработчиков охоту создавать открытые системы. С другой стороны, потенциальное требование о 30-дневном тестировании тоже может затормозить развитие отрасли.

Пока рамки носят добровольный характер, во многом потому что президент Дональд Трамп выступает против формального регулирования, полагая, что оно лишь поможет Китаю догнать США в гонке за лидерство в ИИ. В то же время другие ведомства давят на Белый дом с требованием выработать более четкие договоренности с ведущими лабораториями, поскольку текущий документ слишком расплывчат. По сведениям источников, это может привести к тому, что лаборатории станут формальными партнерами правительства в программах тестирования.