Трампа могут обязать раскрыть секретные правила тестирования ИИ

В США некоммерческая организация Protect Democracy подала иск против четырех федеральных агентств, добиваясь раскрытия секретной системы правил, которую администрация Трампа использует для проверки безопасности передовых моделей ИИ перед их выпуском. Речь идет о так называемых фронтирных моделях — самых новых и мощных системах, которые способны нести серьезные риски для национальной безопасности и общества в целом. В пресс-релизе, опубликованном в среду, истцы заявили, что «почти никаких деталей» этого процесса не было доведено ни до общественности, ни до Конгресса. Государственная процедура рецензирования остается непрозрачной даже для специалистов, а в качестве ее участников фигурируют лишь некие «доверенные партнеры» без конкретных имен. Неизвестно, какие компании и организации помогали создавать эту нормативную структуру, каковы критерии их отбора и на каких правовых основаниях чиновники осуществляют надзор.

«Ни названия этих структур, ни критерии их отбора так и не были преданы гласности», — подчеркнули в Protect Democracy. Иск затрагивает четыре федеральных ведомства, но какие именно — в заявлении не уточняется. Истцы настаивают, что без доступа к этим документам невозможно оценить, насколько эффективно правительство защищает граждан от потенциальных угроз, связанных с новыми поколениями алгоритмов. По сути, это попытка добиться от властей прозрачности в сфере, которая напрямую касается будущего развития искусственного интеллекта. Вопрос о том, насколько безопасны самые мощные модели, создаваемые в лабораториях США, остается открытым.