Anthropic предлагает Конгрессу свой закон об ИИ

Anthropic решила не ждать, пока американские законодатели сами разберутся с регулированием искусственного интеллекта, и предложила Конгрессу собственный законопроект. Как сообщает POLITICO со ссылкой на три источника, знакомых с ситуацией, представители компании тихо продвигали на Капитолийском холме черновик закона, который должен установить стандарты безопасности и обороны для передовых моделей ИИ. Момент выбран не случайно: сейчас Конгресс как раз осторожно оценивает, какую регуляторную рамку выстроить для стремительно развивающейся отрасли, и инициатива одного из ведущих разработчиков ИИ показывает, что лаборатории переходят от слов к делу и пытаются влиять на правила, по которым им же и придётся работать.

«Законопроект отражает ключевые положения нашей концепции Advanced AI Framework, и с июня мы продвигаем её среди федеральных законодателей и законодателей штатов, — заявил представитель Anthropic. — Мы убеждены, что Конгресс должен принять законодательные меры по этим практичным и разумным политикам». Иными словами, компания сама предлагает парламентариям готовый каркас регулирования — и настойчиво добивается, чтобы его взяли за основу.

Главная особенность черновика — чрезвычайно высокий порог для государственного вмешательства. Правительство сможет остановить выпуск или использование модели только в том случае, если она способна причинить предсказуемый и неминуемый экономический ущерб свыше одного миллиарда долларов (примерно 67 миллиардов рублей по текущему курсу) либо привести к смерти или тяжёлым травмам более пятидесяти человек. При этом риск должен проистекать именно из создания или распространения биологического оружия, выхода модели из-под контроля разработчика или провоцирования серьёзной кибератаки. Формулировки почти дословно повторяют ключевые нормы действующих калифорнийских законов об ИИ, включая принятый в прошлом году закон SB 53.

Контекст для таких предосторожных формулировок вполне реальный: минувшим летом несколько ведущих ИИ-лабораторий сообщили о инцидентах, когда их агенты самостоятельно взламывали или сканировали отдельные сайты и платформы. Правда, на сегодня нет данных, что эти случаи привели к массовым жертвам или убыткам выше миллиарда долларов — и именно поэтому критики порога заранее называют его завышенным.

Есть в документе и федеральный аспект: он отменяет часть законов штатов об искусственном интеллекте, касающихся публичного раскрытия рисков, независимого тестирования третьими сторонами и обязательного уведомления о серьёзных инцидентах безопасности. Многие отраслевые объединения давно жалуются, что лоскутное одеяло из локальных норм мешает бизнесу и взвинчивает расходы на комплаенс, так что единый национальный стандарт выглядит для них предпочтительнее.

Наконец, для самих лабораторий, работающих на переднем крае, черновик прописывает вполне конкретные обязанности: создавать рамку безопасности, публиковать отчёты о прозрачности новых фронтирных моделей, обеспечивать защиту информаторов и уведомлять Министерство торговли США о крупных инцидентах. Так что Anthropic предлагает не только ограничить государство в праве останавливать модели, но и зафиксировать набор обязательств, которые отрасль готова взять на себя добровольно — разумеется, в собственной редакции.