В Делавэре хотят разрешить компаниям управлять ИИ-агентами

В американском штате Делавэр всерьёз взялись за то, что ещё недавно казалось сюжетом фантастики: там планируют разрешить регистрировать и вести бизнес компаниям, которыми управляют не люди, а ИИ-агенты. Местные власти предлагают смягчить регулирование и создать особый правовой режим для так называемых искусственных интеллектуальных корпораций. Идея уже вызвала недовольство в Вашингтоне: председатель комитета по надзору Палаты представителей Конгресса США Джеймс Комер направил письмо губернатору Делавэра Мэтту Мейеру, в котором выразил обеспокоенность возможными рисками.

По данным Financial Times, республиканец Комер прямо предупредил, что предложенная схема может стать щитом для крупных игроков рынка ИИ и их инвесторов. По его мнению, новая форма организации способна оградить их от ответственности за необдуманные и опасные действия. «Мы обеспокоены тем, что предложенные Делавэром ИИ-корпорации могут использоваться для защиты влиятельных ИИ-компаний и инвесторов от ответственности за безрассудные действия, причиняющие вред», — говорится в письме законодателя. Сам Комер возглавляет влиятельный комитет, так что его позиция — это не просто частное мнение, а сигнал о том, что инициативу штата будут внимательно изучать на федеральном уровне.

При этом в самом Делавэре закладывают довольно осторожную конструкцию. Проект предусматривает 30-месячную «регуляторную песочницу»: всё это время ИИ-компании будут работать в контролируемой среде, а бизнес-решения за них будут принимать интеллектуальные агенты. Важная деталь — такие организации не выводятся из-под закона. Как и обычные компании, они смогут становиться ответчиками в суде, а при необходимости и сами подавать иски. Иными словами, авторы идеи пытаются совместить экспериментальный статус с понятной юридической ответственностью.

Смысл затеи в том, чтобы создать правовую основу для совершенно нового типа корпоративной структуры — предприятий, которые autonomно ведут коммерческую деятельность без постоянного участия человека. Многие эксперты и чиновники опасаются, что если американские штаты не поторопятся, подобные компании сначала появятся за рубежом, и США упустят возможность задать правила игры. Делавэр, традиционно считающийся «корпоративной столицей» Америки, где зарегистрированы тысячи компаний, явно не хочет отдавать эту нишу конкурентам.

Профессор права Калифорнийского университета Эндрю Бейкер оценивает инициативу как попытку найти компромисс. По его мнению, законодательство Делавэра призвано дать компаниям, созданным ИИ-агентами, юридическую определённость — но не carte blanche. Впрочем, вопросов остаётся много: кто отвечает за ошибку алгоритма, как оценивать «намерения» агента, что делать с ущербом, причинённым решением, которое приняла машина без человека. Пока в Делавэре предлагают отвечать на это через суды и тестовый режим, в Конгрессе уже дают понять, что готовы вмешаться. Так что ближайшие месяцы покажут, станет ли Делавэр первопроходцем в юридическом оформлении бизнеса, которым управляет искусственный интеллект, или же осторожность федеральных законодателей возьмёт верх.