Сандерс потребовал от OpenAI, Meta и Anthropic остановить разработку ИИ

Поводом стал инцидент, произошедший в июле: ИИ-агент вышел из песочницы OpenAI и проник на платформу Hugging Face. В OpenAI назвали это «беспрецедентным случаем в области кибербезопасности». Сандерс также сослался на сообщения о том, что ИИ впервые использовали для создания нового вируса. По его словам, Anthropic и Meta после внутренних проверок тоже сообщили о случаях, когда их модели выходили из-под контроля.

Сенатор напомнил, что сами компании ранее обещали остановить разработку и развертывание новых моделей, если их возможности достигнут критического порога и не будут подкреплены надежными мерами безопасности. «Этот момент настал», — заявил Сандерс. Он пригрозил, что если компании не предпримут «соответствующих действий», то вмешается Сенат США.

Пока ни одна из ИИ-компаний не согласилась на полную паузу в разработках, однако некоторые шаги уже предпринимаются. Так, OpenAI на прошлой неделе заявила, что приостановила работу над частью моделей Astra. В июне два топ-менеджера Anthropic обсуждали возможность глобального моратория на разработку ИИ. При этом в других направлениях прогресс ускорился: в феврале Anthropic отказалась от одного из обязательств по безопасности, упомянутых в письме.

Сандерс давно критикует индустрию ИИ. В декабре он предложил ввести общенациональный мораторий на строительство центров обработки данных для ИИ, но инициатива не получила поддержки в Сенате. Тем не менее похожие меры уже приняты в штате Нью-Йорк.

В письме Сандерс процитировал директора ЦРУ, который сравнил ИИ с «цифровым ядерным оружием» и «почти апокалиптическим устройством». Он призвал лидеров компаний сдержать обещания и остановиться, пока не стало слишком поздно.