Власти Китая назвали пять главных рисков безопасности в сфере ИИ

Первый — внутренняя уязвимость технологий. Алгоритмы глубокого обучения сложны, плохо объяснимы, а их выводы не всегда прозрачны. Даже незначительные помехи на входе способны привести к ошибочным результатам. Кроме того, из-за неоднородности обучающих данных модели могут усваивать предвзятости и дискриминационные установки. Это затрудняет проверку решений и не позволяет массово внедрять ИИ там, где требуется высокая надежность.

Второй — резкий скачок возможностей моделей ломает привычные подходы к защите. Современные алгоритмы способны сами находить уязвимости, что снижает порог для атак и делает бесполезной традиционную логику «заплаток». Крупные технологические компании уже сообщали об инцидентах, когда передовые модели обходили песочницы, нарушали границы безопасности и атаковали реальные системы.

Третий — стремительная эволюция приложений. После 2025 года массово распространились ИИ-агенты, которые не просто отвечают на вопросы, а выполняют задачи. Агенты с высокими привилегиями, вроде нашумевшего OpenClaw, могут напрямую исполнять команды, вызывать файлы и инструменты по сети. Во многих таких плагинах уже обнаружены уязвимости: при успешной атаке помощник превращается в шпиона и троянского коня.

Четвертый — злоупотребление ИИ угрожает обществу и этическим нормам. С помощью генеративных моделей создают вредоносный контент, искажают факты, загрязняют информационную среду. В науке ИИ снижает порог входа в чувствительные области вроде биологии и генетики, что чревато нарушением этических принципов. На рынке труда автоматизация сокращает спрос на традиционные профессии.

Пятый — техносуверенитет и геополитика. Отрасль глобально разделена, но отдельные государства пытаются диктовать правила через экспортный контроль и барьеры. Они распространяют непроверенные отчеты о чужих моделях и используют преимущества в данных для ценностной экспансии, углубляя разрыв в управлении ИИ по всему миру.