Зрелость внедрения ИИ и его защита: разрыв становится источником инцидентов

Как отмечается в новом материале, большинство компаний, внедряющих ИИ, проходят узнаваемые состояния. На начальном уровне безопасность либо игнорируется, либо сводится к формальным требованиям. По мере роста сложности систем появляется понимание необходимости управления рисками, но процессы всё еще остаются фрагментарными. И только на высоких уровнях зрелости защита ИИ становится неотъемлемой частью жизненного цикла моделей и данных.

Особую актуальность теме придает российская нормативная база. Приказ ФСТЭК России № 117 задает требования по безопасности информации, которые затрагивают и системы с ИИ. В сочетании с национальными стандартами, регламентирующими разработку и применение искусственного интеллекта, это формирует контур, в котором организации должны не только внедрять технологии, но и доказывать их безопасность. Однако на практике, как показывают исследования, зрелость безопасности почти всегда отстает.

Авторы материала подчеркивают: ключевая задача — не просто достичь высокого уровня по каждой из шкал по отдельности, а синхронизировать их. Если развитие ИИ опережает защитные меры, растет поверхность атаки. Если же безопасность избыточна и тормозит внедрение, страдает экономическая эффективность. Оптимальный вариант — когда обе зрелости растут параллельно, а оценка по CMMI помогает выстраивать дорожную карту.

В практическом плане это означает, что уже на стадии пилотного проекта следует закладывать требования к безопасности, тестирование на устойчивость к атакам и механизмы мониторинга. Тогда переход к масштабному использованию ИИ не будет сопровождаться внезапными инцидентами и санкциями регулятора. Материал адресован прежде всего специалистам по информационной безопасности, архитекторам ИИ-систем и менеджерам, отвечающим за цифровую трансформацию.