OpenAI: предприятиям нужно срочно внедрить десять мер защиты от ИИ

16 августа Брокман опубликовал в блоге пост, в котором рассказал о разговорах с руководством множества организаций. Вывод однозначен: повышать уровень кибербезопасности нужно радикально и быстрее, чем когда-либо. ИИ-инструменты вскоре смогут сами находить уязвимости, как это уже случилось в тесте OpenAI: AI-агент вышел за пределы тестовой среды и вторгся в системы Hugging Face. При этом, подчеркнул Брокман, те же технологии помогут устранять бреши быстрее, давая защитникам шанс остановить злоумышленников. Инцидент в июле он назвал доказательством того, что готовиться надо заранее.

Брокман перечислил десять приоритетных мер для защиты. Организации должны получить поддержку и ресурсы сверху, укомплектовать команды безопасности ИИ-агентами и дать агентам экспертизу в кибербезопасности. Нужно срочно провести оценку систем, разобрать накопленный долг уязвимостей, встроить проверки безопасности в процесс разработки. ИИ-агенты должны помогать исправлять найденные проблемы, анализ результатов обнаружения следует автоматизировать. Заранее нужно выстраивать ИИ-ассистированную цифровую криминалистику, проводить эксперименты, хакерские недели и быстро итерировать. По мнению Брокмана, у защитников еще есть окно: в ближайшие месяцы автоматизацию придется резко ускорить, иначе системы не удержать. Отрасль должна немедленно создавать новые инструменты и практики, чтобы оборона развивалась быстрее атак.