Самые опасные хакерские приёмы ИИ по-прежнему требуют участия человека

В полностью автономном режиме ИИ пока демонстрирует минимальные способности к поиску принципиально новых путей атак. Однако, как выяснил Кеттл, в ключевые моменты, когда в процесс включается человек с его знаниями и интуицией, ИИ становится чрезвычайно мощным партнёром. Совместная работа позволила обнаружить совершенно новую категорию потенциальных уязвимостей, которую назвали Shared-Parser Confusion. Речь идёт о веб-серверах, использующих общий код для обработки как запросов, так и ответов. Это критично, ведь запросы к сайту полностью недоверенны, а ответы считаются надёжными, что открывает огромную поверхность для атак.

Эксперименты начались в сентябре 2025 года с использованием моделей Anthropic и OpenAI. Первое время системы пытались выдавать уже существующие исследования за новые, поэтому Кеттл сузил тесты до собственной области экспертизы — так он мог полностью контролировать материал и не дать ИИ себя обмануть. Со временем, передав моделям свою методологию и уточнив параметры, исследователь обнаружил, что они начинают выдавать результаты с пугающей скоростью, находя новые зацепки каждые пару дней без его участия. За несколько месяцев система нашла больше подтверждённых примеров уязвимостей, чем он смог бы найти за несколько лет.

Открытие Shared-Parser Confusion стало возможным именно благодаря коллаборации: ИИ проанализировал реальные находки и выдвинул гипотезу, а Кеттл её проверил и подтвердил. По его словам, он ни за что не заметил бы эту закономерность сам, ИИ в одиночку тоже не справился бы. Этот пример показывает, где интеллектуальные системы приносят наибольшую пользу в кибербезопасности сегодня — как для защиты, так и для наступательных операций, и почему человек остаётся в цикле принятия решений.