ИИ-модель OpenAI нашла сотни уязвимостей в ядре Linux за 1,2 млн долларов
Сама система построена как конвейер из нескольких ИИ-агентов и охватывает пять этапов: поиск проблемных участков кода, динамическую проверку, оценку возможности эксплуатации, генерацию патчей и ручную ревизию. На первом шаге один агент отбирает код, представляющий интерес для аудита безопасности, а второй его анализирует. Всего в поле зрения попало 5034 цели примерно на 2,8 миллиона строк — около 7% всего ядра Linux. За 12 часов работы аналитический агент выдал 2308 уникальных кандидатов, потратив на вызовы API 316,5 тысячи долларов. Затем кандидатов помещают в изолированные виртуальные машины, где генерируются минимальные доказательства концепции и проверяется, воспроизводится ли проблема на практике. Этот этап занял 30 часов и дал 74,7% подтверждений. Оставшиеся случаи, по объяснению OpenAI, в основном упираются в требования по правам доступа, сложные состояния гонки или специфические условия срабатывания, и лишь 3,1% оказались ошибками самой модели, предположившей невозможный сценарий.
На стадии эксплуатации система отбирала то, что ведёт к утечке информации или повышению привилегий, и проверяла находки в среде с включёнными штатными механизмами защиты вроде SMEP, SMAP, KASLR и HARDENED_USERCOPY. В итоге появились 291 доказательство концепции для утечек и 1169 эксплойтов для локального повышения прав, а после анализа вариаций и доработки патчей в финальную статистику вошли 948 различных уязвимостей. Общий счёт за API составил 1,21 миллиона долларов, то есть около 1279 долларов на каждый эксплойт, причём дороже всего обошлась именно разработка средств эксплуатации — 775,9 тысячи долларов. В OpenAI оговариваются, что это не минимально возможная цена, а отражение конкретной конфигурации и рабочего процесса, и за счёт улучшения оркестрации агентов затраты ещё можно снизить.
Отдельного внимания заслуживает вопрос новизны. Изучив выборочно 166 эксплойтов, исследователи насчитали как минимум десять ранее не встречавшихся техник эксплуатации ядра Linux. Полные детали компания не раскрывает из соображений безопасности, но утверждает, что независимые эксперты по эксплойтам ядра подтвердили их новизну. Генерация патчей тоже оказалась не простой формальностью: первые версии исправлений закрывали конкретный сценарий, но страдали избыточностью кода, потенциальным влиянием на производительность, отклонениями от стиля проекта и не покрывали родственные варианты уязвимости. После ужесточения ограничений и нескольких итераций качество выросло, а часть предложенных патчей помогла вскрыть слабые места в исправлениях, написанных людьми.
Сейчас OpenAI действует по правилам сообщества ядра Linux: в первую очередь отправляет отчёты и патчи по наиболее серьёзным проблемам, а остальное планирует передавать постепенно через партнёрскую программу Patch the Planet. За десять дней сканирования и последующего ручного разбора 61 уязвимость повышения привилегий уже исправлена в upstream, ещё 43 получили подготовленные патчи, а 299 находятся в открытом обсуждении или на стадии отчёта. Дополнительно систему прогнали в усиленной среде, которую использует программа вознаграждений Google kernelCTF: там удалось получить 25 доказательств концепции для утечек и 21 эксплойт для повышения прав, потратив 112 часов и около 33 тысяч долларов на API. Если все 21 находка пройдут проверку программы, теоретически они могли бы принести порядка 1,5 миллиона долларов вознаграждений.
В OpenAI подчёркивают, что по мере роста возможностей моделей кибербезопасности привычный процесс исследования уязвимостей, где многое держится на сложной оркестрации агентов и подсказках человека, вероятно, придётся пересматривать. В тестах GPT-5.5 Cyber и GPT-5.6 Cyber вторая модель оказалась более самостоятельной в распознавании и применении техник эксплуатации ядра, и даже после удаления дополнительного слоя технических инструкций она обходила более сложную схему работы первой. В компании предупреждают: в ближайшие годы передовые модели могут научиться находить уязвимости в сложном ПО и даже позволять менее capable моделям использовать уже публично раскрытые дыры. Отсюда практические выводы для всех — мейнтейнерам стоит ускорять выпуск исправлений, пользователям и компаниям своевременно ставить обновления, а ставку в повышении безопасности имеет смысл делать на песочницы, изоляцию, сокращение лишней поверхности атаки и формальную верификацию. Нынешняя работа входит в инициативы Patch the Planet и Daybreak, и OpenAI обещает расширять аудит критичных программных проектов вместе с сообществом открытого кода и партнёрами по безопасности.
Источник: www.ithome.com
Поделиться