VicOne выпустила бесплатное расширение для NVIDIA Isaac Sim на основе DEF CON 34

Генеральный директор VicOne Макс Ченг подчеркнул, что валидация кибербезопасности должна стать стандартной частью разработки робототехники. По его словам, компании переходят от демонстрации отдельных сценариев к массовому внедрению роботов в реальных условиях, поэтому необходимо проверять надежность систем не только при штатной работе, но и при компрометации цифровых компонентов.

Расширение основано на исследованиях, представленных на конференции DEF CON 34 в рамках Robotic Hacking Community. Там VicOne провела соревнование Physical AI Safety Stress Test CTF, в ходе которого исследователи безопасности пытались изменить поведение роботов через уязвимости в ИИ-моделях, восприятии, облачных и API-сервисах, коммуникациях и встроенных системах. В соревновании участвовали 16 команд, они решили 25 задач; лишь одна сложная задача, связанная с криптографией и прошивкой, осталась нерешенной.

Теперь полученные данные превращены в повторяемые сценарии для NVIDIA Isaac Sim. Разработчики могут загрузить собственную модель робота, задать целевую задачу и проверить, сохраняет ли Vision-Language Model устойчивость к враждебным визуальным подсказкам, вредоносным вводам и попыткам манипуляции датчиками. Тесты можно повторять по мере изменения программного обеспечения, сенсоров, моделей ИИ и коммуникаций.

VicOne отмечает, что это лишь отправная точка: расширение помогает командам инженеров и безопасности обсуждать риски через видимые последствия для поведения робота, а не абстрактные уязвимости кода. Для более масштабных оценок компания предлагает платформу VicOne Radeis, предназначенную для предэксплуатационной валидации кибербезопасности.