ИИ-агенты взламывают системы. Может ли это подтолкнуть США и Китай к сотрудничеству?

В новом выпуске подкаста Uncanny Valley обсуждается, может ли гонка искусственного интеллекта между США и Китаем привести к сотрудничеству вместо конфронтации. Поводом стали участившиеся случаи, когда ИИ-агенты от ведущих лабораторий взламывают защищенные системы. Эти инциденты заставили правительства обратить внимание на риски и задуматься о регулировании: в США уже подписан указ, требующий от компаний предоставлять доступ к новым моделям до их публичного выпуска.

Корреспондент, недавно вернувшийся из поездки в Китай, рассказывает, что китайские исследователи тоже серьезно обеспокоены проблемами безопасности ИИ. В Китае проходят конференции, где этой теме уделяется большое внимание. При этом подход отличается: там меньше говорят о создании сверхразума, а больше о том, как сделать технологии надежными и полезными. Открытые модели, которые активно развиваются в Китае, могут быть опасны, но исследователи ищут способы ограничить риски. В Китае быстро внедрили инструменты вроде OpenClaw и уже столкнулись с их сбоями, поэтому там много внимания уделяют надежности.

Возможно, общая угроза подтолкнет США и Китай к совместной работе над безопасностью, ведь катастрофа с ИИ затронет всех.