Anthropic предупреждает о риске самореплицирующегося ИИ

Anthropic, одна из ведущих компаний в области искусственного интеллекта, выступила с предупреждением: дальнейшее развитие компактных ИИ-моделей может в скором времени открыть новую эру самореплицирующегося вредоносного ПО. Такой софт, по мнению специалистов, окажется способен заражать «умные» холодильники, роботы-пылесосы и широкий спектр других устройств интернета вещей, а бороться с ним будет значительно сложнее, чем с обычными вирусами.

Как отмечают в компании, уже к следующему году небольшие ИИ-модели могут научиться автономно размножаться на всевозможных устройствах интернета вещей. В перспективе эта способность способна породить компьютерных червей — программ, которые распространяются без участия человека и умеют заражать незнакомые им устройства. Недавний эксперимент, проведённый Anthropic, показал, что создание такого ИИ-репликатора сопряжено с серьёзными трудностями, поэтому выводы компании носят сдержанный характер. И всё же полученные результаты вызывают тревогу: они говорят о вероятности появления новых форм компьютерных червей.

Особую озабоченность вызывает то, что такой вредоносный софт будет крайне непросто остановить. В своём блоге Anthropic поясняет: репликатор подобного рода будет трудно отключить, поскольку у него нет централизованной точки, которую можно было бы вырубить. При этом распространяться он может медленно — с удвоением популяции за дни. Однако, в отличие от традиционного вредоносного ПО, такой червь способен самостоятельно разбираться в незнакомых устройствах.

Иными словами, если обычные вирусы действуют по заранее прописанным сценариям и часто спотыкаются о нестандартную конфигурацию или незнакомую модель гаджета, то ИИ-червь теоретически может подстраиваться под новую среду на ходу. Именно это сочетание — автономность, способность к самокопированию и отсутствие единого центра управления — делает гипотетическую угрозу столь необычной.

Стоит подчеркнуть, что речь пока идёт о лабораторных результатах, а не о готовом инструменте, который уже гуляет по сети. Anthropic прямо признаёт, что до практической реализации такой схемы ещё далеко и на пути стоит немало технических барьеров. Тем не менее компания сочла нужным рассказать о своих наблюдениях публично, чтобы привлечь внимание к проблеме на ранней стадии.

Контекст немаловажен: интернет вещей давно считается одной из самых уязвимых частей цифрового мира. Миллионы «умных» устройств — от чайников и лампочек до дверных замков и систем видеонаблюдения — работают на упрощённом программном обеспечении, редко получают обновления и зачастую защищены слабыми паролями. Именно поэтому исследователи уже не первый год предупреждают, что ботнеты из таких гаджетов способны устраивать масштабные атаки. Появление ИИ-червя, умеющего самостоятельно находить подход к незнакомой технике, способно превратить эту теоретическую уязвимость в куда более серьёзную практическую угрозу.

Пока неясно, как скоро подобные сценарии станут реальностью и станут ли вообще. Однако сам факт, что крупная ИИ-компания публично говорит о рисках самореплицирующегося вредоносного ПО, показывает: гонка возможностей искусственного интеллекта всё теснее переплетается с вопросами кибербезопасности. И чем компактнее и доступнее становятся модели, тем внимательнее стоит следить за тем, в чьи руки они попадают.