Потоки новостей об искусственном интеллекте обновляются так быстро, что даже специалисты по кибербезопасности с трудом успевают отделять реальные угрозы от пустых опасений. Однако свежий отчет от исследовательской группы компании Anthropic заставил экспертное сообщество насторожиться: речь идет о создании так называемого «ИИ-червя».

Как работает новая угроза

В отличие от фантастических сценариев о восстании машин, этот проект — сугубо технический. Внутренняя команда тестировщиков Anthropic (так называемая «красная команда») разработала вредоносный код, который может самостоятельно перемещаться между устройствами, подключенными к интернету. В качестве полигона для испытаний они выбрали «умные» телевизоры.

Главная проблема современных нейросетей — их «прожорливость»: для работы им нужны мощные серверы. Но исследователи нашли способ обойти это ограничение. Их программа оказалась способна «дробить» себя на части: вредоносный код распределился сразу между 15 телевизорами, используя понемногу вычислительных мощностей каждого из них. В итоге система сохранила работоспособность, не перегружая отдельное устройство.

Почему это опасно

Хотя эксперимент проводился в контролируемых условиях, выводы исследователей тревожные. Для полноценной работы «ИИ-червей» требуется сочетание двух факторов: достаточно высокого уровня автономности программы и возможности запускать её на менее мощном «железе».

По текущим прогнозам команды Anthropic, развитие технологий идет такими темпами, что подобные вредоносные программы могут стать вполне реальной угрозой уже к концу 2026 года. Это меняет ландшафт кибербезопасности: если раньше мы защищались от вирусов, написанных людьми, то теперь придется учитывать возможность атак со стороны автономных алгоритмов, которые способны находить слабые места в сети без прямого участия человека.

На данный момент отчет Anthropic служит скорее предупреждением о том, что нужно учитывать при проектировании систем безопасности будущего, пока угроза не переросла из лабораторного эксперимента в реальную проблему для пользователей бытовой техники.