Главное

  • Модели среднего размера уже выполняют многие отдельные задачи, необходимые для самостоятельного распространения.
  • Исследователи запустили ИИ-модель на 15 недорогих Android-приставках. Каждое устройство стоило $55.
  • Полный цикл заражения проверяли на восьми виртуальных устройствах. Управляющая модель при этом находилась на отдельном сервере.

Как проходил эксперимент

Исследование касалось моделей размером до 30 млрд рабочих параметров. Они уже справляются со многими этапами переноса программ на другие устройства.

Андрей Кузнецов, директор по машинному обучению Positive Technologies, уточнил цель работы. Исследователи проверяли, сможет ли небольшая открытая модель действовать без человека.

Для этого ей нужно перенести себя на взломанное устройство, запуститься и продолжить распространение. В реальном оборудовании использовались безымянные Android-приставки для телевизоров.

Исследователи купили 15 таких устройств по $55. Вместе приставки смогли запустить ИИ-модель.

Полный цикл заражения проверяли на восьми виртуальных Android-устройствах. Они работали в изолированной облачной сети.

Модель во время опыта не копировала саму себя. Управляющая система оставалась на отдельном сервере. На каждом захваченном устройстве она разворачивала другую небольшую нейросеть.

Среди открытых моделей с задачей справилась только GLM-5.2. Прогноз Anthropic основан на дальнейшем росте возможностей небольших моделей. Достигнув уровня GLM-5.2, они смогут развертывать уже собственные копии.

Чем такая модель отличается от компьютерного червя

Потенциальная опасность связана с использованием мощностей взломанных устройств. Модель сможет создавать на них свои копии и формировать распределенную сеть.

Кузнецов сравнил этот сценарий с обычными компьютерными червями. Их авторы заранее выбирают уязвимости и системы для заражения. После установки исправлений такое распространение может остановиться.

Самораспространяющаяся модель получает цель и изучает найденную систему. Она может менять действия под конкретное устройство. Новым копиям модель способна передавать сведения об успешных действиях.

«Единой точки, которую можно выключить, у такой сети нет», сказал Кузнецов.

Ранее, в 2017 году, распространение червя WannaCry остановили регистрацией домена. Программа обращалась к этому адресу во время своей работы.

Что ограничивает распространение

Эксперты назвали массовое самостоятельное распространение малореалистичным при нынешних условиях. Дмитрий Демидов, руководитель Лаборатории инноваций НОРБИТ, указал на требования крупных моделей.

Им нужны значительные объемы оперативной памяти и много энергии. При массовом взломе инфраструктуры такое потребление ресурсов станет заметным.

Современные ИИ-агенты уже могут долго действовать самостоятельно. Это системы, которые планируют шаги и выполняют их. Работу агентов поддерживают специальные среды и управляющие программы.

Такая программа контролирует множество агентов и распределяет между ними задачи.

Александр Кугаевских, доцент Университета ИТМО, перечислил смартфоны, телевизоры, компьютеры и игровые приставки. Между такими устройствами трудно обеспечить быстрый обмен информацией.

Постоянное создание новых копий также ухудшает работу всей системы. «Способность к нормальному автономному функционированию резко снижается», отметил Кугаевских.

Подробности: Российская газета