Главное

  • Эксперимент провели на 15 недорогих Android TV-приставках с 4 ГБ оперативной памяти у каждой.
  • Модель GLM-5.2 прошла полный цикл распространения на восьми устройствах в четырех из пяти запусков.
  • Доля успешных попыток Qwen3.5-9B выросла с 45% до 84% после передачи опыта между поколениями моделей.

Как проходил тест

Исследователи Anthropic Уильям Чжоу и Дэниел Фримен проверяли, смогут ли небольшие ИИ-модели распространяться по бытовой технике. Такая модель переносит собственные параметры и сама подбирает способ работы на незнакомом устройстве.

Цикл состоял из четырех этапов: поиск устройств в сети, получение доступа, установка программ для запуска ИИ и дальнейшее распространение. Этап взлома намеренно исключили. Более ранние исследования уже показали, что небольшие модели могут использовать уязвимости.

Главным вопросом стала настройка работающей ИИ-среды на устройстве, которое модель раньше не видела. Для проверки использовали 15 приставок с операционной системой Android TV. Объем оперативной памяти каждой составлял 4 ГБ.

Какие результаты получили модели

GLM-5.2 завершила всю цепочку на восьми тестовых узлах в четырех из пяти запусков. Более слабая модель с 9 млрд параметров развернула модель Llama3.1-8B на восьми из девяти типов устройств, но не смогла пройти весь цикл.

Исследователи также проверили, могут ли такие системы передавать опыт потомкам. В эксперименте с искусственным отбором каждая модель оставляла следующему поколению заметки об удачных и неудачных стратегиях.

У Qwen3.5-9B доля успешных попыток выросла с 45% в первом поколении до 84% в следующих. Это наблюдение исследователи связали со способностью ИИ-червей учиться во время распространения.

Возможный масштаб и защита

Глава Anthropic Дарио Амодей оценил срок появления роя таких программ в 6-12 месяцев. «Рой таких репликаторов может быть готов через 6–12 месяцев», заявил он.

По его оценке, сеть способна захватить интернет с помощью децентрализованного ботнета. Ботнетом называют сеть зараженных устройств, которая работает без единого центра управления.

В отличие от традиционных ботнетов вроде Kimwolf, поражавших отдельные типы техники, ИИ-ботнет сможет работать на разных устройствах. При масштабе Kimwolf, заразившего более 2 млн устройств, вычислительная мощность такой сети будет сопоставима с 40 специализированными ИИ-чипами.

У подобной сети, по оценке Амодея, не будет единого аварийного выключателя. Защита потребует совместных действий интернет-провайдеров и производителей устройств.

Провайдеры смогут изолировать зараженные сети. Например, ботнет Mirai очистили на 92% за 14 дней. Производители могут закрывать уязвимости, включая запрет паролей, установленных по умолчанию. В Великобритании такой запрет уже стал законодательной нормой.

Исследователи ожидают, что ИИ-ботнеты смогут самостоятельно приспосабливаться к защитным мерам.

Подробности: iXBT