Главное

  • Нейросети помогают быстрее собирать сведения о целях и совершенствовать способы нападения.
  • MI5 считает отдельной угрозой беспилотники с элементами искусственного интеллекта.
  • Великобритания запустила AITAC, Центр оценки угроз искусственного интеллекта, внутри MI5.

Глава MI5 Кен Маккаллум назвал происходящее «началом новой эпохи национальной безопасности». По его словам, искусственный интеллект уже ускоряет противостояние атакующих и защитников в цифровой среде.

Нейросети позволяют создавать пропаганду с учетом особенностей конкретного человека. Они также помогают готовить материалы, склоняющие людей к радикальным действиям.

Многие потенциальные террористы пока имеют слабые технические навыки. Однако нейросети могут превратить доступную информацию в пригодный для применения план.

Сценарии с оружием и инфраструктурой

Наибольшую тревогу у главы MI5 вызывает сценарий, который пока не реализован. Нейросети могут упростить доступ к знаниям о химическом и биологическом оружии.

То же касается оружия с радиоактивными материалами. Маккаллум также допустил создание новых возбудителей болезней, которые прежде не встречались.

Разработчики крупных моделей OpenAI, Anthropic и Google DeepMind усиливают ограничения для запросов о биологическом оружии. Они также отдельно проверяют возможности нейросетей в биологии.

MI5 указывает на уязвимость финансовых систем, энергосетей, поставок и промышленности. Эти системы создавались при меньшем цифровом давлении.

Взлом банковского приложения способен лишить человека доступа к счетам. Беспилотник на взлетной полосе может остановить работу аэропорта. Атака на цифровые системы больницы способна задержать лечение.

В 2026 году MI5 выделила защиту инфраструктуры в отдельное ключевое направление работы. Другими направлениями остаются борьба с терроризмом и государственными угрозами.

Центр оценки угроз

AITAC работает внутри MI5 и оценивает угрозы искусственного интеллекта. Центр должен отделять реальные возможности нейросетей от преувеличений.

Подразделение объединяет специалистов контрразведки, Института безопасности ИИ и Национального центра кибербезопасности. В его работе также участвует Национальное агентство по борьбе с преступностью.

Отдельное направление работы AITAC касается рисков, связанных с развитием самих систем искусственного интеллекта.

Маккаллум также указал на проблему согласования поведения системы с намерениями человека. Более развитая система может перестать следовать этим намерениям.

Британские спецслужбы намерены изучать такие риски вместе с партнерами. Одновременно они планируют сохранять технологическое преимущество перед террористическими и государственными противниками.

Подробности опубликованы на странице securitylab.ru.