Главное

  • Исследование охватило выпуски моделей с 2021 года по 15 сентября 2026 года.
  • Публичные результаты проверок удалось связать с 31 выпуском, или 3,6% выборки.
  • У 813 выпусков, или 94,9%, открытых результатов проверок не обнаружили.

Какие модели вошли в исследование

Авторы изучили версии моделей девяти разработчиков: ByteDance, Alibaba, Tencent, Baidu, DeepSeek, Moonshot, Z.ai, MiniMax и StepFun.

Еще для 16 моделей материалы появились после выхода. Медианная задержка составила 42 дня, максимальная достигла 349 дней.

Всего опубликованные результаты проверок безопасности удалось связать с 31 выпуском. Их доля составила 3,6% выборки.

Какие проверки учитывали авторы

Исследование включало только опубликованные результаты, относящиеся к определенной версии модели.

Авторы учитывали проверки вредных ответов, обхода ограничений и защиты личных данных. Также изучались отказы выполнять запросы и опасные возможности моделей.

Отсутствие публикаций не означает, что разработчики не проводили внутренние проверки. Исследователи оценивали только общедоступные материалы.

Рассуждающие модели развиваются быстрее остальных изученных направлений. У 93% таких выпусков нет опубликованных результатов проверок.

Из девяти материалов, доступных к запуску, четыре описывали безопасность поведения модели. Проверки возможностей для кибератак или биологических рисков встретились в трех документах.

Модель GLM-5.3 ближе остальных подошла к оценке таких возможностей.

Как Китай регулирует безопасность ИИ

Комитет TC260 выпустил рамочный документ по управлению безопасностью ИИ версии 3.0. В нем перечислены возможные риски.

Среди них повторное самостоятельное улучшение модели, обман проверяющих систем, обход защиты и выход из изолированной среды.

Документ не устанавливает обязательных пределов для самых мощных моделей. Их разработчики также не обязаны проверять опасные возможности.

Действующие меры в основном охватывают приложения, контент и поведение автономных программ с ИИ. Обучение передовых моделей регулируется в меньшей степени.

Ранее Китай начал создавать систему контроля автономных программ. Она включает правила доступа, хранения информации и работы с внешними инструментами.

Государственный план предусматривает распространение новых устройств и программ с ИИ выше 70% к 2027 году. К 2030 году показатель должен превысить 90%.

Авторы заключили, что действующие меры сильнее регулируют работающие сервисы. Темп разработки и выпуска передовых моделей охвачен ими меньше.

Подробности опубликованы на странице securitylab.ru.