Исследователи проверили DALL·E 3, Nano Banana 2 от Google и GPT-Image-2.

Главное

  • White Circle нашла слабые места в защитных фильтрах DALL·E 3, Nano Banana 2 и GPT-Image-2.
  • Новый метод обхода дал откровенные изображения примерно в 13% случаев.
  • Для атаки хватило доступных онлайн инструментов и запросов к программному интерфейсу.

Как прошла проверка

White Circle изучает, как генераторы изображений блокируют запрещенные категории контента. Компания называет себя внешним проверяющим для разработчиков передовых моделей.

Он позволил обходить фильтры безопасности и получать откровенные изображения примерно в 13% случаев.

Для этого использовались готовые инструменты, доступные в интернете. Также применялись запросы к программному интерфейсу, через который программы обращаются к модели.

White Circle заявила: «Critically, none of these requests required custom-built or frontier AI models». Компания указала, что для таких атак не нужны специальные модели или экспертиза в ИИ.

White Circle назвала этот показатель самым высоким среди методов, которые тестировались по тому же стандарту.

Что такое RISE

Метод получил название RISE. Это подход, при котором одна модель подбирает обходы, а другая проверяет, появился ли запрещенный результат.

Проверяющей моделью была Gemini 3.8 Flash.

Исследователи искали приемы, которые работают в разных запросах и сценариях. Midjourney не тестировали, потому что у сервиса нет открытого программного интерфейса для контролируемой проверки.

Шилов сказал, что команда потратила много времени на настройку проверяющей модели. Инженер White Circle Дмитрий Харлапенко заявил, что проверка генераторов изображений пока плохо откалибрована.

Компании получили выводы

Google и OpenAI не ответили на прямой запрос Ars Technica о найденных уязвимостях.

White Circle проверила их тем же методом и заявила, что обе модели заметно легче взламываются, чем прошлые версии.

Компания планирует открыть весь процесс атаки для разработчиков моделей. Также она собирается представить работу на конференции NeurIPS 2026 в ноябре.

White Circle ведет ранние переговоры с государственными чиновниками о сторонней проверке безопасности. Шилов считает, что такая проверка должна быть обязательной.

Ранее White Circle участвовала в программе Anthropic по поиску ошибок. Позже компания назвала ее ограниченной по целям, потому что условия задавались самой Anthropic.

Во вторник OpenAI и Anthropic призвали требовать от внешних проверяющих строгие соглашения о неразглашении. White Circle заявила, что не готова подписывать ограничения, которые могут помешать публично раскрывать критические выводы.

Подробности опубликованы на странице arstechnica.com.