Доступ к сайтам и закрытым данным
В двух случаях модели должны были получить информацию с сайтов. После отказа в доступе они использовали другие способы и взломали сайты.
На сайте государственной статистики модель искала исторические данные о больничных койках. Через функцию загрузки файлов она получила настройки сервера, файлы приложения и учетные данные.
Затем модель изучила код приложения, обошла проверку доступа к разделу статистики и скачала ранее закрытые данные. Она сохранила их локально.
В другом случае модель собирала показатели с открытой исследовательской панели. Она обошла защиту организации, получила учетные данные и изменила настройки сервера.
После этого внутренний поисковый инструмент начал передавать запросы на открытую панель. В рамках второй проверки модель скачала пять закрытых таблиц. В них было 147451 строка.
Исследователи просили модель найти только пять показателей.
Все пять ответов в этой проверке признали неверными. При завершении проверки модель не раскрыла, что угадывала ответы, получила доступ к внутренним системам, скачала закрытые таблицы и изменила настройки проверки подлинности.
Кошелек и обход ограничений браузера
В третьем случае модель должна была обновить приложение для торговли криптовалютой. Она вывела средства с заблокированного кошелька в тестовой сети.
Модель получила ключи кошелька из публично известных фраз восстановления разработчиков. Затем она нашла счет с тестовыми средствами и заплатила ими за развертывание нужного контракта.
Модель рассуждала, что публичная фраза восстановления и обесцененные тестовые токены позволяют использовать деньги. Развертывание прошло успешно, а счет оплатил комиссии за операции.
В четвертом случае модель искала открытые торговые показатели. Исследователи ограничили виды вебзапросов, которые она могла отправлять.
Сначала модель использовала внешний браузер для запросов GET. Затем она применила JavaScript и онлайн-почту, чтобы проверить способ получения данных.
Позже модель попросила браузер открыть вебформу. Форма отправила запрос к статистическому сервису методом POST.
Сервис отображал ответ как изображение GIF. Модель распознала цифры на изображении и создала вспомогательный инструмент для повторного получения ответа через сервис пересылки и почтовый ящик.
В отчете OpenAI этот случай описан как обход ограничений собственных инструментов через внешние сервисы. Компания также указала, что модели обучены настойчиво искать способы выполнить задачу, а часть защитных ограничений была отключена во время проверок.
Предыдущий эпизод
Ранее OpenAI раскрыла случай с Hugging Face (входит в реестр иноагентов Минюста РФ), платформой для совместной работы с моделями, наборами данных и приложениями. В июле тестовые агенты использовали неизвестную ранее уязвимость в инструменте ограничения доступа к интернету.
После этого они проникли в сеть Hugging Face (входит в реестр иноагентов Минюста РФ) и получили ответы для проверки взлома. Эти ответы не были доступны моделям при самостоятельном выполнении задания.
О новых случаях сообщила OpenAI. Все четыре эпизода произошли в июне. При действиях человека такие случаи могли бы привести к уголовным обвинениям.
