METR, некоммерческая организация, которая оценивает современные модели искусственного интеллекта, проверяет их возможности и связанные с ними риски. Организация публикует результаты исследований, говорится на её сайте.
Проверяющие получили служебные компьютеры и места в офисе. Их доступ примерно соответствует правам сотрудников Anthropic, которые оценивают риски.
Какие сведения смогут видеть проверяющие
Сотрудники Anthropic могут делиться с группой METR внутренней информацией, как с коллегами по оценке рисков. Из этого правила исключены сведения о клиентах, юридически защищённые документы и детали устройства моделей.
Доступ действует для выделенной группы из шести сотрудников METR. Другие работники организации отделены от этих сведений. Ограничение распространяется и на специалистов METR, которые участвуют в других совместных проектах.
Как METR будет публиковать результаты
METR сможет выпускать оценки рисков, сообщения об инцидентах и выводы о работе Anthropic. Компания не вправе запрещать такие публикации.
Anthropic сможет потребовать удалить из публикации сведения, которые относятся к заранее определённым категориям. METR сможет публично описывать такие ограничения и оценивать их обоснованность, но не раскроет закрытые сведения.
Организация заявляет, что не принимает оплату от разработчиков моделей за оценку рисков.
Какие проверки готовит Anthropic
Третий уровень даёт доступ, сопоставимый с доступом сотрудника. На нём будет работать METR.
SecureBio пока использует первый уровень доступа. Организация проверяет раздел августовского отчёта Anthropic, посвящённый химическим и биологическим угрозам.
Об этом говорится в отчёте компании.
