Законопроект предусматривает вмешательство властей при угрозе ущерба на $1 млрд или гибели либо тяжёлого травмирования более 50 человек. Об этом сообщает Politico со ссылкой на источники.

Главное: - Правительство сможет через суд добиваться приостановки проекта, если эксперты подтвердят серьёзную угрозу. - Основаниями для вмешательства станут риски, связанные с биологическим оружием, потерей разработчиком контроля над моделью или кибератакой. - Разработчиков обяжут создавать отделы безопасности, публиковать отчёты и оперативно уведомлять Минторг США о серьёзных сбоях.

Как будут выявлять угрозы

Проверять возможные риски смогут независимые эксперты, зарегистрированные в Министерстве торговли США. Они должны будут доказать, что система способна причинить ущерб в установленном законом масштабе.

На основании экспертной оценки ведомство сможет обратиться в суд и добиться приостановки проекта. Механизм распространяется на выпуск и использование моделей искусственного интеллекта.

Угроза должна быть непосредственно связана с созданием или применением биологического оружия, потерей контроля над моделью или кибератакой.

Что потребуют от разработчиков

Компании должны будут создать внутренние подразделения, отвечающие за безопасность ИИ. Также им предстоит публиковать отчёты о работе моделей и оперативно сообщать Министерству торговли США о серьёзных сбоях.

Документ предусматривает защиту сотрудников, которые раскрывают сведения о нарушениях. Их должны оградить от преследования за такие сообщения.

Почему Anthropic продвигает законопроект

В компании назвали предложенные требования «разумными мерами», необходимыми для контроля над наиболее мощными моделями. Anthropic сама разрабатывает искусственный интеллект, в том числе семейство больших языковых моделей Claude.

Claude предназначена для работы с текстом, кодом и изображениями, анализа информации и ответов на вопросы.

По данным Politico, положения документа во многом перекликаются с законами Калифорнии о регулировании ИИ, утверждёнными в прошлом году.

Подробности опубликованы на странице kommersant.ru.