Главное

  • Дженсен Хуанг допустил прекращение поставок клиенту, который безответственно разрабатывает небезопасные модели искусственного интеллекта.
  • Перед таким шагом Nvidia намерена провести переговоры с заказчиком.
  • Компания направит $250 млн за пять лет на исследования безопасности искусственного интеллекта в Великобритании.

Когда Nvidia может остановить поставки

Отвечая на вопрос о возможных действиях против безответственного разработчика, Хуанг сказал: «Это гипотетическая ситуация, но да».

Глава Nvidia добавил: «Но прежде чем пойти на такой шаг, нужно провести переговоры».

По словам Хуанга, Nvidia не управляет компаниями клиентов. Ее возможности оценивать применение поставленных технологий также ограничены.

Он назвал технологии Nvidia инструментами общего назначения. Ускорители компании используют для обучения и запуска моделей искусственного интеллекта.

Контроль вместо замедления разработок

Ранее Дарио Амодеи, глава компании в сфере искусственного интеллекта Anthropic, предлагал замедлить развитие отрасли из-за опасений за безопасность технологии.

Хуанг не поддержал этот призыв. Он назвал проблемы безопасности «болезнями роста» быстро развивающейся отрасли.

Глава Nvidia считает часть опасений надуманной. По его оценке, отрасль «из рук вон плохо» объясняет преимущества новой технологии.

Хуанг предложил быстрее внедрять средства защиты и контроля. Искусственный интеллект можно применять для наблюдения за другими такими системами и управления рисками.

«Нам следует ускорить внедрение технологий сдерживания в системы искусственного интеллекта», заявил Хуанг.

Он также призвал ускорить разработку технологий наблюдения. Сам искусственный интеллект может выступать инструментом такого контроля.

$250 млн на исследования в Великобритании

Nvidia направит $250 млн в течение пяти лет на исследования безопасности искусственного интеллекта в Великобритании.

Компания предоставит британским учебным заведениям доступ к передовым вычислительным системам. Среди них названы Оксфордский университет и Университетский колледж Лондона.

Учебные заведения будут изучать меры защиты искусственного интеллекта и способы контроля над агентами на его основе.

Подробности: 3DNews