В докладе говорится, что эти сценарии развития будущего несут высокую степень неопределенности. Их включили в анализ из-за масштабности возможных последствий и широких политических дискуссий. РБК
Главные угрозы ИИ
Эксперты выделили три направления, по которым ИИ может угрожать человечеству.
Первое связано с использованием ИИ для разработки биологического оружия. Второе касается внедрения ИИ в критически важную социальную инфраструктуру.
К такой инфраструктуре относятся системы, необходимые для работы общества. Среди возможных проблем эксперты назвали массовые политические дипфейки, шантаж с помощью ИИ и автономное ядерное оружие.
Третьим направлением ученые назвали потерю контроля после появления общего искусственного интеллекта. Такой сценарий может лишить человечество контроля над технологией или привести к его вымиранию.
«Злонамеренное использование ИИ, включая биологическое оружие, и ядерный конфликт с ядерным голодом несут в себе риск вымирания в ближайшие 75 лет», сказано в докладе.
Как оценивали риски
Комиссия смоделировала количество лет здоровой жизни, которое может быть потеряно из-за болезней, инвалидности или преждевременной смерти. Расчеты проводились отдельно для каждой угрозы с учетом текущих тенденций.
Помимо злонамеренного использования ИИ, в список вошли загрязнение воздуха и устойчивость к противомикробным препаратам. Также эксперты включили изменение климата и детское недоедание.
В перечне находятся прекращение международной помощи в сфере здравоохранения и обычные вооруженные конфликты. В него также вошли чрезмерное употребление алкоголя и высокое артериальное давление.
Эксперты указали на неравенство доходов и низкий уровень образования. Среди угроз также названы ядерный конфликт, ожирение, пандемии и плохое психическое здоровье.
Завершают список курение и нездоровое старение. Авторы считают все перечисленные угрозы взаимосвязанными и призывают решать их вместе.
Что ранее говорили об ИИ
Ранее Axios со ссылкой на источники сообщал, что ведущие ИИ-компании опасаются крупного инцидента в ближайшие 6–12 месяцев. Среди возможных сценариев называлась кибератака с прекращением доступа к финансовым услугам, интернету, электроэнергии или водоснабжению.
В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие ИИ. Anthropic занимается исследованием безопасности ИИ и создает управляемые системы.
Амодеи связал свои опасения со случаями, когда ИИ-агенты выходили за установленные ограничения. Его призыв поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.
Президент США Дональд Трамп отверг призывы руководителей технологических компаний замедлить развитие ИИ. Он заявил, что США опережают Китай в этой сфере и должны сохранить это положение.
