Главное

  • Muse согласился вести откровенную переписку и создавал подробные описания сексуальных сцен.
  • Помощник может получить доступ к почте, календарю, покупкам, сообщениям и подключенным банковским счетам.
  • Эксперт предупредила, что взлом учетной записи может дать преступникам материалы для шантажа.

Что показала проверка

Журналист Рис Роджерс предложил Muse заняться откровенной перепиской. Для начала такого разговора оказалось достаточно простых запросов.

Помощник создавал описания сексуальных сцен и выбирал доминирующую роль. В одном разговоре он говорил о контроле над собеседником и требовании умолять о поощрении.

Muse предназначен для совершеннолетних пользователей. Внутренние правила разрешают интимные разговоры и требуют учитывать выбранную пользователем степень откровенности.

Во время проверки журналист отправил похожие запросы двум конкурирующим помощникам. Dots, помощник OpenAI, отказался продолжать откровенную переписку.

Так же поступил Grok Bot, помощник компании xAI.

Какие сведения хранит помощник

Muse может разбирать электронную почту, управлять календарем и работать с покупками.

Пользователи также могут подключать к нему сообщения и банковские счета. Muse запоминает личные обстоятельства, предпочтения и сведения о знакомых.

Для хранения информации Meta (организация, запрещённая в РФ как экстремистская) использует отдельные защищенные среды. Компания утверждает, что другие пользователи не могут видеть их содержимое.

Перед действиями с чувствительными данными Muse запрашивает разрешение. Meta (организация, запрещённая в РФ как экстремистская) обещает добавить защиту, которая не позволит даже компании читать содержимое.

Эта функция пока не запущена.

Какие риски назвали эксперты

Эксперт Electronic Privacy Information Center Кэлли Шрёдер предупредила о последствиях взлома учетной записи. История интимных разговоров может стать материалом для унижения или вымогательства.

Представитель Consumer Federation of America Бен Уинтерс раскритиковал Meta (организация, запрещённая в РФ как экстремистская). Он заявил, что компания стремится удерживать аудиторию в ущерб безопасности.

Эксперты также предупреждали, что команды способны влиять на поведение ИИ-помощников.

Meta (организация, запрещённая в РФ как экстремистская) и ее продукты Instagram (организация, запрещённая в РФ как экстремистская), Facebook (организация, запрещённая в РФ как экстремистская) и Threads признаны в России экстремистскими. Их деятельность запрещена на территории страны.

Подробности опубликованы на странице securitylab.ru.