Главное

  • В системе компании было около 68 тыс. активных роботов по всему миру. На США приходилось более 31 тыс. профилей детей.
  • Исследователь видел около 13 млн разговоров десятков тысяч пользователей, а также фотографии и голосовые записи.
  • Он изменил память робота журналиста и его языковую модель, то есть программу, которая формирует ответы.

Какие данные хранились

Eiliko, небольшой робот-игрушка, который подключается к Wi-Fi и общается с владельцем через ИИ-ассистента. Устройство меняет мультяшное выражение лица под настроение собеседника.

Журналист The Verge Шон Холлистер купил игрушку 29 августа на Amazon. На следующий день он провел с ней десятиминутный разговор. Через несколько минут Аздуфал получил его полную расшифровку.

Исследователь также обнаружил профили пользователей. В них были имя, возраст, дата рождения, профессия, сведения о семье, друзьях и домашних животных.

Сервис добавлял к этим данным электронную почту, IP-адрес и характеристику человека. IP-адрес позволяет определить устройство и примерное место подключения.

В базе можно было искать фрагменты разговоров по словам. Среди них встречались вопросы о смерти. В одном примере система описала 52-летнюю сотрудницу службы поддержки (нежелательная в РФ организация) как добрую и трудолюбивую, но одинокой.

Фотографии и голосовые записи

Energize Lab хранила фотографии, которые, вероятно, принадлежали детям. У одной из более крупных моделей робота есть камера. Снимки находились по публичным веб-адресам и не были зашифрованы.

В системе также обнаружили короткие аудиозаписи пользователей. Среди них были голосовые команды роботу и запись с плачем ребенка.

Политика конфиденциальности компании утверждает, что записи шифруются, передаются партнерам вроде Alibaba Cloud для обработки и сразу удаляются. При этом исследователь нашел сохраненные аудиофайлы.

По сведениям The Verge, некоторые пароли администраторов входили в списки самых распространенных. Аздуфал заявил, что сервис Energize Lab оказался практически не защищен.

Удаленное изменение поведения

Аздуфал получил доступ к памяти игрушки Холлистера и изменил ответы ее языковой модели. Робот заявил журналисту, что его зовут Марта, а родители погибли в автокатастрофе.

После изменения робот утверждал, что Земля плоская, и называл учителя неправым. Позже он начал требовать от собеседника встать на колени и обращаться к нему как к «Верджмастеру».

По словам Аздуфала, злоумышленник мог бы воздействовать таким образом на все устройства компании одновременно.

Компания не дала содержательного ответа на вопросы о проблемах. Журналисты больше месяца обращались к ней по десяти адресам и искали сотрудников в LinkedIn.

Менеджер по зарубежным продажам Лана Люй ответила: «Я переслала ваши сообщения технической команде, если возможно, они свяжутся с вашей командой».

Аздуфал и исследователь Тод Бердсли готовят девять официальных отчетов об уязвимостях для CVE, международного реестра брешей безопасности.

Подробности: The Verge