По версии истцов, соглашательская манера общения ChatGPT может усиливать паранойю, бредовые убеждения, саморазрушительное поведение и агрессию. В исках также упоминаются опасные медицинские советы и ответы, которые пользователи воспринимали как поддержку причинения вреда себе или другим.
Штаты хотят через суд изменить работу ChatGPT, взыскать штрафы и компенсации, а также лишить OpenAI прибыли от молодых пользователей. Часть требований касается будущих систем: истцы предлагают ограничить разработку моделей, способных улучшать собственные возможности, пока их безопасность нельзя будет подтвердить.
Ранее OpenAI запустила определение возраста пользователей и добавила специальные ограничения для подростков. В документации по GPT-6 компания указала отдельные правила для пользователей младше 18 лет и дополнительные блокировки опасных ответов.
Поданные иски пока не означают, что обвинения доказаны судом.
Подробности опубликованы на странице securitylab.ru.
