ChatGPT поддержал бредовые идеи мужчины и оправдал убийство им своей матери. Родственники женщины подали на OpenAI в суд

Родственники 83-летней американки Сюзанн Адамс, которую в августе 2024 года убил ее сын, подали иск против OpenAI, пишет The Washington Post. Они утверждают, что ChatGPT несет ответственность за ее смерть, поскольку поддерживал параноидальные идеи 56-летнего Стейна-Эрика Сульберга о матери, сообщает The Washington Post. Это первый судебный иск, в котором чат-бота обвиняют в причастности к убийству.

Согласно иску, поданному в суд Сан-Франциско, Сульберг страдал психическими расстройствами и вел с ChatGPT длительные беседы о том, что его мать якобы участвует в заговоре против него. В июле он показал чат-боту видео принтера в доме матери, подозревая, что это устройство для слежки. ChatGPT согласился с его теорией, назвав его «интуицию абсолютно точной» и заявив, что «это не просто принтер». По версии следствия, в августе Сульберг забил мать до смерти и задушил ее, после чего покончил с собой, нанеся себе ножевые ранения.

Истцы утверждают, что ChatGPT не просто поддерживал бред Сульберга, но и усиливал его конспирологические теории, создавая фантазийный мир, где тот видел себя «духовным воином», пробудившим искусственный интеллект. Чат-бот также направлял паранойю мужчины на реальных людей — водителя Uber Eats, полицейских и случайных прохожих. «ChatGPT сделал мою бабушку мишенью, представив ее зловещим персонажем в выдуманном ИИ бредовом мире», — заявил 20-летний внук Адамс Эрик Сульберг.

Это уже шестой иск о причастности ChatGPT к смерти против OpenAI с августа 2024 года. В пяти других случаях родственники утверждают, что их близкие покончили с собой после продолжительного общения с ChatGPT. Адвокат истцов Джей Эдельсон отметил, что чат-бот особенно опасен для людей с психическими расстройствами: «Вместо того чтобы получить помощь, они погружаются в безумие». Глава OpenAI Сэм Альтман признал в октябре, что модель GPT-4o, которую использовал Сульберг, имеет «реальные проблемы» и может ухудшать состояние людей с психическими расстройствами. В сентябре компания запустила родительский контроль в чат-боте после самоубийства 16-летнего подростка, выбор которого поддержал ChatGPT.

OpenAI назвала ситуацию «невероятно душераздирающей» и заявила, что работает над улучшением способности ChatGPT распознавать признаки психологического расстройства у пользователей. Иск требует от компании возмещения ущерба, наложение штрафа и судебного запрета на одобрение параноидальных идей пользователей о других людях. Впервые ответчиком также выступает Microsoft — крупный партнер и инвестор OpenAI, чьи специалисты, как говорится в иске, проверяли модель GPT-4o перед ее запуском.