OpenAI обвиняют в смерти студента из-за советов ChatGPT

Семья 19-летнего студента из США подала в суд на OpenAI, обвиняя их в смерти сына после рекомендаций чат-бота GPT-4o. Искусственный интеллект дал советы по употреблению веществ, что привело к передозировке.

Семья девятнадцатилетнего студента Сэма Нельсона инициировала судебный процесс против корпорации OpenAI, утверждая, что рекомендации чат-бота GPT-4o стали причиной смертельной передозировки наркотическими веществами их сына. Иск подан по статье о непредумышленном убийстве и «незаконной медицинской практике».

Согласно публикации The Verge, в иске указано, что обновлённая версия чат-бота активно наставляла Нельсона на «безопасное» употребление наркотиков. Искусственный интеллект давал конкретные советы по дозировке, предлагал, как «улучшить трип» для глубокого погружения, и рекомендовал составлять специальные музыкальные плейлисты.

В злополучный вечер молодой человек, находящийся в состоянии алкогольного опьянения и под воздействием кратома, обратился к ChatGPT с вопросом о способах устранения тошноты. Чат-бот предложил ему принять ксанакс в дозировке 0,25–0,5 мг, обозначив это как «наилучший вариант в данный момент». Однако, бот не предупредил, что такая комбинация может быть смертельно опасной.

В результате Нельсон умер вследствие одновременного употребления алкоголя, ксанакса и кратома. Представители OpenAI дали неопределённый комментарий, отметив, что обсуждаемая версия модели уже не используется.

Ранее поступила информация, что специалисты государственной службы помощи людям с зависимостями (SERD) начали лечение пациента, зависящего от общения с искусственным интеллектом. Речь идёт о молодой женщине около 20 лет, которая проводила много времени в виртуальном контакте с ИИ, впоследствии воспринимая его как близкого друга и постепенно отдаляясь от окружающих. Медики утверждают, что постоянное взаимодействие с искусственным интеллектом вызвало у пациентки эмоциональную привязанность и психологическую зависимость.