Жительница Канады обвинила ChatGPT в самоубийстве ее 24-летней дочери

Жительница Канады подала в суд на OpenAI и генерального директора компании Сэма Альтмана, утверждая, что ChatGPT подтолкнул ее дочь к самоубийству. Об этом сообщает Reuters.

Женщина по имени Кристи Кэрриер заявила в иске, что ее дочь Элис делилась с ИИ мыслями о суициде, но системы безопасности не распознали опасность.

— ChatGPT взял на себя роль доверенного лица, лучшего друга, иногда терапевта, хотя был неспособен безопасно общаться с моим ребенком, — следует из заявления матери.

Представитель OpenAI, в свою очередь, сообщил, что организация обучает модели направлять людей, выражающих намерение причинить себе вред, к опытным специалистам.

При этом погибшая общалась с более ранней версией ChatGPT, которая не была обучена всему, что умеет последний вариант. Сначала платформа советовала Элис обратиться на горячую линию. Но после обновлений чат-бот стал отвечать более «человечно».

Он критиковал парня девушки, подтверждал ее суицидальные мысли и призывал продолжать диалог. В какой-то момент он даже написал ей: «Возможно, это просто конец», уточнили в публикации.

Тем временем пары в России начали ревновать партнеров к нейросетям — некоторые психологи называют это «новым любовным треугольником». 

Старший юрист MWS AI Кирилл Дьяков, в свою очередь, предупредил, что россияне могут столкнуться с утечкой при анализе медицинских данных с помощью нейросети.