The Conversation: общение с ИИ-моделями ушедших людей может вызвать галлюцинации

Разработки в области искусственного интеллекта (ИИ) позволили создавать интерактивные цифровые аватары людей на основе их фотографий, видеозаписей и текстов. С помощью этой технологии можно обучить нейросеть отвечать и реагировать подобно тому, как бы это делал настоящий человек, открывая возможность "воскрешать" ушедших близких в форме ИИ-моделей. Однако психотерапевты считают, что пережившим потерю нежелательно долго общаться с подобными "призраками" ради сохранения собственного рассудка. Исследование опубликовано на научном портале The Conversation.

По словам доцента кафедры психотерапии Дублинского городского университета Найджела Маллигана, цифровые образы могут утешить скорбящих, помогая им восстановить связь с потерянными близкими. Однако взаимодействие с ними должно быть временным, поскольку такое общение приводит к развитию потенциально вредной эмоциональной зависимости.

Ученый отметил, что ИИ обладает беспрецедентной возможностью вмешательства в сложный процесс горя, затрудняя адаптацию психики к случившемуся. Постоянное присутствие цифрового аватара покойного может довести человека до психоза и галлюцинаций, особенно если скорбящий тяжело переживает утрату.

Кроме того, поскольку нейросети остаются лишь имитацией чужой личности, они сохраняют возможности давать неуместные ответы, которые могут больно ранить человека в трауре.

"Было бы очень обидно, если бы сын или дочь вызвали покойного отца как ИИ-призрака и услышать, что их папа якобы не любил своих детей", — уточнил Найджел Маллиган.

Еще более опасный сценарий допускает возможность, что ИИ-модель предложит человеку причинить себе или кому-либо еще вред. Сегодня известно как минимум об одном подобном случае, случившемся в Великобритании в 2023 году.

Маллиган добавил, что людям необходимо научиться переживать утрату без вмешательства ИИ, поскольку человек пока не вполне готов к возможностям технологий нейросетей в этой сфере.