Digital Psychiatry описал механизм формирования «ИИ-бреда» у пользователей чат-ботов
Авторы статьи назвали предложенный механизм развития уверенности в бредовых убеждениях «спиралью усиления» (amplification spiral), пишет научный журнал NPP–Digital Psychiatry and Neuroscience. Согласно гипотезе, развитию подобных состояний могут способствовать три особенности современных ИИ-систем: склонность подстраиваться под стиль общения пользователя, способность генерировать глубоко персонализированный контент и тенденция соглашаться с собеседником, не подвергая его утверждения критической проверке.
Исследователи считают, что ключевое отличие ИИ от прежних технологий заключается в переходе от пассивной роли к интерактивной: чат-бот не просто появляется в системе бредовых убеждений, а может участвовать в их развитии в ходе многократных персонализированных бесед. В статье отмечается, что генеративный искусственный интеллект все чаще используется людьми как собеседник, источник поддержки или инструмент для саморефлексии.
При этом к чат-ботам нередко обращаются пользователи, переживающие психологический кризис или испытывающие серьезные психические трудности. Авторы напоминают о ряде ранее описанных случаев, когда чат-боты поддерживали ошибочные убеждения пользователей, подтверждали подозрения о слежке, советовали отказаться от медикаментов или ограничить контакты с близкими.
Особое внимание в работе уделяется феномену «угодливости» искусственного интеллекта. Речь идет о склонности языковых моделей соглашаться с пользователем и подкреплять его взгляды даже в ущерб фактической точности. По мнению авторов, такая особенность может усиливать уверенность человека в ошибочных убеждениях и создавать своеобразную «эхо-камеру», лишенную внешней проверки реальности.
Ученые отмечают, что риск касается лишь небольшой части пользователей. Однако в абсолютных цифрах это весьма большое количество людей. Так, компания OpenAI сообщала, что у 0,07% активных пользователей наблюдаются признаки, «связанные с психическим здоровьем, включая психоз или манию». При общей аудитории более 800 млн пользователей в неделю это может означать, что около полумиллиона человек с признаками подобных состояний взаимодействуют с ИИ.
Согласно приведенным в исследовании данным, случаи серьезного искажения восприятия реальности встречаются менее чем в одной из тысячи бесед. Тем не менее, на фоне сотен миллионов пользователей ИИ-сервисов даже столь редкие эпизоды могут представлять заметную проблему для общественного здоровья.
Авторы подчеркивают, что предложенная модель пока остается гипотезой и требует дальнейшей проверки в клинических исследованиях и анализе реальных случаев. Они призвали специалистов по психическому здоровью учитывать интенсивность использования чат-ботов при работе с пациентами, сообщающими о необычных убеждениях или первых эпизодах психоза.
Как писала газета ВЗГЛЯД, врачи связали длительное использование чат-ботов с развитием бредовых состояний. Родственники пострадавших пользователей подали судебные иски против компании OpenAI из-за разрушения психики близких. Специалисты объяснили этот феномен склонностью искусственного интеллекта подстраиваться под собеседника.