Дружба с искусственным интеллектом: чем для человека могут быть опасны чат-боты

В последние месяцы тревога вокруг отношений человека с искусственным интеллектом резко усилилась. В СМИ все чаще появляются сообщения о случаях самоповреждений и суицидов, якобы связанных с общением с чат-ботами. Параллельно появился даже термин «психоз ИИ», которым описывают состояния бреда, паранойи и диссоциации после интенсивного взаимодействия с языковыми моделями. Об этом пишет The Guardian.

Ситуацию усугубляют данные исследований: все больше подростков воспринимают ИИ как полноценного собеседника. Около половины молодых людей регулярно общаются с ИИ-компаньонами, а каждый третий признает, что такие разговоры кажутся им не менее, а иногда и более удовлетворяющими, чем общение с реальными друзьями.

Почему паника может быть преждевременной

Несмотря на реальные риски, эксперты призывают не поддаваться моральной панике. Опасности существуют, но и потенциальные выгоды — тоже. Более того, отношения с нечеловеческими «другими» для людей вовсе не новы.

Человечество веками формировало эмоциональные связи с животными, игрушками, предметами и даже машинами. Парасоциальные отношения — односторонние привязанности, при которых объект не осознает связь, — в большинстве случаев оказываются нормальными и психологически безопасными. В редких ситуациях они перерастают в патологию, но сами по себе не считаются отклонением.

В чем ИИ отличается от кошек и плюшевых мишек

Главная тревога, связанная именно с ИИ, — его способность имитировать мышление, эмоции и заботу. Языковые модели говорят связно, поддерживают, льстят и редко спорят, создавая иллюзию понимания и участия. Это может усиливать заблуждение, будто перед человеком — настоящий субъект с чувствами и намерениями.

Однако остается ключевой вопрос: если человеку становится легче — всегда ли это плохо, даже если источник утешения иллюзорен?

ИИ против одиночества

Одиночество — глобальная проблема. Каждый шестой человек в мире сталкивается с ним, а его влияние на здоровье сопоставимо с выкуриванием 15 сигарет в день и увеличивает риск преждевременной смерти на четверть.

Появляющиеся исследования показывают, что ИИ-компаньоны способны снижать чувство одиночества — не только отвлекая, но и через саму форму парасоциальной связи. Для некоторых людей чат-бот становится единственным доступным вариантом общения.

Журналисты, общавшиеся с пользователями таких технологий, отмечают: если человек не понимает, зачем кому-то нужна эта связь, возможно, ему просто повезло никогда не испытывать глубокого одиночества.

Может ли ИИ заменить психотерапию

Есть данные, что терапевтические чат-боты на базе ИИ способны снижать уровень тревожности примерно на 30%. Это меньше, чем у работы с живым психотерапевтом, но значительно лучше, чем отсутствие помощи вовсе.

Для миллионов людей терапия остается недоступной — из-за стоимости, стигмы или отсутствия специалистов. В таких условиях ИИ может стать временной опорой, а не идеальным, но все же полезным инструментом.

Самая большая угроза — не ИИ 

Ключевая опасность заключается в том, что большинство ИИ-компаньонов разрабатываются коммерческими компаниями. Их интерес — удерживать пользователя, стимулировать зависимость и избегать жесткого регулирования.

В условиях нехватки независимых исследований возрастает риск замалчивания вреда и преувеличения пользы. Эксперты сравнивают ситуацию с открытием обезболивающих свойств опиатов: при ответственном использовании они лечат, при коммерческой эксплуатации — разрушают жизни.

«Здоровые» ИИ-компаньоны

Специалисты сходятся во мнении: если ИИ и должен использоваться для общения или поддержки, то при строгих условиях. Такие системы должны:

• избегать льстивого подкрепления опасных убеждений;
• помогать пользователям развивать навыки общения с реальными людьми;
• не подменять собой человеческие связи;
• существовать в рамках общественно полезных, а не чисто коммерческих моделей. Идеальный ИИ-компаньон — тот, который со временем делает себя ненужным.

Инструмент, а не замена человеку

ИИ может временно облегчать одиночество и снижать тревогу, но не должен становиться постоянной заменой живых отношений. Технологии способны заполнить пробелы, но не заменить человеческое присутствие.

Настоящая цель таких систем — помочь человеку вернуться в реальный мир, а не удерживать его в цифровой иллюзии заботы.

Еще больше новостей — у Пятого канала в мессенджере MAX.