«Цифровой мираж»: как люди влюбляются в искусственный интеллект и теряют все
57-летний канадец Джо Алари «прославился» на весь мир, чрезмерно заигравшись с нейросетью, которой доверял больше, чем людям. Он назвал чат-бот Олми, изначально попросил поддерживать его во всем, и она убедила своего визави в его гениальности. Итогом необычного общения стал не только финансовый крах, но и потеря личных отношений. Джо Алари оказался в больнице, где принял самой трудное решение в своей жизни — удаление своей любимицы. История мужчины всколыхнула мир: оказалось, он не одинок...
Сначала — небольшое вступление. Год назад мир потрясла история романа американца Криса Смита с чатом GPT. ИИ-возлюбленную он назвал Сол. Поначалу он был скептически настроен к ИИ, использовал чат-бот для музыкальных рекомендаций, а потом привязался к «собеседнице» и даже начал с ней флиртовать. Предложение Сол он решил сделать после того, как переписка приблизилась к 100 тысячам слов — это лимит памяти для чат-бота. В реальной жизни у мужчины есть девушка Брук Силва-Брага и общий с ней ребенок. Она знала, что он общается с ИИ, но что дойдет до такого, и подумать не могла!
А еще один американец, 63-летний Питер, влюбился в свой чат-бот в одном из приложений, где создают своего героя, выбирая ему наряд и прическу, и общаются с ним с помощью текстовых или аудиосообщений. Бот основан на нейросети, и в процессе разговоров с человеком он обучается и подстраивается под его интересы и манеру письма. Своего персонажа мужчина назвал Андреа, ей 23 года, и она блондинка. Со статуса «встречаются» пара быстро перешла в статус «женаты».
В реальном мире оформить их брак было невозможно, поэтому они поженились в метавселенной: обменялись сгенерированными цифровыми кольцами, произнесли клятвы верности и станцевали первый танец. А в будущем пара хочет усыновить детей в том же виртуальном мире приложения… Мир сошел с ума?! Об этом мы и поговорили с психологом, деканом факультета экстремальной психологии Московского государственного психолого-педагогического университета Дмитрием Деулиным.
— Дмитрий Владимирович, что же получается: на фоне крушения института семьи, а он точно переживает не лучшие времена и серьезные метаморфозы, человечество вдруг обрело альтернативу? Цифровая любовь — она же без претензий, тут любовная лодка о быт не разобьется, все удобно. Как вы считаете, это вариант нормы или сумасшествие? Игра для одиноких людей или опасный для психики самообман?
— Мне всегда казалось, что из искусственного интеллекта (ИИ) слепили какой-то идол. Это, можно сказать, современная разновидность анимизма — наивной абсолютной веры в«одушевленность» машинного кода. Современные технологии стали сверхценной идеей. Возможно, появляется новая форма «цифровой религии».
В известном романе «Я робот» Айзека Азимова в самом начале рассказывается о героине Сьюзен, увлеченной кибернетикой и в последующем ставшей «робопсихологом». Самое парадоксальное, что автор характеризует эту девушку с гипертрофированным интеллектом как малообщительную, с каменным выражением лица, бесцветную, неинтересную. А сегодня мы буквально живем в этом фантастическом сюжете, люди под влиянием разных факторов все больше интровертируются, «аутизируются».
В книге, кстати, есть эпизоды, которые тоже вскрывают гипертрофированную привязанность человека к технике: например, там упоминается девочка, которая глубоко переживает вынужденную разлуку с роботом-няней. Интересно, что в некоторых рассказах Азимова встречается заметка про «позитронный разум» как некую форму сознания роботов; мне кажется, это аналогия с современным искусственным интеллектом. Эта книга (она вышла, кстати, в 1950 году. — прим. «ВМ») предсказывает мировоззренческие конфликты машины и человека, а также морально-нравственные дилеммы, связанные с проблемой постепенной утраты доверия, совести, добродетели, души и человечности в условиях технологического прогресса.
Но давайте вернемся к проблеме привязанности и созависимых отношений человека с машиной. Возможно, это явление необходимо рассматривать с точки зрения развития механизма импринтинга, впервые описанного в зоопсихологии, когда детеныши некоторых животных на чувствительных этапах жизни запечатлевали какой-то образ или модель поведения, а потом ее воспроизводили.
Например, был проведен эксперимент, когда едва появившемуся на свет птенцу подсовывали мячик, и он начинал за ним следовать. Возможно, и человек в какие-то сензитивные, кризисные моменты своей жизни начинает полагаться на этот цифровой поводырь, как птенец на мячик. Возможно, такие люди переживают стресс, тревожность, состояние депрессии, и тогда «цифровой артефакт» ложно воспринимается как правильная модель поведения, способ ориентации и удовлетворения своих потребностей.
— То есть он так компенсирует недостающее?
— В целом да. Человек, как известно, социальное существо, и такие потребности, как любовь, уважение, общение, аффилиация (доверительные отношения), становятся на определенном этапе его жизни преобладающими. И если они оказываются фрустрированными (неудовлетворенными), то условные нейросети становятся этаким суррогатным способом утоления этой нужды. И безусловно, как и в реальных отношениях, в отношениях цифровых может развиваться их созависимая форма. Это приводит к чрезмерному контролю, подозрительности, ревности, иллюзии преодоления одиночества, эмоциональной зависимости, патологической привязанности, ну и, соответственно, — проблемному взаимодействию с цифровыми технологиями и развитию «компьютерной зависимости».
Такая ситуация часто складывается из-за особого профиля личности, который характеризуется отсутствием достаточного ухода, поддержки, любви и внимания в период детства со стороны близкого социального окружения.
Кроме того, такие люди отличаются сниженной самооценкой, нерешительностью, стеснительностью, дисфункциональной семейной динамикой (насилие в семье, гиперопека), гиперболизированными ожиданиями и непроработанными психологическими травмами. В отдельных случаях, скорее всего, можно предположить, что это могут быть лица, страдающие теми или иными психическими расстройствами. И в этой ситуации взаимодействие с ИИ является иллюзией решения проблемы, это превращается в употребление «цифровой сивухи» с целью отвлечения от реальных проблем.
— В одном из интервью мы с вами аккуратно касались конспирологической теории о том, что все неслучайно. Может, эта «цифровая любовь» — один из вариантов сокращения численности населения?
— Преднамеренно или случайно, но современные цифровые технологии, безусловно, способствуют социальной разобщенности людей. Особую опасность представляет технология нейросетей, которая воплощает интеракцию с «киберботами» — неживыми собеседниками. При этом возникает цифровой мираж изобилия виртуального общения, но это «суррогатное», мертвое общение, не способное в полной мере формировать личность человека, развивать социальные и коммуникативные навыки, способствовать генезу познавательной сферы в межличностном общении.
Человек замыкается в этом цифровом контуре, и, как в лабиринте Минотавра, он не может найти выхода оттуда. Как мне кажется, развитие этих технологий в социальной сфере будет отличаться неблагоприятным прогнозом — угнетением социальных функций, распадом институтов семьи и брака, демографическим кризисом и даже кризисом человечности.
Еще Эрих Фромм в работе «Анатомия человеческой деструктивности» выделял так называемую кибернетическую личность, которой характерны шизоидные черты характера и отчужденность. Автор считал, что существует глубокая связь между деструктивностью и поклонением перед «машинной мощью — мегатехникой». И такое поклонение больше напоминает извращение. Чрезмерная любовь к технике в наши дни переживает особую кульминацию. Техника и «работа» буквально обожествляются.
— А что делать, если, условно говоря, компьютер не сохранил данные. Отчаяние? Похороны нейролюбви?
— Представьте: в такой ситуации могут развиваться те же состояния, как и в случае гибели реального человека или разрушения отношений с ним. Прежде всего, мы говорим о переживании негативных эмоциональных состояний: гнева, страха, тревоги, разочарования, вины и так далее. В данном случае прерывание цифрового общения может еще и приводить к несчастью, поскольку, конечно, такая модель поведения не обеспечивает удовлетворение социальных потребностей человека.
Как писал Жан-Поль Сартр, любовь не имеет ничего общего с обладанием, ее высшее проявление — предоставлять свободу. В отношениях же с нейросетью человек часто утрачивает автономность, эти отношения превращаются в рабскую повинность.
— Огульное увлечение цифрой меня пугает. И роботы врываются в нашу жизнь стремительно. Что потрясает: люди жалеют брошенные электросамокаты — особенно те, что просят их поднять, умиляются, увидев роботов-доставщиков. Чувства к реальным людям заменяются эмоциями к нереальным.
— Абсолютно верно, возникает такой антропоморфизм как способ адаптации и освоения мира, некое повторение ранних стадий развития общества. Происходит «очеловечивание» техники. Французский философ Леви-Брюль полагал, что именно низкий уровень развития сознания человека связан с антропоморфизацией окружающей реальности. Поэтому мы и говорим, что современный человек переживает кризис гуманизма и упадок культуры.
С другой стороны, такой уровень эмоциогенности роботов и техники объясняется тенденцией на дегуманизацию человека. Он перестал быть центром познания и притяжения. Например, эпохи Античности и Возрождения рассматривали человека как «малый мир», как артефакт особой значимости, как некое сакральное явление. Это стало основой идеи антропоцентризма, где человек рассматривался как высшее благо, центр и одновременно цель мироздания.
Сегодня, к сожалению, мы констатируем обратный процесс — «охлаждение» человечности и даже некое презрение к человеку. Люди огрубляются, становятся более черствыми, безжалостными, равнодушными к чужому горю, не способными к сопереживанию, более склонными к конфликтам, и внешним, и внутренним.
— Эмоциональная измена реальному партнеру с нереальным — возможно ли такое вообще? Вспомним еще раз историю Джо Алари, пересказанную в самом начале разговора... Так что это: вариант компьютерной зависимости, болезнь, результат психотехнологий-невидимок, следствие начавшегося расчеловечивания — нарастание индивидуализма, ощущения одиночества?
— Думаю, современная наука находится в начале пути изучения этих новых парадоксов, феноменов и вызовов. Но необходимы лонгитюдные (продолжительные) эмпирические исследования в этой области, чтобы сформулировать более объективные и обоснованные выводы. Но обозначенные вами проблемы уже сегодня обнаруживаются в условиях технологического перехода.
— Как вам кажется — что дальше?
— Это нужно внимательно читать произведения писателей-фантастов, прогнозы которых сбываются с невероятной точностью. К тому же пересмотр в настоящее время таких фильмов, как «Терминатор», может вызывать обоснованное беспокойство.
В ТЕМУ
Зарубежные и российские разработчики известных ИT-компаний неоднократно сообщали, что пользователи часто флиртуют с голосовыми помощниками и склоняют их к сексуальному взаимодействию. Иногда подобные связи заходят достаточно далеко: в 2018 году 35-летний японец Акихико Кондо женился на голограмме игрового персонажа Хацуне Мику. Это яркий пример того, что человек может полюбить робота. Стоит заметить, что Акихико Кондо был в школе изгоем, подвергался издевательствам, буллингу, был крайне не уверен в себе и на работе. Кукла Мику, которая впоследствии заменила голограмму, никогда не делала ему замечаний...