Сир, Вы прекрасны! Почему ИИ нам льстит и как не попасть в ловушку цифровой вежливости

1. Ожидания vs Реальность

«Сир, Вы прекрасны!» — говорит лакей Ля Шене королю в фильме «Три мушкетера». И нам смешно. Но общаясь с ИИ, я наконец-то поняла, что его стиль напоминает именно этого слугу.

ИИ говорит: «Какая классная презентация! Особенно вот эта мысль! Она точно произведет впечатление на аудиторию!» И вот ты предстаешь с этой презентацией перед живой аудиторией. Но люди почему-то реагируют совсем не так, как чат-бот. Кислые, отсутствующие лица. Или несогласие с твоими идеями, которые ты не можешь обосновать. Что ты чувствуешь? Растерянность, фрустрацию? Может, разочарование в техническом прогрессе?

2. Почему ИИ нам подыгрывает?

На самом деле ИИ — это вообще не про лесть и не про желание понравиться. В конце концов он, в отличие от слуги, ничего от этого не имеет (подписка уже оплачена).

ИИ просто запрограммирован быть «вежливым». По умолчанию он настроен на то, чтобы поддерживать, быть конструктивным, не обижать пользователя. А почему так получилось? Модели обучают по методу RLHF (Reinforcement Learning from Human Feedback). Тысячи людей оценивали ответы. И что получало большие баллы? Правильно — «вежливые», «конструктивные» и «позитивные» ответы. В результате получается идеальный собеседник. Приятный. Удобный. Мотивирующий. Но абсолютно не похожий на реальных людей.

3. В чем же подвох?

ИИ делает то, что может программа на сегодняшнем уровне развития: оценивает логику, аргументы, формулировки.

А люди — нет. Люди придирчиво смотрят на вас, на ваше состояние, ваш тон, тембр голоса, напряженность дыхания и скованность движений, улыбку, одежду, прическу. А может даже и ловят феромоны смущения или уверенности, которые от вас исходят. Плюс кто-то не выспался, кто-то вас не любит, кто-то вам завидует, кто-то не успел пообедать и т.д. Ну, а уж потом, если повезет, на содержание презентации. И это вовсе не помехи. Это и есть система оценки, так, как она работает в обществе.

Читать далее