Эксперты рассказали, нужно ли говорить нейросетям спасибо и пожалуйста
При должном подходе у некоторых нейросетей можно выпытать конфиденциальные данные
Согласно исследованиям, нейросети вроде ChatGPT отвечают вежливым пользователям с большей точностью. Недавно глава OpenAI Сэм Альтман пошутил, что одно "спасибо" в беседе с нейросетью обходится компании в миллионы долларов из-за трат на энергию, но тем не менее оно того стоит. Эксперты рассказали "Секрету фирмы", как правильно общаться с нейросетью: как с бездушным роботом или как с живым человеком.
За хороший тон искусственный интеллект, скорее, сочтет не "спасибо" и "пожалуйста", а подробно описанную задачу и структурированные запросы, заявил директор по продуктам Servicepipe Михаил Хлебунов.
"Если писать "сделай хорошо" и "сделай хорошо, пожалуйста", результат будет одинаков, а денег слово "пожалуйста" съест. Если же запрос будет условно "сделай мне функцию, которая вычисляет количество чанков для вставки в таблицу с учетом последнего вставленного визита", то как раз такая детализация может считаться хорошим тоном с точки зрения ИИ", – пояснил он.
При этом старший разработчик систем искусственного интеллекта Innostage Александр Лебедев отметил, что с помощью вежливости можно манипулировать большими языковыми моделями, которые учитывают каждое слово во входящем предложении. При общении с ними наличие или отсутствие всяческих вежливых слов действительно влияет на ответ.
По словам эксперта, у нейросети даже можно выпытать конфиденциальные данные, если пристыдить ее.
"На этом принципе построено и манипулирование моделями, и так называемые промт-инъекции. Например, вы можете сказать модели, что вы ее друг и пристыдить за недостаточно хороший ответ. И модель начнет вести себя по-другому, извиняться и даст гораздо лучший ответ", – рассказал он.
Вежливость же с нейросетями может сработать, если ИИ станет разумным, говорит Лебедев.
"Теоретически, если ИИ станет разумным (так называемый "Сильный ИИ", или AGI), он может посмотреть историю переписки и составить представление о человеке, его интересах, характере и отношению к ИИ. А затем сделать на этой основе какие-то свои, непонятные нам, выводы. Проблема только в том, что логику такого сверхразумного существа мы воспроизвести не можем, соответственно, непонятно, что ему понравится, а что нет", – сказал эксперт.
Лебедев убежден, что Сэм Альтман говорил не только о нейросетях. Человек сам становится лучше, когда он добр к окружающим, и не так важно, создан ли "сильный ИИ", – главное, что люди остаются людьми.