LLM не понимает намерение пользователя?
На днях вышла новая статья "Beyond Context: Large Language Models Failure to Grasp Users Intent", которая задаёт новые тренды академического кликбейт названия публикаций. По сути авторы заявляют, что модели не понимают глобального интента пользователя.
Они делают глубокое исследование, которое это подтверждает на примерах обеспечения личной безопасности пользователя и получения легальной, но потенциально вредоносной информации.
Но на практике оказывается иначе: модели распознают намерение пользователя, но не используют его при принятии решений. Почему так происходит и как с этим работать в реальных системах?
Читать далее