Эксперт в области ИИ Лещенко назвал три причины галлюцинаций нейросетей
Нейросети часто выдают ошибочные или выдуманные ответы на вопросы пользователей под влиянием трех факторов. Об этом в комментарии 360.ru рассказал эксперт в области искусственного интеллекта и управления знаниями Владимир Лещенко.
Он пояснил, что неверные сведения в ответах нейросетей связаны прежде всего с данными, на которых они обучались. Если в какой-то информации была ошибка, то ИИ ее просто не видит и убежден, что дал верный ответ.
«Данные, на которых они работают, — очень часто данные интернета, каких-то чатов, возможно, литературных произведений», — сказал Лещенко.
Вторым фактором эксперт назвал устройство самой нейросети и заложенный в нее способ обработки информации. Кроме того, результат зависит от запроса пользователя: изменение формулировки способно повлиять на ответ модели.
«Также галлюцинации возникают исходя из недостаточности данных, и модель начинает креативить. А некоторые модели, если данных нет, пишут: „У меня нет данных, я не могу дать такой ответ“. Здесь все зависит от настроек», — объяснил эксперт.
Какие ошибки совершают нейросети, как это влияет на жизни людей, а также о рисках, которые несет ИИ для человечества, — в
нашей статье
.