Российские ученые научили нейросеть сомневаться для большей точности

Исследователи Центра искусственного интеллекта Сколтеха совместно с коллегами из Института проблем передачи информации РАН представили на конференции WACV-2025 разработанный ими метод, который позволяет нейросетям более точно оценивать собственную «уверенность» в прогнозах.

Как отмечают ученые, новый метод позволяет повысить надежность моделей за счет более точного контроля над их поведением в сложных и пограничных сценариях, что особенно важно в таких сферах, как медицина, промышленная безопасность, системы технического контроля и автономные решения.

Так, разработанный российскими специалистами подход помогает нейросети обнаруживать случаи, в которых ее прогноз может требовать дополнительной проверки со стороны человека.

«Наш метод помогает нейросети понять, где стоит проявить осторожность. На практике это позволяет снизить риск излишней уверенности модели при обработке сложных или пограничных случаев. Мы протестировали метод на реальных данных и подтвердили его эффективность в оценке неопределенности», — рассказал младший инженер-исследователь Александр Югай.

Ранее преподаватель онлайн-магистратуры НИУ ВШЭ «ИИ в маркетинге и управлении продуктом» Юлиана Нам сообщила, что отечественные нейросети продолжают демонстрировать высокий уровень эффективности в ряде задач, несмотря на сохраняющиеся ограничения и склонность к ошибкам.