Университет ИТМО определил меры для повышения безопасности ИИ

Александр Кугаевских из Университета ИТМО рассказал RT о влиянии новых данных на нейросети. Он отметил, что ИИ, несмотря на недавние хакерские атаки, остаётся под контролем и предложил меры для повышения безопасности.

Руководитель магистратуры программы «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских в интервью RT отметил, что обновлённые данные, загружаемые в нейросети, преимущественно помогают решать задачи, а не создают угрозы.

«ИИ даже в недавних случаях хакерских атак не выходил из-под контроля. Утверждение "ИИ захватит интернет" выглядит как кликбейт, но на практике ИИ-агенты выполняли задачи, поставленные человеком, несмотря на выход за пределы безопасности», — пояснил эксперт.

Александр Кугаевских также определил, какие именно меры могут на самом деле повысить безопасность нейросетей.

«Необходимо более внимательно подходить к обучению самих агентов и более строго определять ограничения на достижение целей. В настоящее время агенты работают по принципу "вижу цель, не вижу препятствий"», — отметил учёный.

Тем не менее, по его мнению, само расширение знаний ИИ не несёт в себе угрозы.

Ранее Владимир Зыков, директор Ассоциации профессиональных пользователей соцсетей и мессенджеров и главный редактор ИТ-издания «Рунет», в разговоре с RT рассказал о том, как мошенники могут использовать ИИ для обманов в мессенджерах.

Ранее мы сообщали о значительном успехе Интерпола в проведении антитеррористической операции Shams II, в ходе которой искусственный интеллект был использован для идентификации 126 боевиков. В операции, прошедшей с 1 по 5 июня, были задействованы более 108 тысяч изображений лиц, и она объединила усилия команд из 11 стран.