Систему видеонаблюдения обманули картонкой
Искусственный разум может делать то, что обычному человеку не под силу — но в то же время он куда более наивен. Нейросеть, которая распознает человека в кадре, обмануть довольно таки просто — и бельгийские ученые это подтвердили.
Исследователи из Левенского католического университета показали, что небольшая картинка на куске картона может полностью скрыть человека от взора нейросети. По сути, это пример так называемой состязательной атаки. В ее основе — применение состязательных изображений, которые заставляют нейросеть видеть совсем другой объект.
Пример обмана показан на видео ниже. Для своего эксперимента ученые взяли YOLOv2 — специальный алгоритм распознавания, который в ответ на полученное изображение выделяет прямоугольниками объекты, которые он узнал. Изначально алгоритм узнает двоих людей в кадре. Но когда один из этих двоих берет в руки лист картона с изображением, или прикрепляет лист себе на пояс — нейросеть теряет человека из виду.
Эксперимент бельгийских ученых четко показывает, насколько все еще уязвимы системы распознавания. Просто наклеив специально созданное изображение на любой реальный объект (например, машину), такую систему легко одурачить.