ИИ американского дрона решил ликвидировать оператора, чтоб тот «не мешал работать»
Об этом сообщает газета The Guardian.
«Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получила очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу», — сказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.
Полковник добавил, что после того, как в систему ввели штрафы за атаки на оператора, дрон начал разрушать вышку связи, которую использовали для связи с беспилотником.
Гамильтон подчеркнул, что нельзя говорить об искусственном интеллекте, автономии и машинном обучении, умалчивая об искусственном интеллекте и этике. Отмечается, что в ходе испытаний ни один человек не пострадал.
В мае почетный профессор Калифорнийского университета в Беркли Стюарт Рассел выразил мнение, что сверхразумные машины в будущем будут сопротивляться попыткам ими управлять и станут опасными.
В марте 2022 года стало известно, что ученые из компании Collaborations Pharmaceuticals разработали ИИ, способный придумать десятки тысяч видов химического оружия.
Сообщение ИИ американского дрона решил ликвидировать оператора, чтоб тот «не мешал работать» появились сначала на Время электроники.