CNN: ИИ мог вызвать войну из-за ошибочного отчета о грузе

Весной военные США почти перехватили китайское судно на Ближнем Востоке из-за ошибочного отчета ИИ о ядерных грузах. CNN сообщает, что анализ был неправильно интерпретирован, что могло привести к конфликту между США и Китаем.

Весной военнослужащие США едва не захватили китайское судно на Ближнем Востоке, после того как аналитический отчет, созданный с помощью Искусственного Интеллекта, ошибочно указал на перевозку компонентов ядерной программы. Об этом сообщил телеканал CNN, ссылаясь на свои источники.

По информации телеканала, американские военные начали готовиться к операции перехвата, когда самолеты уже находились в воздухе. Однако перед началом операции они провели тщательную проверку отчета и выяснили, что аналитический чат-бот неверно определил характер груза на судне. От телеканала не удалось получить сведения о том, что на самом деле находилось на борту.

"Отчет был полностью ложным", - сообщил один из источников телекомпании. Он также отметил, что эта ситуация "едва не привела к войне".

По мнению CNN, любая потенциальная операция США против китайского судна могла перерасти в конфликт между двумя державами. Как стало известно, аналитик обратился к чат-боту с просьбой проанализировать разведданные, предоставленные Тихоокеанским командованием специальных операций США. Система объединила информацию из открытых источников с секретными данными радиоэлектронной разведки, что привело к неправильным выводам о характере груза. Аналитик затем снова применил ИИ для оформления отчета, которому, как правило, доверяют американские военные, и распространил его.

Телеканал CNN сообщает, что вооруженные силы и разведывательное сообщество США все больше внедряют Искусственный Интеллект для анализа разведданных и выбора целей. Вовлеченные подразделения пользуются разными системами и стандартами безопасности, а единые проверки информации, сгенерированной ИИ, пока отсутствуют.

Источник CNN сообщил, что интеграция ИИ при выборе целей стремительно нарастает, однако четких руководящих принципов для предотвращения гибели гражданских или дружеского огня пока разработано не было.

Ранее мы писали о том, что США рассматривают стратегии для противодействия растущему военному влиянию Китая, включая планы по атаке китайских авианосцев. Эксперты подчеркивали необходимость проактивных действий со стороны Соединённых Штатов и их союзников для балансировки сил в регионе. В рамках этих стратегий также планируется расширение подводного флота и запуск производства новых беспилотников, таких как MQ-25A Stingray, для усиления возможностей ВМС США.