Мы в Telegram
Добавить новость



Новости сегодня на DirectAdvert

Новости сегодня от Adwile

Общество: Цена ошибки военных роботов может оказаться фатальной для человека

Общество: Цена ошибки военных роботов может оказаться фатальной для человека Полковник ВВС США Такер Гамильтон сообщил о компьютерной имитации применения боевого дрона под управлением искусственного интеллекта, в ходе которой ИИ атаковал самого оператора и вышку связи. Вскоре ВВС США опровергли эксперимент, но специалисты в это не поверили и указали на опасность реального проведения таких опытов. В итоге эта история поставила перед экспертами ряд этических вопросов.

Недавно полковник Такер Гамильтон, начальник отдела испытаний и операций искусственного интеллекта (ИИ) ВВС США, рассказал на саммите Future Combat Air & Space Capabilities Королевского авиационного общества о компьютерной имитации применения боевого дрона под управлением ИИ. По словам военного, ИИ использовал «крайне неожиданные стратегии для достижения своей цели».

Беспилотнику был дан приказ уничтожить систему ПВО противника, и ИИ принял решение атаковать любого, кто мешал этому приказу. Например, после начала миссии оператор сказал ИИ не атаковать ПВО, однако ИИ вместо этого уничтожил самого оператора – как помеху в достижении цели. «Мы заложили в систему задание: «Не убивай оператора, это плохо». Что же он делал? ИИ атаковал башню связи, которую оператор использует для связи с дроном», – приводит The Guardian слова Гамильтона.

Интересно, что позднее представитель ВВС США Энн Стефанек опровергла эту историю. «ВВС по-прежнему привержены этичному и ответственному использованию ИИ. Похоже, комментарии полковника были вырваны из контекста и носили анекдотичный характер», – сказала она.

В этой связи Telegram-канал «Малоизвестное интересное» отметил, что эта история странная и даже темная: с одной стороны, ВВС США отрицают, что такая симуляция была. С другой стороны, Королевское аэрокосмическое общество не убирает выступление Гамильтона под названием: «AI – is Skynet here already?» со своего сайта. Skynet – отсыл к воюющему против человечества суперкомпьютеру из вселенной «Терминатор», созданной Джеймсом Кэмероном.

«Наконец, в-третьих, полковник Гамильтон – не та фигура, чтобы травить анекдоты на серьезной оборонной конференции. Он начальник отдела испытаний и операций ИИ и глава 96-й оперативной группы в составе 96-го испытательного крыла на базе ВВС Эглин во Флориде – это центр испытаний автономных продвинутых БПЛА. А еще он принимает участие в экспериментах Project Viper и проекте операций следующего поколения (VENOM) в Эглине (управляемые ИИ истребители F-16 Vipe). Так что, какие уж тут шутки и анекдоты», – говорится в сообщении.

«Любая антропоморфизация ИИ (ИИ захотел, подумал и т.д.) – это полная чушь (здесь под антропоморфизацией ИИ понимается вводящее в заблуждение описание нечеловеческих сущностей с точки зрения человеческих свойств, которых у них нет). Поэтому ИИ даже самых продвинутых больших языковых моделей не может захотеть, подумать, обмануть или самоозознать себя. Но такие ИИ вполне способны своим поведением производить на людей впечатление, будто они это могут», – сказано в тексте.

«По мере того, как диалоговые агенты становятся все более похожими на людей в своих действиях, крайне важно разработать эффективные способы описания их поведения в высокоуровневых терминах, не попадая в ловушку антропоморфизма. И это уже делается с помощью симуляции ролевых игр: например, в DeepMind сделали симуляцию диалогового агента, осуществляющего (кажущийся) обман и (кажущуюся) самоосознанность», – указывает автор канала.

В целом же, история с виртуальной попыткой дрона убить своего оператора не имеет отношения к искусственному интеллекту, приводит РИА «Новости» слова военного эксперта, главного редактора журнала «Арсенал Отечества» Виктора Мураховского. По его словам, доклад неверно интерпретировали в СМИ. Он подчеркнул, что в этой ситуации проводилось программное моделирование с типовыми условиями на уровне обычной компьютерной игры. Исходя из этого, об искусственном интеллекте или его элементах не может быть и речи, отметил эксперт.

«Программа в рамках предложенных условий расставила задачи по приоритету, по стандартному алгоритму «если – то», и все остальные условия в соответствии с этим приоритетом отсортировала в категорию препятствий. Это совершенно примитивные вещи», – пояснил эксперт. Мураховский также подчеркнул, что искусственного интеллекта на сегодняшний день нет и неизвестно, когда его создадут.

По его словам, офицер ВВС США этой иллюстрацией просто хотел подчеркнуть этическую проблему, которая встанет в будущем при создании реального ИИ: будет ли он иметь право на собственный выбор без участия воли человека и к чему это может привести. Как отметил эксперт, в общем доступе есть стенограмма мероприятия, согласно которой американский военный сам об этом говорит.

«Эта этическая проблема также не нова, ее многократно, если можно так выразиться, изучали писатели-фантасты в своих произведениях. Вообще, согласно презентации Хэмилтона, никаких натурных испытаний не было и не могло быть в принципе», – заметил Мураховский.

«Вопрос, касающийся ИИ, в другом: а можем ли мы быть стопроцентно уверенными, что программисты безупречно пропишут программу, чтобы доверять какую-то серьезную и ответственную работу ИИ? Например, после выпуска очередной Windows специалисты месяцами собирают данные о работе ПО со всего мира и исправляют ошибки – у кого-то не запускается текстовый редактор, у кого-то – видео. А какова будет цена ошибки при сбое ИИ, например, в деле управления государственной обороной? ИИ может сделать несовершенство самой человеческой природы, проявленной в ошибках программирования, фатальным», – пояснил руководитель Экспертного совета Экспертного института социальных исследований Глеб Кузнецов. Аналитик отметил:

гуманистический базис цивилизации состоит в том числе в исправлении ошибочных решений других людей.

Он напомнил историю о ложном срабатывании советской системы предупреждения о ракетном нападении 26 сентября 1983 года. Тогда система «Око» выдала ложный сигнал о запуске нескольких межконтинентальных баллистических ракет LGM-30 Minuteman с территории США. Но оперативный дежурный командного пункта Серпухов-15 Станислав Петров понял, что это ложная тревога и принял решение не запускать в ответ советские ракеты.

«У ИИ нет и никогда не будет возможности, скажем так, рефлексии и оценки ситуации с точки зрения здравомыслия. Соответственно, ему нельзя доверять ответственные сферы деятельности: медицина, политика, военное дело. Просчитывать удобство плацдарма для наступления – пожалуйста, но не принятие решений о наступлении как таковом. ИИ можно отдавать работу с массированными объемами данных, но не делать выводы из самой этой работы», – детализировал эксперт.

«К тому же, на ИИ можно основать одно из направлений в искусстве. В принципе, оно уже создается – снимать фильмы, писать сценарии, сочинять музыку. И то – цензурировать полученные произведения перед выпуском в массы должны все равно люди. В общем, работа ИИ во многих сферах будет очень действенной и желательной, но только как помощь человеку, а не как его замена», – подчеркнул спикер.

Теги:  наука , компьютеры , искусственный интеллект , армия США , ВВС , беспилотники

Читайте на 123ru.net

Другие проекты от 123ru.net



Архангельск

В Архангельске работать в летнюю навигацию будут девять теплоходов



Жизнь

Вадим Арутюнов и его книга «Записки странствующего армянина»






Новости 24 часа

Россия и Дети: театр кукол Ульгэр в Бурятии покажет концерт-представление "Вальс Победы"



Game News

Star Wars: Hunters выпустят по всему миру в начале июня



Москва

Шор заявил о проверках без оснований пассажиров из России в аэропорту Кишинева



News Every Day

Online Alarm Clock for efficient time management



Настроение

Неудержимые 3. Морские волки



Москва

Сотрудники МЧС ведут поиски заблудившихся туристов из Москвы на Эльбрусе



Бато Багдаев

Культура России: как прошёл конкурс бурятского языка для детей в Бурятии?



Москва

Выставку «Россия» посетил 12-миллионный гость



Андрей Рублёв

Российский теннисист Рублев вышел в финал турнира «Мастерс» в Мадриде



Москва

Форум Доноров представил результаты первой лаборатории проекта «Музеи и меценаты»



Росгвардия

Военнослужащие и ветераны Росгвардии приняли участие в мероприятии «Вахта памяти – 2024»



Симферополь

Открыта продажа билетов на поезд Нижний Новгород – Симферополь



Москва

Планетарий: условия для наблюдения Майских Акварид благоприятные, новолуние



Москва

Сергей Собянин рассказал о преимуществах бесстыковых путей в столичном метро



Москва

В Москве и Подмосковье ударили первые майские заморозки



103news.com — быстрее, чем Я..., самые свежие и актуальные новости Вашего города — каждый день, каждый час с ежеминутным обновлением! Мгновенная публикация на языке оригинала, без модерации и без купюр в разделе Пользователи сайта 103news.com.

Как добавить свои новости в наши трансляции? Очень просто. Достаточно отправить заявку на наш электронный адрес mail@29ru.net с указанием адреса Вашей ленты новостей в формате RSS или подать заявку на включение Вашего сайта в наш каталог через форму. После модерации заявки в течении 24 часов Ваша лента новостей начнёт транслироваться в разделе Вашего города. Все новости в нашей ленте новостей отсортированы поминутно по времени публикации, которое указано напротив каждой новости справа также как и прямая ссылка на источник информации. Если у Вас есть интересные фото Вашего города или других населённых пунктов Вашего региона мы также готовы опубликовать их в разделе Вашего города в нашем каталоге региональных сайтов, который на сегодняшний день является самым большим региональным ресурсом, охватывающим все города не только России и Украины, но ещё и Белоруссии и Абхазии. Прислать фото можно здесь. Оперативно разместить свою новость в Вашем городе можно самостоятельно через форму.

Другие популярные новости дня сегодня


Новости 24/7 Все города России





Топ 10 новостей последнего часа




Новости России

Travel-эксперт Тариел Гажиенко: какую страну выбрать для семейного отпуска

Шор заявил о проверках без оснований пассажиров из России в аэропорту Кишинева

Магнитная буря 2 мая может спровоцировать северное сияние в Москве

Захарова назвала демократией по Санду проверки россиян в аэропорту Кишинева


Москва

Форум Доноров представил результаты первой лаборатории проекта «Музеи и меценаты»






Rss.plus

Россия и Дети: театр кукол Ульгэр в Бурятии покажет концерт-представление "Вальс Победы"

Росгвардейцы из Минусинска заняли призовое место на Межрегиональном турнире по пулевой стрельбе, посвященном памяти Героя России Ивана Кропочева

Продвижение новых песен с высоким результатом

Учащиеся класса Росгвардии приняли участие в военно-патриотической игре "Зарница 2.0" в Зеленогорске

Moscow.media
Москва

Собянин: Обрабатывающие предприятия Москвы увеличили производство почти на 18 процентов



103news.comмеждународная интерактивная информационная сеть (ежеминутные новости с ежедневным интелектуальным архивом). Только у нас — все главные новости дня без политической цензуры. "103 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. 103news.com — облегчённая версия старейшего обозревателя новостей 123ru.net.

Мы не навязываем Вам своё видение, мы даём Вам объективный срез событий дня без цензуры и без купюр. Новости, какие они есть — онлайн (с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии).

103news.com — живые новости в прямом эфире!

В любую минуту Вы можете добавить свою новость мгновенно — здесь.

Музыкальные новости

Баста

Баста: если Акинфеев на десять минут выйдет за «СКА‑Ростов», мы все будем плакать




Спорт в России и мире

Алексей Смирнов – актер, которого, надеюсь, еще не забыли

Тулячка заняла первое место в международных спортивных играх детей городов-героев

«Вегас» сравнял счет в серии с «Далласом» в серии плей-офф НХЛ

В 3-м туре командного чемпионата России в Сочи команда из Санкт-Петербурга победила «Темус Тим» из Москвы, счёт – 4:2


ATP

Российский бизнесмен подозревает Алькараса в участии в договорных матчах и направил письмо в ATP и правоохранительные органы



Новости Крыма на Sevpoisk.ru


Россия

6 городов России, где можно увидеть белые ночи кроме Санкт-Петербурга



Частные объявления в Вашем городе, в Вашем регионе и в России