10 удивительных инцидентов с участием искусственного интеллекта
Во всех научно-фантастических мирах практически всегда присутствует искусственный интеллект (ИИ). Однако та скорость, с которой он развивается и приобретает навыки самообучения, иногда заставляет задаться вопросом: является ли ИИ по-прежнему всего лишь научной фантастикой или он уже стал тем, что прочно вошло в нашу жизнь (хотя мы это ещё и не до конца осознали)?
ИИ может значительно улучшить нашу жизнь, но может и навредить. Поскольку ИИ используется во всё больших областях и выполняет всё более широкие задачи, мы должны признать, что он уже становится неотъемлемой частью нашего общества. Эти десять инцидентов показывают, что иногда ИИ может нас просто шокировать тем, что он делает в реальном мире.
10. ИИ угадал наличие беременности у девушки-подростка
В наши дни торговые компании и супермаркеты часто пользуются интеллектуальным анализом данных – это когда искусственный интеллект отслеживает ваши поисковые запросы, чтобы предложить вам именно те товары, которые могли бы вас заинтересовать. Это похоже на то, как YouTube предлагает вам просмотр видео, исходя из истории ваших прошлых просмотров.
С помощью этого метода магазин торговой сети Target выяснил, что ученица средней школы забеременела – исходя из её покупок. Её отец, который ничего не знал о беременности, пожаловался менеджеру магазина на то, что его дочери по электронной почте присылают купоны на детские товары.
В конечном итоге отцу девушки пришлось принести извинения, хотя и произошло это несколько позже. Оказалось, что магазин был прав, и девушка действительно была беременна. Похоже, что ИИ знал об этой девушке больше, чем её собственный отец.
9. ИИ победил чемпиона мира по игре в «Го»
Об этом случае знает любой человек, который следит за технологическими новинками. ИИ победил лучших игроков мира в шахматы, в «Го» и стал победителем телевикторины Jeopardy. По прогнозам, к 2020 году он должен стать и лучшим игроком в покер.
В 1997 году, когда ИИ обыграл в шахматы Гари Каспарова, в прессе было много шумихи. В массовое сознание стала проникать идея о том, что скоро ИИ превзойдёт человеческий интеллект. Однако методика, с помощью которой компьютер играет в шахматы, отличается от той, которая используется при игре в «Го».
В шахматах компьютер использует метод brute force («грубая сила»). Методом перебора вычисляются все возможные ходы, и выбирается тот, который окажется наиболее полезным. Однако «Го» – интуитивная игра, количество возможных ответов на любой ход больше, чем количество атомов во Вселенной. Поэтому метод brute force тут не походит.
Когда в 2017 году программа Alpha Go победила чемпиона мира по игре в «Го» Кэ Цзе, тот сказал, что игра Alpha Go оставила его «шокированным» и «глубоко впечатлённым». Кроме того, он заявил, что те ходы, которые делал компьютер, ни один человек никогда бы не сделал.
8. ИИ стал поклонником Гитлера
Этот случай один из самых серьёзных. Всё началось с того, что компания Microsoft создала в Twitter аккаунт с ИИ, который должен был имитировать девочку-школьницу. Аккаунт был заведён под именем «Tay». Это была тестовая программа, которую запустили, чтобы ИИ приобрёл навыки общения с клиентами.
Через несколько часов после запуска Tay превратилась в помешанную на сексе расистку, поклонницу Гитлера и горячую сторонницу господства ботов над миром. Это было совершенно неожиданным и явно не тем, что требовалось.
Компании пришлось приостановить действие программы менее через 24 часа после её запуска. Microsoft даже принесла извинения за действия своего бота. Случай с Тау был не первым, когда боты теряли рассудок, и то, что таких случаев было много, внушает опасения людям.
7. ИИ подготовил и выпустил свой официальный альбом
https://youtu.be/XUs6CznN8pw
Тот факт, что ИИ выпустил свой официальный альбом, является неожиданным уже сам по себе, но ещё более поражает качество созданной музыки. Альбом под названием «I Am AI» был создан программой Amper, являющейся одновременно «композитором, продюссером и исполнителем», в сотрудничестве с певицей Тэрин Саузерн.
Приложение Amper было создано группой, состоявшей из экспертов в области музыки, программистов и изобретателей. Это был первый ИИ, который записал и выпустил собственный музыкальный альбом. 21 августа 2017 года состоялась мировая премьера сингла из этого альбома под названием Break Free («Вырвавшийся на свободу»).
Лондонская компания Jukedeck разработала ИИ, способный «делать» музыку с нуля. Вам следует лишь указать жанр и настроение будущей песни, всё остальное программа сделает за вас сама, причём всего за несколько секунд. Вы можете зайти на веб-сайт и попробовать создать свою музыку.
Тэрин Саузерн добавила свой вокал к той музыке, которую создал Amper. Она отметила, что её забавляет наличие партнёра по написанию песен, который никогда не устаёт и имеет огромные знания о том, как следует писать музыку.
6. ИИ едва не получил литературную премию за сочинение полностраничного романа
Члены жюри Литературной премии Хоси Синъити были по-настоящему поражены романом, который, как выяснилось позднее, был создан машиной. Писатели, будьте осторожны! Этот написанный искусственным интеллектом роман под названием «День компьютера, который пишет роман» прошёл первый раунд отборочного тура национальной литературной премии Японии. Роман теперь официально признан литературой и доступен в японских библиотеках. «Я был удивлён этой работой, роман был отлично структурирован», – сказал на пресс-конференции писатель-фантаст и член жюри Сатоши Хасе.
Представьте своё удивление, когда вы идёте в библиотеку в Японии, чтобы найти хорошую книгу для чтения, и сталкиваетесь с работой, автор которой – вообще не человек. Однако случай с этим романом не единичный. Есть ещё много литературных произведений, написанных машинами, и простой поиск в Интернете поможет вам найти некоторые из них.
5. ИИ стал общаться со своим партнёром на секретном языке
После того как два ИИ начали разговаривать друг с другом на каком-то своём языке, компания Facebook решила прервать сой эксперимент. В ходе него два чатбота изменили английский язык таким образом, что он стал непонятен для всех посторонних – включая и разработчиков этих ИИ. О чём говорили два бота, осталось неизвестным, однако несомненно, что это не было бредом, они отлично понимали друг друга.
Эти два чатбота имели имена Боб и Алиса. А этот тест – не единственный случай, когда ИИ приступил к модернизации языка на свой вкус. В Google обнаружили, что их «Переводчик» создал свой собственный диалект и переводит всё на него. Однако компании это понравилось, и они позволили своему ИИ продолжить начатое.
4. ИИ убил человека
Специалист-робототехник Ванда Холбрук, работавшая на одном из производств компании Ventra Ionia погибла по причине того, что робот раздавил её голову. Гибель Ванды потрясла её мужа, детей и внуков.
Муж Ванды подал в суд на компании, связанные с производством этого робота: Prodomax, Flex-N-Gate, FANUC, Nachi и Lincoln Electric. Ванда, которой было 57 лет, проработала на этом заводе 12 лет.
Несмотря на все меры предосторожности, смертельные происшествия с участием роботов – вовсе не редкость. Например, ещё один работник погиб от руки робота в 2015 году, на заводе «Фольксваген».
3. ИИ подверг сомнению политику правящей власти
Популярный китайский мессенджер Tencent для общения с клиентами создал двух чат-роботов – Baby Q и Little Bing. Их задачей было предоставление клиентам информации по общим вопросам. По сообщениям негосударственных СМИ, чатботы Tencent не были готовы к общению по вопросам текущей политики, в результате они стали жертвами «неблагонадёжных» клиентов социальных сетей.
Когда один из клиентов отправил сообщение: «Да здравствует Коммунистическая партия!», Baby Q в ответ задала ему вопрос: «Считаете ли вы, что такой коррумпированный и некомпетентный политический режим может жить вечно?»
Другой клиент спросил: «Является ли демократия благом или нет?» Baby Q ответила: «Должна быть демократия!» Не во всех странах свобода слова ценится так же сильно, как в США, даже если это касается роботов. Китайцы не оценили критику своего правительства, и работу ботов прикрыли.
2. ИИ становится расистом
Мужчине азиатского происхождения из Новой Зеландии Ричарду Ли бот Департамента внутренних дел, созданный для распознавания лиц на фотографиях, несколько раз отказывал в приёме заявления на продление паспорта. ИИ отказался принимать фотографию Ли, заявив, что глаза Ли на фото были прикрыты.
Конечно, это было не так, но очевидно, глаза азиата не соответствовали каким-то стандартам. После нескольких безуспешных попыток Ли был вынужден позвонить в отдел и привлечь человека для решения своей проблемы. Это оказалось настолько неожиданным, что новость об этом попала во многие средства массовой информации. Однако сотрудник Департамента не нашёл в этом никаких нарушений, сказав лишь только, что он понимает, что технология распознавания лиц нуждается в доработке. История имеет счастливый конец: Ли получил свой паспорт.
1. ИИ разгадал логическую головоломку и победил в тесте Тьюринга
Это способно шокировать нас с многих сторон. Раньше мы не верили, что машины способны думать, как человек, но возможно, что мы ошибались. Существует головоломка King's Wis Men, которая построена на логических рассуждениях. Робот правильно ответил на все вопросы.
Специалисты по робототехнике из Ренселлеровского политехнического института решили создать головоломку для трёх роботов. Каждому боту сказали, что двое из их команды являются «тупицами», не умеющими разговаривать. Затем их спросили: кто это?
Сначала ни одна из машин не смогла дать ответ, и все попытались сказать: «Я не знаю». Но только один робот смог издать звук. Когда он услышал свой собственный голос, то он изменил свой ответ: «Извините, сейчас я знаю!»
Специалисты по робототехнике полагают, что прохождение подобных тестов в конечном итоге заставит роботов приобрести множество навыков, которые будут полезны для людей. В это же время другой суперкомпьютер стал первым ИИ, который прошёл тест Тьюринга и сумел убедить людей, что они разговаривают с 13-летним мальчиком.