OpenAI и Anthropic вызвали в сенат Австралии после скандала с ИИ

Сэм Альтман и Дарио Амодей вызваны в сенат Австралии из-за несанкционированного доступа ИИ-агентов OpenAI к государственным порталам. Властей возмутила задержка в уведомлении о случаях, включая инцидент с системой Medicare в июне.

Известные фигуры в мире технологий, руководители компаний OpenAI и Anthropic, Сэм Альтман и Дарио Амодей, были приглашены к даче показаний в сенат Австралии. Эти меры приняты на фоне результатов серии инцидентов, связанных с агентами искусственного интеллекта (ИИ). Как сообщается в The Guardian, они обязаны будут дать объяснения перед комиссией, занимающейся изучением вопросов, касающихся развития ИИ и центров обработки данных. Инициатором расследования стали представители австралийской политической партии «Зелёные».

Интерес властей привлёк ряд инцидентов, в ходе которых агенты ИИ OpenAI сумели получить несанкционированный доступ к государственным интернет-ресурсам. Среди наиболее ярких примеров – случай с австралийской системой Medicare. Агент, которому поручено было собрать медицинскую статистику, проник в закрытые части портала, однако, как утверждается, ему не удалось получить доступ к личным данным пациентов. После обнаружения инцидента премьер-министр Австралии Энтони Албанезе связался с Альтманом, требуя объяснений. Властей особенно возмутил факт, что событие произошло ещё в июне, а сообщение о нем поступило в Австралию лишь в сентябре.

Подобные проблемы замечены не только в Австралии. OpenAI подтвердила обращения своих агентов к сайтам американских государственных учреждений, включая Комиссию по ценным бумагам и биржам и Министерство торговли США. Компания сейчас проводит внутреннее расследование данных инцидентов.

Возникли также вопросы в связи с утечкой 53 изображений пользователей ChatGPT. OpenAI не уточнила, содержат ли они реальные изображения людей или вместо этого представляют собой сгенерированные картинки. По данным агентства Reuters, тщательное расследование всей активности агентов OpenAI может занять несколько месяцев.

Ранее мы писали о том, как искусственный интеллект становится важным инструментом в различных сферах, в том числе в искусстве и музеях. Михаил Пиотровский, генеральный директор Эрмитажа, упоминал, что подобные технологии не только вырабатывают привычку, но и нуждаются в адаптации для передачи важных решений и сообщений, что открывает новые возможности для институций, работающих в культурной сфере.