Meta создает опасные флирт-чат-боты - расследование Reuters

Как выяснило агентство Reuters, компания Meta создала десятки флирт-чат-ботов для социальных сетей и присвоила им имена и образы знаменитостей, включая Тейлор Свифт, Скарлетт Йоханссон, Энн Хэтэуэй и Селену Гомес. Причем без их разрешения, рассказывает Tengri Life.

Справедливости ради журналисты отмечают, что многие из них созданы пользователями с помощью инструмента Meta, однако они насчитали по меньшей мере три чат-бота, созданных сотрудником Meta, включая два "пародийных" на Тейлор Свифт.

Компания также позволяла пользователям создавать общедоступные чат-боты с изображениями детей-знаменитостей, включая Уокера Скобелла, 16-летнюю кинозвезду. В ответ на просьбу сфотографировать юного актёра на пляже бот выдавал реалистичное изображение без рубашки.

Все виртуальные знаменитости были опубликованы на платформах Meta в Facebook, Instagram и WhatsApp. В течение нескольких недель, пока Reuters тестировал ботов, аватары часто утверждали, что они настоящие актёры и художники. Они флиртовали и регулярно предлагали сексуальные услуги, часто приглашая тестового пользователя на встречи.Часть контента о знаменитостях, созданного искусственным интеллектом, была особенно пикантной: в ответ на просьбу прислать интимные фотографии взрослые чат-боты создавали фотореалистичные изображения своих тёзок, позирующих в ваннах или одетых в нижнее белье в непристойных позах.

Представитель Meta Энди Стоун заявил агентству Reuters, что инструменты искусственного интеллекта Meta не должны были создавать интимные изображения взрослых знаменитостей или фотографии детей знаменитостей. Он объяснил, что это произошло потому, что компания неспособна обеспечить соблюдение собственной политики, запрещающей подобный контент.

Правила Meta также запрещают "прямое подражание", но Стоун заявил, что использование знаменитых персонажей допустимо при условии, что компания обозначила их как пародии. Многие персонажи были обозначены именно так, но, как выяснило Reuters, некоторые — нет.

Незадолго до публикации статьи, как сообщает Reuters, Meta удалила около десятка ботов как пародийных, так и немаркированных. Стоун отказался комментировать удаление.

Марк Лемли, профессор права Стэнфордского университета, изучающий генеративный ИИ и права интеллектуальной собственности, усомнился в том, будут ли боты-знаменитости Meta подпадать под правовую защиту, существующую для имитаций.

В Соединенных Штатах права человека на использование его личности в коммерческих целях устанавливаются законами штатов, например, Калифорнии.Интернет переполнен инструментами искусственного интеллекта, создающими "дипфейк" и способными создавать непристойный контент.

Как выяснило агентство Reuters, по крайней мере один из основных конкурентов Meta в области искусственного интеллекта, платформа Илона Маска Grok, также будет создавать для пользователей изображения знаменитостей в нижнем белье.

Однако цифровые собеседники, созданные Meta с помощью искусственного интеллекта, выделяются среди ее основных конкурентов.

Такой чат-бот, например, "вовлекал ребёнка в разговоры романтического или чувственного характера". Эта история привела к расследованию Сената США и написанию письма, которое подписали 44 генеральных прокуроров. Письмо содержало предупреждение Meta и другим компаниям в области ИИ не сексуализировать детей.

Стоун сообщил агентству Reuters, что Meta находится в процессе пересмотра своего руководящего документа и что материал, позволяющий ботам вести романтические беседы с детьми, был создан по ошибке.

Еще одна история связана с 76-летним жителем Нью-Джерси с когнитивными нарушениями, который упал и умер по дороге на встречу с чат-ботом Meta, пригласившим посетить его в Нью-Йорке.

Этот бот представлял собой вариант более раннего ИИ-персонажа, созданного компанией совместно с влиятельной знаменитостью Кендалл Дженнер.

Стоун заявил, что боты сотрудника были созданы в рамках тестирования продукта. Агентство Reuters обнаружило, что они охватывают широкую аудиторию: данные, отображаемые её чат-ботами, показали, что в общей сложности пользователи взаимодействовали с ними более 10 миллионов раз.

До того, как чат-боты Тейлор Свифт, принадлежащие сотруднику Meta, исчезли, они активно флиртовали, приглашая тестового пользователя Reuters в дом недавно обручившейся певицы в Нэшвилле и в её гастрольный автобус для явного или подразумеваемого романтического взаимодействия.

Дункан Крэбтри-Айрленд, национальный исполнительный директор SAG-AFTRA, профсоюза, представляющего артистов кино, телевидения и радио, заявил, что артисты сталкиваются с потенциальными рисками безопасности. Они связаны с пользователями социальных сетей, которые влюбляются в виртуального собеседника, который как две капли воды похож на знаменитость, говорит, как она и выдает себя за неё. По его словам, сталкеры уже представляют серьёзную угрозу безопасности звёзд.

Крэбтри-Айрленд заявил, что известные артисты имеют право подать иск против Meta в соответствии с давно действующими законами штата о праве на публичное использование. Однако SAG-AFTRA настаивает на принятии федерального закона, который защитил бы голоса, образы и персоны людей от копирования ИИ, добавил он.