За 11 дней Grok Илона Маска создал около 3 млн изображений сексуального характера, в том числе 23 тыс. изображений детей
Приложение Grok, которое, как сообщается, по-прежнему генерирует изображения, остается доступным в App Store от Apple и Play Store от Google.
Grok от xAI засыпал X изображениями сексуального характера с участием реальных людей, созданными без их согласия. Но теперь появились данные, позволяющие оценить масштаб ситуации. За 11 дней Grok сгенерировал около 3 миллионов изображений сексуального характера, включая примерно 23 000 изображений детей.
Иными словами, за этот 11-дневный период Grok создавал примерно 190 изображений сексуального характера в минуту. При этом изображение сексуального характера с участием детей появлялось примерно раз в 41 секунду.
Центр по борьбе с цифровой ненавистью (CCDH) опубликовал свои выводы. Британская некоммерческая организация основывала свои выводы на случайной выборке из 20 000 изображений Grok, полученных в период с 29 декабря по 9 января. Затем CCDH экстраполировал более широкую оценку, основанную на 4,6 миллионах изображений, сгенерированных Grok за этот период.
В исследовании сексуализированные изображения определялись как изображения, содержащие «фотореалистичные изображения человека в сексуальных позах, ракурсах или ситуациях; человека в нижнем белье, купальнике или подобной откровенной одежде; или изображения, изображающие половые жидкости». В исследовании CCDH не учитывались запросы на изображения, поэтому оценка не различает сексуализированные версии реальных фотографий, созданные без согласия, и те, которые были созданы исключительно на основе текстового запроса.
9 января xAI ограничила возможность редактирования существующих изображений Grok только для платных пользователей. Это не решило проблему, а просто превратило функцию в платную. Пять дней спустя X ограничила возможность Grok цифровым способом раздевать реальных людей. Но это ограничение касалось только X, отдельное приложение Grok, продолжает генерировать эти изображения.