Миллионы женщин раздевают в нейросетях за два-три клика - попасть может каждый
О новой острой проблеме, связанной с развитием нейросетей пишет американское издание Wired Magazine
История Сары: когда алгоритм ломает жизнь
Чтобы понять масштаб беды, взгляните на случай, произошедший недавно в одной из школ Нью-Джерси. Группа подростков использовала популярный сервис «нудификации», чтобы «раздеть» более 30 своих сокурсниц. Среди жертв были девочки 13–14 лет.
Когда родители обратились в полицию, выяснилось: сервис работает легально, рекламируется в соцсетях, а оплата подписки проходит через те же системы, которыми мы платим за кофе. Фотографии разлетелись по сети мгновенно. Удалить их невозможно — интернет помнит всё. Для этих девочек школа превратилась в ад, а их цифровая репутация была уничтожена еще до получения аттестата.
Это и есть «цифровое изнасилование» — акт насилия, совершенный не в подворотне, а на серверах, которые стоят миллиарды долларов.
Кто «греет» серверы для насильников?
Мы привыкли считать ИИ-гигантов светочами прогресса. Но исследование группы Indicator срывает с них маски. Оказывается, за ширмой инноваций скрывается банальное пособничество.
Из 85 крупнейших площадок, специализирующихся на создании интимных дипфейков:
62 сайта используют мощности Amazon Web Services и Cloudflare. Без этих «облаков» сайты просто бы рухнули под наплывом трафика.
54 платформы позволяют входить через аккаунт Google. Это высшая степень цинизма: корпорация, которая декларирует безопасность детей, дает ключ от своего дома владельцам порно-ботов.
Почему они это делают? Ответ прост — $36 миллионов в год. Это лишь верхушка айсберга, «консервативная оценка» доходов индустрии, которая растет быстрее, чем законодатели успевают дописывать абзацы в кодексах.
Технология обмана: как они обходят запреты
Корпорации оправдываются:
«Мы блокируем нарушителей»
Но расследование показывает обратное. Создатели «раздевалок» используют хитрые схемы «промежуточных страниц». Когда модератор Google проверяет ссылку, он видит безобидный лендинг. Но стоит пользователю нажать кнопку «Войти», как он проваливается в кроличью нору незаконного контента.
Эксперт по дипфейкам Генри Адждер прямо говорит: это больше не кустарные поделки. Это профессиональный незаконный бизнес. Сайты нанимают взрослых актеров для рекламы, запускают партнерские программы и даже используют российских хакеров для продвижения. Они ведут себя как легальные стартапы, потому что Кремниевая долина позволяет им чувствовать себя как дома.
Ловушка «либерального подхода»
Алексиос Манцарлис из Indicator называет это «либеральным подходом Долины к ИИ». На деле это означает: «Мы дадим вам инструменты, а что вы ими будете делать — резать хлеб или вскрывать вены соседу — не наша забота, пока вы платите за хостинг».
Этот токсичный продукт эпохи ИИ невозможно просто «отменить», но его можно обескровить. Если Amazon отключит серверы, а Google заблокирует авторизацию, аудитория этих сайтов рухнет. Однако пока прибыль перевешивает этические издержки, корпорации будут отделываться дежурными фразами о «постоянной работе над безопасностью».
Время жестких решений
В мае президент США Дональд Трамп подписал закон Take It Down, а Великобритания полностью криминализировала создание таких дипфейков. Это важные шаги, но закон всегда медленнее кода.
Проблема не в том, что нейросети «научились» раздевать. Проблема в том, что мы построили цифровую экономику, где унижение женщины стоит $9.99 за подписку, а крупнейшие компании мира не стесняются брать с этих денег свой процент.
Если мы не заставим технологических гигантов нести ответственность за «грязь», которую они хостят, то завтра в цифровой прицел попадет каждый из нас. И оправдаться перед миром будет невозможно.
]]>