В АЮР рассказали, как власти могут защитить россиян от дипфейков
Нейросети уже давно научились воспроизводить голос и изображение человека. Они позволяют легко манипулировать аудио- и видеоконтентом, поэтому отличить ложь от правды становится все сложнее. Дипфейки портят людям репутацию и применяются крупными мошенниками — в США их считают угрозой национальной безопасности и законодательно регулируют. Чтобы защитить права граждан, России также важно проработать ограничительные меры совместно с международным сообществом, убеждены эксперты.
С момента создания технологии генеративно-состязательной нейросети (GAN), которая дает возможность создавать дипфейки, прошло уже больше шести лет. Ее в 2014 году разработал студент Стэнфордского университета Ян Гудфеллоу. Система подразумевает реалистичную манипуляцию аудио- и видеоматериалами с помощью искусственного интеллекта. Она заставляет говорить человека то, что он не произносил, и делать то, что он никогда не делал.
За последние годы грань между реальностью и виртуальным миром практически стерлась — тем временем без должного контроля и в неправильных руках технологии превращаются в полную противоположность того, для чего были задуманы, и становятся реальной опасностью. Так произошло и с дипфейками.
Высокореалистичные фейковые фото и видео могут использоваться для дезинформации, мошенничества, кибербуллинга и провокаций. Злоумышленники меняют лицо человека на видео и обвиняют его в правонарушении, шантажируют родственников или влияют на избирателей путем вброса фейковых видео в интернет.
Так, по сети ходил ролик с президентом США Дональдом Трампом, выступающим против климатических инициатив, а также экс-президентом Бараком Обамой, оскорбляющим Трампа.
Самый крупный скандал разразился весной 2019 года, когда в сети появилось видео со спикером палаты представителей США Нэнси Пелоси. Мошенники изменили скорость воспроизведения и голос политика — создалось впечатление, что она пьяна. Только спустя время удалось доказать, что речь Пелоси сгенерировал искусственный интеллект.
Эту технологию также применяют для шантажа. Так, в марте 2019 года у гендиректора британской энергетической компании мошенники смогли выманить €220 тыс. с помощью дипфейковой имитации голоса руководителя головной компании, который якобы потребовал срочно перевести указанную сумму. Все было настолько натуралистично, что мужчина не стал перепроверять информацию — при этом перевод был запрошен на сторонний счет. Деньги бесследно исчезли.
Несмотря на впечатляющие возможности для мошенничеств, исследования показывают, что пока дипфейки используют в основном ради развлечения. Около 96% таких видео в сети — порнографические. К такому выводу пришла компания Deeptrace, которая изучила дипфейк-ролики, опубликованные в июне-июле 2019 года.
Но на самом деле у технологии есть большой потенциал. Ее планируют использовать в астрофизике для избавления фотографий космических объектов от помех и шумов. Год назад компания NVIDIA представила нейросеть, превращающую скетчи в реальные изображения. Ее также можно использовать в архитектуре, дизайне, а также при создании игр и реконструкции исторических событий.
Музей Сальвадора Дали во Флориде "оживил" художника с помощью того же дипфейка. В итоге зрители могли пообщаться с испанским творцом, послушать его истории и даже сделать совместную фотографию. Технология проанализировала 6 тыс. фотографий и 145 видео с Дали, а также массу интервью и писем художника, чтобы воспроизвести его голос, акцент и манеру речи.
Сам по себе алгоритм не "плохой" и не "хороший" ― все зависит от того, в чьих руках он находится. Распространение ложной информации, вторжение в частную жизнь, разрушение репутации — это только небольшая часть того, к чему могут привести дипфейки. IT-гиганты, такие как Facebook, Microsoft, Google, пытаются бороться с распространением таких видео. Они учат алгоритмы выявлять дипфейки. В FB даже анонсировали конкурс с призовым фондом в $10 млн на лучшую разработку.
"Сами соцсети выработали алгоритмы по защите пользователей от дипфейков. Они ввели маркировки, а также механизмы блокировки такого контента. Но, во-первых, не все соцсети такие алгоритмы используют, а, во-вторых, они не совершенны. Российским законодателям нужно установить минимальное количество правил для соцсетей, а механизмы реализации отдать на откуп соцсетям. С этой проблемой можно бороться только технологически.
Задача государства — создать нормативную базу, которая бы смогла обеспечить баланс для развития технологий и защиты личности", — сообщил "Газете.Ru" председатель комиссии по правовому обеспечению цифровой экономики московского отделения АЮР Александр Журавлев.
В США и вовсе считают дипфейки угрозой национальной безопасности страны. Законодатели обеспокоены тем, как эта технология повлияет на будущую предвыборную кампанию и политическую обстановку в целом.
Калифорния стала первым штатом, где на законодательном уровне запретили распространение дипфейков с кандидатами во время предвыборной гонки. Кроме того, законопроект AB-602 запретил использование технологий синтеза изображений человека для изготовления порнографического контента без согласия изображаемых.
В России также уделяется особое внимание созданию безопасной цифровой среды и системе ее комплексного правового регулирования. Важность этого в сентябре отмечал президент России Владимир Путин на 75-й сессии ГА ООН.
"Помимо национального законодательства, важно работать на международном уровне. Об этом говорил президент на последней конференции ООН. Одним из ярких примеров движения в эту сторону стало заключение меморандума между Ватиканом, а также компаниями Microsoft и IBM об основах работы с искусственным интеллектом. Были прописаны требования по тому, как работать с этой технологией и сколько давать ей свободы. Нужно дальше двигаться в этом направлении — заключать аналогичные соглашения с другими странами. Эта деятельность трансгранична — если в России будут законодательные ограничения, а в Испании или Черногории нет, то злоумышленники будут пользоваться отсутствием соответствующей правовой базы и распространять запрещенный контент через другие каналы.
В этом случае борьба с дипфейками на территории России нивелируется. Нужно работать в коалиции, чтобы злоумышленники не достигали своих целей", — считает Журавлев.
Кроме того, он напомнил, что сейчас в России нет инструментов, позволяющих защитить граждан от дипфейков.
"С одной стороны, у нас есть статья 152.1 ГК РФ, которая охраняет изображение любого гражданина. Оно может быть использовано только с его согласия. Если же человек хочет привлечь к ответственности авторы дипфейка, то возникает вопрос: к кому подавать иск? Можно обратиться к самой платформе, распространившей контент, и попросить удалить его. Но пока человек пройдет все процедуры, видео увидят все. За это время может испортиться его репутация", — подчеркивает член АЮР.
С ним согласен учредитель АНО "ПравоРоботов", член экспертного совета по цифровой экономике при Госдуме Никита Куликов. Однако он отмечает, что на данный момент дипфейки выглядят "достаточно грубоватыми", чтобы спутать их с реальностью.
"Однако все равно найдутся те, кто поверит. Чем больше информации будет у искусственного интеллекта, тем скорее будут стерты все видимые грани и различия. Нужно учить программы четко выявлять дипфейки. Но где найти мощности для создания таких технологий, это вопрос. Кроме того, важно повышать в России цифровую грамотность – это на 50% залог того, что дипфейки не будут влиять на жизнь граждан. Больше всего подвержены влиянию таких технологий граждане старшего возраста – с ними и нужно плотно работать", — сообщил эксперт в разговоре с "Газетой.Ru".