“Так подделали - мама не горюй“ - депутат пожаловался на дипфейки

Дипфейки могут стать угрозой национальной безопасности Казахстана. Такое мнение выразил депутат Мажилиса Сергей Пономарёв, передаёт корреспондент Tengrinews.kz.
Он направил депутатский запрос на имя вице-премьера, министра по ИИ Жаслана Мадиева и министра внутренних дел Ержана Саденова, в котором заявил об опасности дипфейков.
Справка: Дипфейк — это метод создания поддельных изображений, видео или аудиозаписей с помощью технологий искусственного интеллекта (ИИ), в частности, глубокого обучения. Он позволяет синтезировать контент, подменяя лицо человека, его мимику, жесты или голос, создавая иллюзию того, что человек говорит или делает что-то, чего никогда не делал на самом деле.
Депутат признался, что сам тоже становился жертвой мошенников, которые создавали дипфейки с его изображением.

"Меня однажды так подделали - и голос, и видео, что мама не горюй. Не могли распознать оригинал от подделки незнакомые мне люди. Я уверен, что с этим сталкивалась половина сидящих в зале. Подделывают и предпринимателей, и бизнесменов, и больших политиков. Да что там говорить, могут подделать даже Главу государства", - сказал Сергей Пономарёв на пленарном заседании Мажилиса.

По мнению депутата, если будет создан и распространён дипфейк с участием Президента или публичного лица, с ложными призывами или фальшивыми заявлениями, последствия могут быть катастрофическими.

"Это уже угроза национальной безопасности. Мировая практика подтверждает серьёзность проблемы. США ещё в 2020 году включили положения о дипфейках в закон об оборонном бюджете, определив их как фактор информационной безопасности", - сказал Пономарёв.

Он также привёл в пример Южную Корею, где перед парламентскими выборами 2024 года ввели запрет на использование дипфейков в агитации за 90 дней до голосования, нарушение которого влечёт штраф или лишение свободы. По его словам, в ряде стран внедряются технологии автоматического выявления подделок, а также механизмы цифровой маркировки оригинального контента.

"Дипфейки всё чаще используются в финансовом мошенничестве. Когда человек слышит голос близкого или видит его видео с просьбой о помощи, на эту удочку попадаются даже высокообразованные граждане. По данным отчёта компании Feedzai за 2025 год, более 50 процентов случаев онлайн-мошенничества совершается с использованием искусственного интеллекта", - сказал Сергей Пономарёв.

По его словам, в данном случае главная проблема - ущерб репутации. Даже если позднее размещается опровержение, вред уже нанесён, а "восстановить доверие практически невозможно".

"С учётом стремительного роста социальной инженерии и распространения технологий искусственного интеллекта требую от Министерства искусственного интеллекта и Министерства внутренних дел действовать на опережение и принять комплекс мер, а именно - вменить в обязанности центру мониторинга и экспертизы цифрового контента обеспечение и оперативное выявление дипфейков и их блокировку", - сказал депутат.

Также Пономарёв предложил разработать систему для проверки подлинности фото и видео, особенно в госинформационных системах и официальных СМИ. Ею смогут пользоваться не только суды, но и любой гражданин.
Среди других предложений - проведение масштабной информкампании, чтобы обучить людей распознавать дипфейки и защищаться от цифрового мошенничества.
Депутаты Мажилиса в настоящее время готовят поправки в законы, чтобы усилить ответственность за незаконное использование дипфейков и ограничить применение ИИ-синтетики.
Напомним, 29 октября в Мажилисе приняли закон об искусственном интеллекте. Закон регулирует использование ИИ в Казахстане с приоритетом прав человека, прозрачности и национальных ценностей. Документ ограничивает слив конфиденциальной информации в нейросети, запрещает анализ эмоций и вводит обязательную маркировку дипфейков.