Китай вводит обязательную маркировку всего ИИ-контента в интернете

Китай ужесточает регулирование искусственного интеллекта: с теперь весь сгенерированный ИИ контент в интернете должен быть соответствующим образом промаркирован. Новые правила, разработанные Государственным управлением киберпространства КНР (CAC) совместно с другими ведомствами, обязывают платформы и пользователей явно указывать, что материал создан с помощью алгоритмов.

Новые требования к ИИ-контенту

Согласно постановлению, любой синтетический контент — будь то текст, изображения, аудио или видео — должен сопровождаться специальной отметкой. Это может быть:

• явная пометка в описании (например, «создано с помощью ИИ»),
• метаданные, встроенные в файл.

Провайдеры интернет-услуг и операторы магазинов приложений обязаны проверять соблюдение этих норм. Кроме того, пользователи, публикующие ИИ-материалы, должны декларировать их происхождение. Нарушителей, которые удаляют или изменяют маркировку после публикации, ждут санкции.

В заявлении CAC подчеркивается, что закон направлен на борьбу с дезинформацией и злоупотреблением технологиями:

«Маркировка поможет пользователям отличать реальный контент от сгенерированного ИИ и возложит ответственность на поставщиков услуг за корректное обозначение материалов».

Китай, ЕС и США: разные подходы к регулированию ИИ

Китай стал одной из первых стран, системно подошедших к регулированию ИИ. Его политика контрастирует с действиями администрации США:

• В 2023 году экс-президент Джо Байден подписал указ о контроле за ИИ, но его отменил Дональд Трамп.
• Сейчас Вашингтон, напротив, поощряет использование ИИ федеральными агентствами и отменяет прежние ограничения.

В то же время Европейский Союз в 2024 году принял «Акт об ИИ» — первый в мире всеобъемлющий закон об искусственном интеллекте. Китай, следуя аналогичному курсу, усиливает надзор за цифровым пространством.

Сложности внедрения

Несмотря на благие цели, эффективность маркировки остается под вопросом. Современные ИИ-алгоритмы создают контент, который почти неотличим от реального, а технические механизмы проверки несовершенны:

• В 2024 году Meta* ввела метку «Сделано с ИИ» в Facebook* и Instagram*, но система ошиблась, пометив настоящие фото как сгенерированные.
• Платформы, такие как Pinterest, уже столкнулись с лавиной ИИ-контента: поиск по запросу «кулинарные рецепты» выдает в основном изображения, созданные нейросетями, но лишь единицы имеют отметку.

Эксперты сомневаются, что даже жесткие правила полностью остановят поток «ИИ-мусора», который захлестывает соцсети. Однако Китай, известный строгим контролем интернета, вероятно, будет активнее других добиваться исполнения норм.

Новый закон — важный шаг в борьбе с дезинформацией, но его успех зависит от того, смогут ли власти и компании обеспечить точную идентификацию ИИ-материалов.

* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.

Читайте все последние новости искусственного интеллекта на New-Science.ru

Запись Китай вводит обязательную маркировку всего ИИ-контента в интернете впервые опубликована на сайте Про технологии.