Игра по правилам: в России разработали кодекс этики по работе с ИИ для финансовых организаций

Центральный банк России утвердил основные принципы применения искусственного интеллекта на финансовом рынке и подготовил проект кодекса этики для организаций сектора. Документ призван способствовать росту доверия к компаниям, применяющим ИИ со стороны как клиентов, так и инвесторов, а также окажет положительное влияние на обеспечение безопасности применения технологии на финансовом рынке. Подробности о том, каковы перспективы применения ИИ в финансовом секторе, что оно даст россиянам и какие риски может в себе нести, читайте в материале «Известий»

Что известно о кодексе этики по работе с ИИ

Сообщение о том, что ЦБ РФ утвердил основные принципы применения ИИ на финансовом рынке и подготовил проект кодекса этики для организаций сектора, появилось на сайте регулятора 9 июля.

«Кодекс этики ИИ будет способствовать росту доверия к компаниям, применяющим ИИ со стороны как клиентов, так и инвесторов, положительно скажется на обеспечении безопасности применения технологии на финансовом рынке, позволит регулятору участвовать в наблюдении и анализе рисков, а также обеспечит более глубокое понимание специфики рисков, связанных с ИИ», — говорится в документе.

Согласно документу, подавляющее большинство участников финансового рынка поддержали инициативу по созданию отдельного этического кодекса, который будет учитывать специфику применения ИИ в сфере финансовых услуг.

ЦБ РФ предлагает применять так называемые инструменты мягкого регулирования: рекомендации, руководства и стандарты, которые помогут компаниям развивать практики ответственного использования ИИ без создания дополнительных правовых барьеров. При этом регулятор продолжит работу над снятием барьеров в сфере обмена и оборота данных, в том числе обезличенных персональных данных, что, по мнению участников рынка, является одним из ключевых условий для развития ИИ в России.

Почему в ЦБ РФ решили разработать кодекс этики

Вопрос разработки и принятия Кодекса этики по работе ИИ давно обсуждается на IT и ИБ-рынке, говорит в беседе с «Известиями» директор Центра консалтинга Angara Security Александр Хонин. По словам эксперта, крупнейшие технологические компании еще несколько лет назад при поддержке Аналитического центра при Правительстве РФ и Минэкономразвития создали Альянс в сфере ИИ и разработали «Кодекс этики в сфере ИИ», а также «Этические рекомендации по применению алгоритмов ИИ в работе цифровых сервисов».

— Обсуждение подобных документов ведется и на законодательном уровне, однако Кодекс этики в сфере ИИ так и не получил статус закона, — говорит специалист. — Банк России, как лидер цифровой трансформации России, первым перешел от слов к делу и разработал отраслевой Кодекс этики по работе с ИИ.

По словам Александра Хонина, во многом этот шаг связан с правовой неопределенностью использования технологий ИИ в банковском секторе: использование алгоритмов искусственного интеллекта не определен нормативными требованиями регулятора. Этот пробел планируется исправить.

Кодекс нужен, чтобы создать доверенную и безопасную среду для стремительно распространяющихся ИИ-технологий в финансах, не тормозя инновации, дополняет директор по ИИ «Группы Астра» Станислав Ежов. Он задает единые принципы: человекоцентричность, справедливость и прозрачность ― и облегчает надзор за рисками, учитывая мировую практику регулирования.

— С точки зрения рынка появление кодекса от ЦБ может стать точкой отсечения между формально ИИ-продуктами и зрелыми решениями, реально встроенными в институциональные процессы, — говорит в беседе с «Известиями» архитектор национальных систем цифровой идентичности, заместитель гендиректора Центра биометрических технологий — оператора государственной Единой биометрической системы Евгений Семенов. — Это возможность для игроков не только соответствовать регуляторным требованиям, но и выстраивать более устойчивые, прозрачные и этичные модели цифрового взаимодействия с пользователями.

Каковы перспективы применения ИИ в финансовом секторе

По мнению ЦБ РФ, использование искусственного интеллекта открывает для финорганизаций значительные возможности по повышению качества услуг, развитию персонализированных продуктов и оптимизации бизнес-процессов. Среди направлений применения технологии участники рынка называют автоматизацию аналитики, работу с большими данными, создание интеллектуальных финансовых ассистентов и развитие генеративного ИИ, включая большие языковые модели.

Сегодня банки активно внедряют искусственный интеллект в свою работу, отмечает Александр Хонин. Цифровые ассистенты и ИИ-аватары, анализ и обработка больших данных, автоматизация рутинных задач, управление рисками и персонализация услуг — это лишь небольшой перечень сфер, где активно используются новейшие технологии ИИ. Также алгоритмы ИИ анализируют транзакции в режиме реального времени и выявляют подозрительные активности, связанные с мошенничеством. Ряд крупных банков активно внедряет ИИ-технологии в системы кибербезопасности.

— Искусственный интеллект способен дать отпор телефонным и кибермошенникам, которые активизировались в последние годы, и значительно повысить безопасность операций, — говорит директор направления Data Fusion Лиги Цифровой Экономики Александр Кобозев. — В целом внедрение прорывных технологий позволит улучшить качество обслуживания в банковской сфере и расширить спектр финансовых услуг.

При этом, как отмечает Александр Хонин, согласно положениям Кодекса от ЦБ, финансовая кредитная организация должна будет уведомить потребителя о взаимодействии с ИИ и дать возможность общаться с живым оператором. Потребитель получит возможность пересмотра решения, принятого искусственным интеллектом, сотрудниками организации. Сегодня клиенты банков часто жалуются на немотивированные отказы в получении тех или иных услуг, опротестовать которые не представляется возможным.

Также Кодекс в целом призван повысить уровень доверия граждан к новым технологиям с учетом факторов уязвимости клиентов (возраст, образование, ограниченные возможности и другие) и возможного влияния этих факторов на оказание услуг таким потребителям, подчеркивает эксперт.

Какие риски несет в себе внедрение ИИ в финансовом секторе

Между тем, как отмечается в докладе ЦБ РФ, широкое внедрение искусственного интеллекта связано с рядом рисков, в том числе с угрозами утечки персональных данных, киберугрозами, возможными «галлюцинациями» моделей, а также с рисками нарушения прав потребителей. Отдельно подчеркивается, что генеративный ИИ может использоваться мошенниками, например, для создания дипфейков и манипулирования информацией.

— Главные угрозы, связанные с внедрением ИИ в финансовом секторе, ― утечки данных и кибератаки, ошибки алгоритмов и их необъяснимые решения, а также возможность злоупотреблений генеративными технологиями, — говорит в беседе с «Известиями» Станислав Ежов. — Без должных мер это может подорвать доверие, увеличить финансовые потери и усилить дискриминационные эффекты.

Среди других угроз Александр Кобозев выделяет риск атак на персональные данные, которые могут быть использованы для обучения ИИ. Кроме того, у нейросетей, если соответствующие системы не до конца отточены, могут случаться и различные ошибки, которые выливаются в выдачу некорректных или опасных рекомендаций. Также Кобозев выделяет этические риски: возможность принятия предвзятых или дискриминационных решений алгоритмами.

Для того чтобы нивелировать эти угрозы, в финансовой сфере должны применяться доверенные модели генеративного ИИ, созданные с учетом требований к безопасной разработке на всех этапах жизненного цикла модели и набора данных, отмечает Александр Хонин. Кроме того, должна вестись регулярная проверка качества датасетов и самих моделей ИИ.

— Управление рисками при разработке и применении искусственного интеллекта необходимо рассматривать в рамках общей системы управления рисками в финансовой организации и включить системы ИИ в модели угроз, связанные с нарушением ИБ и операционной надежностью конкретного банка, — заключает эксперт.