Арлазаров: ИИ нельзя передавать важную для бизнеса информацию

Бизнес все чаще использует нейросетевые технологии для решения повседневных задач. Искусственный интеллект (ИИ) помогает автоматизировать клиентский сервис, ускоряет работу с информацией и упрощает документооборот. Но технологический прогресс несет не только преимущества — эксперты фиксируют рост киберугроз, поэтому ИИ лучше не передавать важную информацию, об этом в разговоре с RT рассказал генеральный директор Smart Engines, доктор технических наук Владимир Арлазаров.

Федеральная служба по техническому и экспортному контролю (ФСТЭК) России недавно впервые зафиксировала в официальном реестре опасности для информационной безопасности, которые создают системы ИИ. Арлазаров объяснил, какие последствия может повлечь использование ИИ-технологий в коммерческих структурах.

Проблема заключается в том, что значительная часть проектов в области ИИ работает в убыток. Доходы от платных подписок на AI-сервисы не покрывают затраты на их функционирование. Арлазаров предупредил, что подобная ситуация способна негативно отразиться на экономической стабильности в перспективе. Внедрение искусственного интеллекта в бизнес-процессы создает специфические угрозы для информационной безопасности предприятий.

«Надо понимать: если вы передаете сведения, имеющие хоть какую-то ценность, внешнему сервису, они перестают быть вашими. Информация потом может быть использована против вас, к примеру, вашими конкурентами», — добавил Арлазаров.

Эксперт отметил, что уровень киберрисков напрямую связан со способом интеграции технологий в рабочие процессы. Специалисты по защите данных владеют методиками создания изолированных систем, которые способны снизить вероятность определенных кибератак. Однако такой подход требует больших финансовых вложений, поэтому организации часто пренебрегают этим аспектом при запуске AI-решений.

Развитие технологий машинного обучения привело к появлению принципиально новых видов киберугроз. Злоумышленники разрабатывают целевые методы взлома, направленные непосредственно на алгоритмы искусственного интеллекта. Они активно ищут слабые места в искусственном интеллекте, разрабатывая различные методы обмана систем. Речь идет не о традиционном взломе в привычном понимании, а об изучении того, как можно обойти алгоритмы машинного обучения.

Подписывайтесь на канал РИАМО в MAX.