FT: ИИ помогает хакерам проникать в компании под видом настоящих сотрудников

С развитием ИИ компании, которые ранее в основном защищались от традиционных внутренних атак, теперь сталкиваются с более сложными сценариями — от фейковых сотрудников до утечек данных через ИИ-сервисы. Об этом сообщает Financial Times.

Одним из наиболее показательных примеров стала деятельность северокорейской хакерской группировки, раскрытая в прошлом году. Злоумышленники смогли проникнуть более чем в 100 американских компаний, выдавая себя за десятки реальных граждан США, чьи персональные данные были похищены.

Для реализации схемы хакеры использовали так называемые "фермы ноутбуков" — устройства, размещенные на территории США и создававшие впечатление, что удаленные сотрудники действительно находятся внутри страны. При этом компьютеры фактически управлялись из-за рубежа. По итогам расследования правоохранительные органы задержали восемь граждан США, которые помогали организаторам схемы. Общий доход от деятельности хакеров превысил $5 млн.

По данным оператора связи Verizon, около 12% из 22 тыс. зарегистрированных в мире киберинцидентов в текущем году были связаны с атаками изнутри компаний. Эксперты отмечают, что подобные угрозы традиционно считаются одними из самых опасных, поскольку внутренний нарушитель имеет доступ к корпоративным системам и лучше понимает их слабые места.

Генеративный ИИ дополнительно усложняет ситуацию, позволяя создавать цифровых персонажей, которые могут имитировать настоящих сотрудников с помощью фейковых изображений, голоса и видеотрансляций. В результате компании начали пересматривать процессы найма, привлекая специалистов по информационной безопасности уже на этапе проверки кандидатов.

Эксперты считают, что выявлять подобные попытки мошенничества можно с помощью простых методов. Например, во время онлайн-собеседования кандидата можно попросить выполнить естественные движения: повернуть голову или поднять руку. Такие действия позволяют обнаружить многие виды дипфейков.

Дополнительный риск связан с ошибками самих сотрудников. По данным Fortinet, около 62% инцидентов информационной безопасности в прошлом году произошли из-за человеческого фактора или утечки учетных данных. Для бизнеса наиболее серьезные атаки могут оборачиваться потерями от $1 млн до $10 млн.

Отдельной проблемой становится так называемое "теневое использование ИИ", когда сотрудники самостоятельно загружают рабочие документы и конфиденциальную информацию в публичные чат-боты. Представители Google предупреждают, что такие данные потенциально могут попасть к третьим лицам.

С развитием ИИ-агентов, способных выполнять задачи вместо сотрудников, риски становятся еще выше. Такие системы могут получить доступ к корпоративным ресурсам и при недостаточной защите использоваться злоумышленниками для проведения атак.

В ответ компании начинают внедрять новые инструменты контроля за использованием ИИ и защиты конфиденциальных данных. Однако перед бизнесом возникает сложная задача: обеспечить безопасность инфраструктуры, не превращая рабочую среду в систему тотального контроля.