Исследование: искусственный интеллект пишет фишинговые письма эффективнее людей
Языковая модель GPT-3 в сочетании с другими сервисами искусственного интеллекта может использоваться для создания персонализированных фишинговых писем. К такому выводу пришли исследователи из Государственного технологического агентства Сингапура, пишет Wired .
Для создания писем с вредоносными ссылками ученые использовали платформу OpenAI GPT-3 совместно с другими продуктами на базе ИИ, ориентированными на анализ личности. Пропустив через них выходные данные, исследователи разработали конвейер, который обрабатывал и уточнял сообщения перед отправкой.
В ходе эксперимента исследователи разослали 200 людям целевые фишинговые электронные письма, созданные ими самими и искусственным интеллектом. Каждое сообщение содержало безопасные ссылки, которые собирали информацию о кликах.
Они выяснили, что большинство испытуемых чаще переходили по ссылкам в письмах, созданных алгоритмом, чем написанных людьми.
По словам специалиста по кибербезопасности Государственного технологического агентства Юджина Лима, использование ИИ-сервисов снижает входной барьер для злоумышленников и увеличивает потенциальные цели для фишинга.
«ИИ как услуга будет стоить вам пару центов и им действительно легко пользоваться — просто вводите текст и получаете результат. Вам даже не нужно запускать код», — сказал Лим.
Он считает, что таким образом любое электронное письмо с фишинговыми ссылками может быть персонализировано для каждого получателя с минимальными затратами.
Исследователи отметили, что эксперимент является лишь первым шагом. По их словам, размер выборки относительно небольшой, а целевой пул — однородный. Кроме того, все сообщения были созданы сотрудниками офиса, а не внешними злоумышленниками, пытающимися персонализировать тексты без какой-либо информации о жертвах.
Однако полученные данные побудили исследователей глубже задуматься о том, какую роль ИИ сможет сыграть в продвижении целевых фишинговых кампаний.
Напомним, в августе исследователи с помощью «универсального» лица обманули большинство систем распознавания лиц.
В июле ученые сообщили об обнаружении метода незаметного внедрения вредоносного кода в нейросети.
В мае исследователи из Центра кибербезопасности Мэриленда выявили уязвимость в нейронных сетях, увеличивающую их энергопотребление.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!