Европол предупредил об опасности использования ChatGPT злоумышленниками

Специалисты агентства выяснили, что злоумышленники могут воспользоваться ChatGPT для «существенного ускорения поисков» в отраслях, о которых ничего не знают.

Специалисты агентства выяснили, что злоумышленники могут воспользоваться ChatGPT для «существенного ускорения поисков» в отраслях, о которых они ничего не знают.

В полиции Европола предупредили о потенциальной возможности злоупотребления чат-ботом ChatGPT на основе искусственного интеллекта путём его использования для осуществления попыток фишинга, распространения дезинформации и совершения киберпреступлений. Европол говорит, что это усиливает прочие факторы беспокойства, начиная от юридических вопросов и заканчивая вопросами этического характера.

По мнению экспертов, наибольшую обеспокоенность вызывает возможность использования ChatGPT в следующих криминальных сферах:

• Мошенничество и социальная инженерия: Возможность создания чрезвычайно реалистичных текстов делает ChatGPT полезным инструментом для нужд фишинга. Он может быть использован для имитации стиля речи определённых лиц или групп лиц. Данной особенностью можно злоупотреблять в больших масштабах, заставляя потенциальных жертв довериться преступникам.
• Дезинформация: Возможность создавать аутентичный текст с высокой скоростью и в больших масштабах. Это делает модель идеальным инструментом для достижения целей пропаганды и распространения дезинформации, поскольку она позволяет пользователям создавать и распространять сообщения, отражающие определенный нарратив, прилагая для этого относительно небольшие усилия.
• Киберпреступность: Помимо создания языка, похожего на человеческий, генеративный искусственный интеллект способен создавать код на нескольких языках программирования. Для потенциального преступника с небольшими техническими знаниями это бесценный ресурс для создания вредоносного кода.

«По мере развития технологий и с появлением новых моделей для правоохранительных органов будет иметь всё большую важность необходимость оставаться в авангарде этих инноваций, чтобы предвидеть возможные последствия и предотвращать злоупотребления», – отмечают в Европоле.

Европол также озвучил свои ключевые рекомендации правоохранительным органам:

• Учитывая потенциальный вред, чрезвычайно важно повысить осведомленность по этому вопросу, чтобы гарантировать максимально быстрое выявление и ликвидацию любых потенциальных лазеек.
• Правоохранительные органы должны понимать влияние ChatGPT на все потенциально уязвимые сферы, чтобы лучше предвидеть, предотвращать и расследовать различные виды злоупотреблений.
• Сотрудникам правоохранительных органов следует начать развивать навыки, необходимые для максимального использования генеративного искусственного интеллекта.
• Очень важным пунктом является взаимодействие со всеми заинтересованными сторонами, которое позволяет убедиться в том, что соответствующие механизмы безопасности остаются ключевым фактором, который постоянно совершенствуется.
• Правоохранительные органы могут изучить возможности настроенного искусственного интеллекта, обученного самостоятельно для более адаптированного и конкретного использования.

Напомним, в декабре прошлого года европейское полицейское агентство Европол заблокировало работу 12 526 доменов, отключило 32 сервера и остановило работу 15 интернет-магазинов.