Только спросить: почему медицинские консультации у ИИ привлекают мошенников

Обращения за медицинской консультацией к системам на основе искусственного интеллекта (ИИ) несут в себе целый ряд рисков — об этом предупредили исследователи из Оксфордского института интернета. В частности, пользователи могут получать противоречивые ответы, где полезная информация перемешана с потенциально опасными рекомендациями. Однако подобную тему способны использовать и мошенники в различных схемах обмана. Подробности — в материале «Известий».

Чем медицинские консультации у нейросетей интересны аферистам

Современное развитие искусственного интеллекта находится на начальной стадии, говорит в беседе с «Известиями» GR-директор ИБ-компании «Код безопасности» Александра Шмигирилова. Несмотря на активное внедрение нейросетей, их использование оставляет открытыми многие важные вопросы, включая надежность, поэтому полностью доверять ИИ пока нельзя.

— В спорных ситуациях и при несовершенных алгоритмах существует риск, что мошенники воспользуются этой неразберихой для получения доступа к конфиденциальной информации, которую можно использовать или продать на теневом рынке, — рассказывает специалист.

В то же время вопросы медицины воспринимаются серьезно, так как речь идет о здоровье и жизни человека, отмечает Александра Шмигирилова. Доверие к врачам достигается за счет того, что люди не всегда могут полноценно оценить ситуацию и полагаются на профессионалов.

Однако, когда диагностику осуществляет ИИ, обыватели считают его более надежным: машина не подвержена эмоциям и, следовательно, ей приписывается меньшая вероятность ошибки. Это и создает потенциал для аферистов, которые могут говорить от имени нейросети, получая ответы на свои запросы гораздо проще.

Каких мошеннических схем с ИИ и медициной стоит ожидать в 2025 году

Популярность нейросетевых чат-ботов в вопросах медицины и самодиагностики побудит киберпреступников распространять фишинговые приложения на основе ИИ, якобы специально обученные ставить диагноз и консультировать пациентов, делится аналитик исследовательской группы Positive Technologies Роман Резников.

— На самом деле такие приложения будут лишь прикрытием для сбора данных и заражения устройств пользователя вредоносным программным обеспечением. Кроме того, мошенники могут применять большие языковые модели для генерации более убедительного поддельного медицинского текста в фишинговых атаках, — объясняет эксперт.

Например, киберпреступники станут рассылать письма от лица больниц или других медучреждений, сообщая, что у пациента обнаружены серьезные проблемы со здоровьем. «Лечение» потребует срочной закупки дорогостоящих препаратов, заполнения документов с персональными данными или установки отслеживающих состояние организма сервисов, отмечает Роман Резников.

Кроме того, в 2025 году следует ожидать массового использования фейковых медицинских чат-ботов и голосовых сообщений, прогнозирует эксперт по кибербезопасности Angara Security Андрей Раздымахо. В частности, мошенник будет запугивать потенциальную жертву тем, что нужны деньги на спасение близкого или оплату срочной процедуры.

— Отдельно стоит отметить риск атак на телемедицинские платформы. Например, злоумышленник под аккаунтом врача может проникать в систему, менять результаты анализов или выписывать липовые рецепты. Подделка документов тоже никуда не делась, справки, направления, льготы и страховки — всё можно подделать и подать, — рассуждает собеседник издания.

По сути, старые методы обмана — фейковые клиники, липовые лекарства, поддельные справки — на фоне распространения ИИ получат новое цифровое лицо, будут работать быстрее и изощреннее, а сами схемы получат массовое распространение, подчеркивает Андрей Раздымахо.

Какие медицинские схемы мошенников встречались ранее

Сегодня есть множество наглядных примеров того, как мошенники используют нейросети в контексте медицины, говорит в беседе с «Известиями» Андрей Раздымахо. Так, ранее в Австралии обнаружили сгенерированное видео, в котором специалисты рекламировали фиктивные добавки от диабета.

— В апреле 2024 года мошенники использовали поддельное изображение известного ученого, доктора Карла Крушельницкого, чтобы продавать чудо-таблетки. Ролик собрал более 10 млн просмотров, а пользователи массово переводили деньги за несуществующие препараты, — рассказывает эксперт по кибербезопасности.

А европейские специалисты ESET выявили десятки аккаунтов в TikTok и Instagram (принадлежит признанной в России экстремистской организацией корпорации Meta), где ИИ-врачи агитировали подписчиков покупать бесполезные добавки по типу Ozempic.

Важное место в арсенале мошенников традиционно занимают звонки от мнимых медицинских учреждений с предложениями записаться к врачу или пройти обследование, дополняет Александра Шмигирилова. Основная цель такого метода — получить доступ к персональной и финансовой информации жертв, например, запросив код из СМС, связанный с медкартой. На деле же это может быть код доступа к «Госуслугам» или банковскому приложению.

— Злоумышленники активно используют ИИ для сбора и анализа информации, что позволяет им эффективнее общаться с потенциальными жертвами и вызывать большее доверие, — говорит специалист.

Прямое использование нейросетей в медицинском контексте — это современная тенденция, отмечает руководитель GSOC компании «Газинформсервис» Александр Михайлов. При этом до массового доступа к большим языковым моделям такого рода схемы были менее распространены или неубедительны.

Как защититься от медицинских мошенников

Интерес медицинских мошенников направлен в первую очередь на наиболее уязвимые группы населения, говорит Александр Михайлов. Это доверчивые и менее подкованные технологически пожилые люди, а также пациенты с хроническими или тяжелыми заболеваниями, которые отчаялись и готовы пробовать что угодно.

— Также в зоне риска те, кто не имеет доступа к качественной медицинской помощи или ищет альтернативные методы из-за высокой стоимости медицинских услуг. При этом опасности мошеннических схем в этой области весьма многогранны, — делится собеседник «Известий».

Первая из них — прямая потеря денег из-за поддельных услуг и продуктов. Следом идет утечка информации, которая может быть использована для дальнейшего обмана или шантажа. Однако самое страшное — это следование ложным рекомендациям, отказ от необходимого лечения в пользу методов от ИИ, прием опасных или бесполезных препаратов, что может привести к ухудшению состояния жертвы преступников, подчеркивает Александр Михайлов.

Чтобы защититься, Андрей Раздымахо советует прежде всего проверять достоверность информации. Ставьте под сомнение медицинские рекомендации из соцсетей и мессенджеров: уточняйте у знакомых врачей или в официальных клиниках, публиковались ли они на самом деле.

— Если вы обнаружили фейковое видео или подозрительное медицинское предложение в интернете, обязательно отмечайте его как сомнительное на платформе, где размещена информация, или сообщайте о нем в правоохранительные органы, — рекомендует специалист.

В случае если вы узнали от кого-то о неприятном диагнозе, не паникуйте и не переводите деньги за чудо-средство, которое вылечит от всех болезней. Не передавайте личные и медицинские данные незнакомым людям или непроверенным сервисам. Важно всегда проверять информацию и действовать рационально, а также уточнять детали в официальных каналах и медицинских организациях, заключает собеседник «Известий».