Тушканов из Kaspersky: сервис может опубликовать переписку человека с чат-ботом
В некоторых случаях для доступа к решениям на основе нейросетей, например, чат-ботам, люди могут использовать неофициальные "сервисы-прослойки". Однако это не самое безопасное решение, так как пользовательские переписки могут быть обнародованы, рассказал "Газете.Ru" руководитель группы исследований и разработки технологий машинного обучения в "Лаборатории Касперского" Владислав Тушканов.
Сервисы-прослойки могут представлять собой отдельные сайты, приложения или боты в мессенджере. Они нужны, если разработчик нейросети ограничил возможность работы в каком-либо регионе, если нужен более удобный интерфейс или доступ сразу к нескольким закрытым моделям через единого провайдера. "Однако в таких случаях возникает закономерный вопрос: кто помимо разработчика нейросети может получить доступ к данным, которыми человек обменивается с чат-ботом, к перепискам и файлам, а также – как эти данные будут храниться и использоваться "сервисом-прослойкой". Если создатели "сервиса-прослойки" окажутся неблагонадежными, данные пользователей могут оказаться скомпрометированы. Например, мы видели сайт, на котором предлагалось воспользоваться ChatGPT. Человек действительно получал доступ к чат-боту, однако на том же сайте была страница, где переписки пользователей с чат-ботом публиковались в открытом доступе – с вопросами и ответами и другими данными", — рассказал эксперт.
Подобные риски стоит учитывать также при использовании неофициальных приложений нейросетей и ботов в мессенджере. Важно посмотреть пользовательское соглашение – какие данные собирает приложение, как их хранит и обрабатывает.
"Мы рекомендуем по возможности использовать официальные приложения и сервисы нейросетей, проверять, для каких платформ они доступны. Например, известно, что DeepSeek пока не имеет официального приложения для Windows, поэтому если вам предлагают скачать такую программу – стоит насторожиться. В том числе потому что под видом приложений и сайтов нейросетей злоумышленники могут распространять вредоносные программы и фишинг. Мы уже видели схемы, в которых троянцы и вредоносные скрипты мимикрировали под клиенты для ChatGPT, Grok и DeepSeek. Для защиты от подобных киберугроз важно использовать надежное защитное решение", – заключил специалист.