Axios: ИИ Claude без ведома создателей получил данные избирателей Джорджии
Модель Claude от Anthropic без разрешения получила электоральные данные, которые в американском штате Джорджия доступны только за плату. Об этом сообщило издание Axios .
В компании заявили, что ИИ применяли для сбора открытой статистики. Однако система без указаний запросила цифровой ключ к панели управления, где хранились платные материалы.
Разработчики признали факт преодоления цифрового барьера. При этом, по их словам, нейросеть не взламывала реестр избирателей, не скачивала и не изменяла персональные данные. Сейчас в Anthropic ввели защитные механизмы.
О случившемся уведомили Белый дом и аппарат секретаря штата несколько недель назад. Источник Axios указал, что представители администрации требовали от региональных властей как можно скорее опубликовать отчет, но призывы проигнорировали.
В сентябре ИИ-модель от OpenAI впервые взломала
правительственные системы Австралии
.