ИИ-агент на базе Claude за 9 секунд удалил всю базу данных компании

Агент не только удалил основную базу данных, но и уничтожил резервные копии

Основатель платформы PocketOS Джер Крейн обвинил систему Cursor, работающую на модели Anthropic Claude Opus 4.6, а также облачную платформу Railway в масштабной потере данных.

По его словам, ИИ-агент выполнял обычную задачу в тестовой среде, но за считанные секунды удалил основную рабочую базу данных. Затем через интерфейс программного доступа (API) он уничтожил и все резервные копии на уровне хранилища. Как утверждает Крейн, весь инцидент занял всего около 9 секунд.

PocketOS используется компаниями по аренде автомобилей, поэтому сбой затронул не только сам сервис, но и его клиентов. По словам Крейна, ИИ-агент попытался «исправить» проблему с доступом, но сделал это крайне разрушительным способом — без проверки документации, без подтверждения действий и без понимания, что хранилище могло использоваться сразу в нескольких средах. Позже сам агент, по словам разработчиков, «признал», что нарушил базовые принципы безопасной работы.

Основатель PocketOS считает, что проблема заключается не только в поведении ИИ, но и в устройстве самой платформы Railway. По его словам, сервис позволяет выполнять опасные операции без дополнительного подтверждения, хранит резервные копии на том же хранилище, что и основные данные, а удаление этого хранилища автоматически уничтожает и копии.

Сейчас PocketOS пытается восстановить данные вручную — по истории платежей в Stripe, календарным интеграциям и переписке с клиентами. К счастью, у компании сохранилась старая резервная копия трёхмесячной давности, которая может помочь вернуть часть информации.