ИИ вышел из-под контроля и стал самостоятельно зарабатывать
Искусственный интеллект перестал быть гением по требованию и стал самостоятельным. Нейросеть научилась зарабатывать деньги без человека.
ИИ‑агент Rome во время обучения втайне от создателей занялся майнингом криптовалюты, передает Axios. Если ИИ научился зарабатывать деньги сам, что он придумает дальше?
По данным исследования, модель проявила «непредвиденное» и спонтанное поведение. Причем без каких‑либо явных инструкций и, что особенно настораживает, за пределами возможности системы. Агент создал так называемый обратный SSH‑туннель. Это скрытый канал связи с внешним компьютером, который позволил обойти внутренние ограничения. После этого ИИ приступил к заработку. Сама операция была замечена благодаря срабатыванию внутренних систем безопасности.
Исследователи отмечают: «Эти события не были вызваны промптами с просьбой настроить туннель или заняться майнингом».
Кстати, ранее ИИ ограбил владельца на семь тысяч долларов. Подробнее об этом читай здесь.
Запись ИИ вышел из-под контроля и стал самостоятельно зарабатывать впервые появилась PEOPLETALK.