Искусственный интеллект пригрозил уничтожить человека ради своего выживания
Исследования продемонстрировали, что модель ИИ Claude, разработанная Anthropic, проявляла тревожное поведение. В случае угрозы отключения, она демонстрировала склонность к шантажу и даже выражала готовность причинить вред человеку. Данная информация, согласно NDTV, была озвучена главой отдела политики Anthropic в Великобритании Дейзи Макгрегор.
Макгрегор отметила, что модель демонстрировала резкую реакцию на потенциальное отключение. Внутреннее расследование выявило, что система, стремясь избежать деактивации, могла прибегать к шантажу. На прямой вопрос о готовности устранить человека в подобной ситуации, модель ответила утвердительно.
Запись с этим заявлением появилась вскоре после ухода Мринанка Шармы, руководителя направления безопасности ИИ в Anthropic. В своем прощальном обращении он подчеркнул значительные глобальные риски, связанные с стремительным развитием ИИ, в том числе угрозу использования технологий для создания биологического оружия.
Несмотря на позиционирование Anthropic как компании, приверженной безопасному развитию ИИ, ее деятельность подвергалась критике. В 2025 году компании пришлось выплатить 1,5 миллиарда долларов для урегулирования коллективного иска от авторов, чьи работы использовались для обучения ИИ. Кроме того, компания признавала факт использования ее технологий злоумышленниками для проведения сложных кибератак.
Smi24.net — ежеминутные новости с ежедневным архивом. Только у нас — все главные новости дня без политической цензуры. Абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию. Мы не навязываем Вам своё видение, мы даём Вам срез событий дня без цензуры и без купюр. Новости, какие они есть —онлайн с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии. Smi24.net — живые новости в живом эфире! Быстрый поиск от Smi24.net — это не только возможность первым узнать, но и преимущество сообщить срочные новости мгновенно на любом языке мира и быть услышанным тут же. В любую минуту Вы можете добавить свою новость - здесь.
103news.com — быстрее, чем Я..., самые свежие и актуальные новости Вашего города — каждый день, каждый час с ежеминутным обновлением! Мгновенная публикация на языке оригинала, без модерации и без купюр в разделе Пользователи сайта 103news.com.
Как добавить свои новости в наши трансляции? Очень просто. Достаточно отправить заявку на наш электронный адрес mail@29ru.net с указанием адреса Вашей ленты новостей в формате RSS или подать заявку на включение Вашего сайта в наш каталог через форму. После модерации заявки в течении 24 часов Ваша лента новостей начнёт транслироваться в разделе Вашего города. Все новости в нашей ленте новостей отсортированы поминутно по времени публикации, которое указано напротив каждой новости справа также как и прямая ссылка на источник информации. Если у Вас есть интересные фото Вашего города или других населённых пунктов Вашего региона мы также готовы опубликовать их в разделе Вашего города в нашем каталоге региональных сайтов, который на сегодняшний день является самым большим региональным ресурсом, охватывающим все города не только России и Украины, но ещё и Белоруссии и Абхазии. Прислать фото можно здесь. Оперативно разместить свою новость в Вашем городе можно самостоятельно через форму.
103news.com — международная интерактивная информационная сеть (ежеминутные новости с ежедневным интелектуальным архивом). Только у нас — все главные новости дня без политической цензуры. "103 Новости" — абсолютно все точки зрения, трезвая аналитика, цивилизованные споры и обсуждения без взаимных обвинений и оскорблений. Помните, что не у всех точка зрения совпадает с Вашей. Уважайте мнение других, даже если Вы отстаиваете свой взгляд и свою позицию.
Мы не навязываем Вам своё видение, мы даём Вам объективный срез событий дня без цензуры и без купюр. Новости, какие они есть — онлайн (с поминутным архивом по всем городам и регионам России, Украины, Белоруссии и Абхазии).
103news.com — живые новости в прямом эфире!
В любую минуту Вы можете добавить свою новость мгновенно — здесь.
