Anthropic: ИИ может уничтожить человечество в течение 10 лет

Эван Хьюбингер из Anthropic заявил о 10%-ной вероятности уничтожения человечества ИИ в ближайшие 10 лет. Это заявление возникло на фоне увольнения Джейкоба Коксона, покинувшего индустрию из-за опасений апокалипсиса в 2027 году.

В течение следующих десяти лет искусственный интеллект может стать угрозой для человеческой цивилизации, как сообщил в социальной сети Х, Эван Хьюбингер, руководитель направления стресс-тестирования согласованности ИИ в американской компании Anthropic. По его оценкам, вероятность этого события составляет 10%.

Эта информация была представлена в контексте увольнения из Anthropic исследователя Джейкоба Коксона, который заявил об уходе из индустрии из-за опасений, что конкурентная борьба технологических компаний может близить мир к "точке невозврата" и привести к катастрофическим последствиям уже к концу 2027 года.

Джейкоб в этом прав. Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что (вероятность этого) это больше 10% в течение ближайших десяти лет.

Беспокойство возникает из-за возможности появления "суперинтеллектов" путем повторного самосовершенствования искусственного интеллекта. Этот процесс происходит быстрее, чем ожидалось ранее.

Распространение искусственного интеллекта может грозить "концом цивилизации" не только из-за появления агрессивных роботов или беспорядков среди умных машин. Одним из факторов риска является снижение поступлений от подоходного налога в государственные бюджеты, как сообщает Telegram-канал «Радиоточка НСН».

В предыдущих материалах мы уже освещали, как Антон Даутов предупреждал о рисках использования ИИ при найме сотрудников. Основной акцент был сделан на необходимости участия человека в процессе, чтобы минимизировать ошибки и предвзятость, которые могут возникнуть в результате работы алгоритмов. Такой подход поможет избежать неверной оценки кандидатов и предотвратить формирование стереотипов, улучшая качество отбора персонала.