"Погибнет вся биологическая жизнь на Земле": почему стоит не тормозить, а уничтожить ИИ

Более 1100 экспертов в области искусственного интеллекта (ИИ) подписали петицию, призывающую разработчиков ИИ прекратить обучение более мощных моделей, чем ChatGPT-4. Однако некоторые эксперты настаивают на более экстремальном подходе.

Элиезер Юдковски, ведущий исследователь Machine Intelligence Research Institute, считает, что ситуация более серьезная, чем предполагается в петиции. В статье для журнала Time Юдковски предупредил, что создание продвинутого ИИ может привести к вымиранию человеческой расы: “если кто-то создаст слишком мощный ИИ, то в нынешних условиях я ожидаю, что вскоре после этого погибнет каждый представитель человеческого рода и вся биологическая жизнь на Земле”.

Он утверждает, что мы не готовы к созданию такой системы, и нам не хватает понимания и инженерной проработки, необходимых для обеспечения ее безопасности.

Дебаты вокруг разработки более мощных моделей ИИ продолжаются уже несколько лет. Критики утверждают, что эта технология может представлять значительную угрозу для человечества, если она попадет не в те руки или не будет должным образом контролироваться. Однако сторонники считают, что он способен решить некоторые из наиболее острых мировых проблем, таких как изменение климата, болезни и бедность.