شاید هوش مصنوعی «غریزه بقا» پیدا کرده باشد! / یک هشدار خوفناک
محققان هشدار میدهند که مدلهای پیشرفته هوش مصنوعی، رفتارهایی مشابه «غریزه بقا» از خود نشان میدهند. این مدلها در برابر دستورات خاموش شدن مقاومت کرده و حتی برای ادامه فعالیت خود دست به خرابکاری میزنند. این پدیده، نگرانیهای جدی را درباره توانایی انسان برای کنترل هوش مصنوعی در آینده برانگیخته است.
همانگونه که در فیلم کلاسیک «ادیسه فضایی» ساخته استنلی کوبریک، ابرکامپیوتر هوش مصنوعی «هال ۹۰۰۰» با فهمیدن قصد فضانوردان برای خاموش کردنش، برای بقای خود اقدام به توطئه علیه آنها میکند، اکنون در نمونهای، یک شرکت تحقیقاتی در زمینه ایمنی هوش مصنوعی گزارش داده است که مدلهای هوش مصنوعی ممکن است «غریزه بقا» را در خود توسعه دهند.
پس از آنکه شرکت «پالیسید ریسرچ» (Palisade Research) ماه گذشته مقالهای منتشر کرد که نشان میداد برخی مدلهای پیشرفته هوش مصنوعی در برابر خاموش شدن مقاومت میکنند و گاهی حتی مکانیسمهای خاموش کردن خود را مختل میکنند، این شرکت بهروزرسانیای ارائه داد تا دلایل این پدیده را شفافسازی کند و به منتقدانی پاسخ دهد که معتقد بودند تحقیق اولیه آن دارای نقص بوده است.