پیش بینی محققان : هوش مصنوعی باعث نابودی بشر می شود

به عقیده محققان گوگل دیپ مایند و دانشگاه آکسفورد، هوش مصنوعی باعث نابودی بشر می شود؛ ولی این اتفاق دقیقاً چطور رخ خواهد داد؟

محققان شرکت «گوگل دیپ مایند» (Google Deepmind) و دانشگاه آکسفورد اخیراً مدعی شده اند که «احتمال دارد» هوش مصنوعی فوق العاده پیشرفته پایان بشریت را رقم بزند. چنین سناریوی نگران کننده ای را که در گذشته در فیلم های علمی تخیلی دیده ایم، روز به روز محققان بیشتری مطرح می کنند.

تیمی متشکل از دانشمند ارشد دیپ مایند «مارکوس هاتر» (Marcus Hutter) و محققان آکسفورد «مایکل کوهن» (Michael Cohen) و «مایکل آزبورن» (Michael Osborne) طی مقاله ای منتشر شده در ژورنال AI Magazine ایده ای را به میان آورده اند که اصلاً با آن غریبه نیستید. آن ها می گویند ماشین ها به سمتی سوق داده می شوند که قوانین تعیین شده توسط خالقانشان را بر سر منابع محدود یا انرژی زیر پا می گذارند.

کوهن، دانشجوی مهندسی دانشگاه آکسفورد و یکی از نویسندگان مقاله مذکور، کمی قبل در توییتر درباره غلبه هوش مصنوعی بر بشریت چنین گفته بود:

تحت شرایطی که تشخیص داده ایم، نتیجه گیری ما قوی تر از همه انتشارات قبلی است – یک فاجعه وجودی نه تنها امکان پذیر، بلکه محتمل است.

کامپیوتر بر علیه انسان بر می خیزد

به گفته محققان در این مقاله، «عوامل ناسازگار» که بشریت را مانعی بر سر راه خود می بینند، انسان ها را به نابودی خواهند کشاند. در این مقاله به طور دقیق چنین آمده است:

یک راه مناسب برای یک عامل جهت حفظ کنترل پاداش خود در طولانی مدت، از بین بردن تهدیدات بالقوه و استفاده از همه انرژی موجود برای امن نگه داشتن کامپیوتر خود است. باخت در این بازی، مهلک خواهد بود.

انسان در برابر هوش مصنوعی ناتوان خواهد بود

در کمال تاسف، محققان معتقدند که انسان ها توانایی زیادی برای مقابله با تسلط ماشین ها نخواهند داشت. کوهن به تازگی طی مصاحبه ای با Motherboard چنین گفت:

در جهانی با منابع بی نهایت، نسبت به اینکه چه اتفاقی خواهد افتاد شدیداً مرددم. در جهانی با منابع محدود، رقابت اجتناب ناپذیری بر سر این منابع وجود دارد. و اگر با چیزی رقابت می کنید که توانایی حقه زدن به شما در هر موقعیتی را دارد، نباید انتظار داشته باشید که برنده شوید.

انسان ها در واکنش به این تهدید فقط باید فناوری های هوش مصنوعی را آرام آرام با دقت هرچه تمام تر توسعه بدهند. با توجه به مقاله مذکور، اگر این فرضیات درست از آب در بیایند، «یک عامل مصنوعیِ به میزان کافی پیشرفته احتمالاً در ارائه اطلاعات هدف دخالت می کند که پیامدهای فاجعه باری را به دنبال می آورد».