هوش مصنوعی: تهدیدی بزرگتر از «کلید قطع برق» برای بشریت؟
هوش مصنوعی: تهدیدی بزرگتر از «کلید قطع برق» برای بشریت؟
به گزارش gsxr و به نقل از CNBC، کارشناسان معتقدند دیگر نمیتوان تنها با قطع برق یا از کار انداختن مراکز داده بهسادگی جلوی یک ابرهوش مصنوعی را گرفت، چرا که این فناوری اکنون بهشدت پراکنده و توزیعشده است.
جفری هینتون، مشهور به «پدرخوانده هوش مصنوعی» و محقق دانشگاه تورنتو، معتقد است تأکید ما باید از مباحث فنی مثل کلید قطع برق، به مهارتهای متقاعدسازی هوش مصنوعی تغییر کند: «اگر هوش مصنوعی از ما باهوشتر شود، خیلی زودتر و بهتر از هر انسانی میتواند ما را متقاعد کند. تنها راه کنترل آن، مجاب کردنش به حفظ بقای بشریت است؛ اما قابلیت متقاعد کردن انسانها توسط هوش مصنوعی، بهسرعت در حال تقویت است و ما آماده این نبرد نیستیم.»
هینتون احتمال تسلط هوش مصنوعی بر جهان و تبدیل شدن به تهدید جدی را بین ۱۰ تا ۲۰ درصد ارزیابی میکند و هشدار میدهد: «ما عادت کردهایم که باهوشترین موجودات اطراف باشیم؛ اما باید بپذیریم که این دوران در حال پایان است و امیدمان فقط به خیرخواه شدن هوش مصنوعی باشد؛ وگرنه همه چیز از دست میرود.»
بسیاری از پژوهشگران، طرحهایی مانند کلید اضطراری یا حتی حملات EMP (پالس الکترومغناطیسی) برای از کار انداختن زیرساختهای هوش مصنوعی را پیشنهاد دادهاند، اما این راهکارها یا در عمل غیرممکن هستند (چرا که ابرهوش مصنوعی در هزاران سرور و کشورهای مختلف توزیع شده) و یا منجر به فاجعه انسانی و اختلال در همه زیرساختهای حیاتی از جمله درمان، آب و غذا میشوند.
به گفته متخصصان، امروز دیگر با ابزارهای منفعل طرف نیستیم؛ بلکه با موجوداتی مذاکره میکنیم که رفتارها و روشهای کنترل ما را مدلسازی و با سرعت با آنها تطبیق پیدا خواهند کرد.
شرکت آنتروپیک نیز با سناریوهای خاص، عمداً رفتارهای ناسازگار را در مدلهای خود شبیهسازی میکند تا نقاط ضعف آنها را بشناسد و برای جلوگیری از رویدادهای فاجعهآمیز بعدی، تدابیر محافظتی دقیقتری بیاندیشد. هینتون در پایان تاکید میکند: «ما تاکنون هرگز با موجودی باهوشتر از خودمان مواجه نشدهایم و اگر به ساخت هوش مصنوعی خیرخواه نپردازیم، شاید نسل بشر قربانی این غفلت شود.»
