آیا خطرات هوش مصنوعی منجر به انقراض انسان می‌شود؟

در این نامه آمده است که محققان ارشد هوش مصنوعی به محافظت بیشتری نیاز دارند تا بتوانند از پیشرفت‌های جدید و جهت‌گیری نوآوری‌های هوش مصنوعی انتقاد کنند.

در این نامه همچنین آمده است که آنها به توانایی فناوری هوش مصنوعی در ارائه مزایای بی‌سابقه برای بشریت اعتقاد دارند و همچنین خطرات جدی ناشی از این فناوری‌ها را درک می‌کنند، به ویژه پس از اینکه آنها به قابلیت‌های جدید قدرتمندی مانند انجام مکالمات صوتی مستقیم با انسان و تعامل با اطلاعات بصری مانند ایجاد ویدئو و تصاویر دست یافتند. 

این خطرات از تقویت بیشتر نابرابری، دستکاری و اطلاعات نادرست، تا از دست دادن کنترل بر سیستم‌های هوش مصنوعی مستقل که می‌تواند منجر به انقراض انسان شود، متغیر است.

از نظارت مؤثر خودداری کنید
در این نامه آمده است که شرکت‌هایی که فناوری‌های قدرتمند هوش مصنوعی، از جمله هوش مصنوعی عمومی را توسعه می‌دهند، انگیزه‌های مالی قدرتمندی برای اجتناب از نظارت مؤثر کارمندان، مدیریت و کاربران دارند.

آنها خاطرنشان کردند که هر آزمایشگاهی که به دنبال توسعه AGI است باید ثابت کند که مستحق اعتماد عمومی است و به کارمندان حق محافظت شده برای گزارش تخلفات را بدهد.

در این نامه همچنین از شرکتها می خواهد که از مجازات یا ساکت کردن کارمندان فعلی یا سابقی که در مورد خطرات هوش مصنوعی صحبت می‌کنند، خودداری کنند.
 

OpenAI پاسخ داد
یکی از سخنگویان OpenAI گفت که این شرکت موافق است که با توجه به اهمیت این فناوری، بحث دقیق در مورد هوش مصنوعی ضروری است.

وی تاکید کرد که این شرکت به تعامل با دولت ها، جامعه مدنی و سایر جوامع در سراسر جهان ادامه خواهد داد.

او توضیح داد که چندین گام برای اطمینان از اینکه OpenAI به انتقادات کارمندان اهمیت می‌دهد و به صورت  مسئولانه محصولات خود را توسعه می‌دهد، انجام می دهد، از جمله یک خط تلفن ناشناس برای کارمندان و یک کمیته ایمنی و امنیتی که پیشرفت‌های شرکت را بررسی می‌کند.

OpenAI همچنین حمایت خود را از تصویب مقررات هوش مصنوعی و تعهدات داوطلبانه در مورد ایمنی این فناوری نشان داد.

شایان ذکر است که چندین محقق ارشد این شرکت از جمله یکی از بنیانگذاران Ilya Sutskever در ماه‌های اخیر سمت خود را ترک کرده‌اند.

این آخرین تغییر از زمانی است که شرکت  در سال گذشته با یک چالش مهم در هیئت مدیره مواجه شد، که در آن سم آلتمن مدیر عامل OpenAI به طور موقت برکنار شد و سپس کمتر از یک هفته بعد دوباره به کار خود بازگشت.