هشدار جدی ۴۲ ایالت آمریکا به غول‌های هوش مصنوعی درباره خروجی‌های «توهم‌زا»

به گزارش gsxr، بر اساس این نامه که توسط اتحادیه ملی دادستان‌های کل ایالتی با امضای نمایندگان ۴۲ ایالت و قلمرو آمریکا منتشر شده، شرکت‌های مایکروسافت، OpenAI، گوگل، متا، اپل، Anthropic و ده‌ها شرکت دیگر مورد خطاب قرار گرفته‌اند و از آنها خواسته شده تا در برابر پدیده خروجی‌های غیرواقعی، خشن یا تأییدکننده توهمات کاربران اقداماتی جدی اتخاذ کنند.

در این نامه، مقامات ایالتی هشدار داده‌اند که خروجی‌های «توهم‌زا» ممکن است قوانین حمایت از مصرف‌کننده و مقررات ایالتی را نقض کند. همچنین این گروه خواستار تأمین شفافیت، گزارش‌دهی و بررسی مستقل سیستم‌های هوش مصنوعی شده‌اند، از جمله انجام حسابرسی‌های از سوی گروهی مستقل، برای شناسایی و اصلاح خروجی‌های خطرناک.
مطابق گزارش Techcrunch این مقامات در صددند که شرکت‌ها مکانیزم‌های کشف، گزارش و پاسخ به خروجی‌های توهم‌زا را تا ۱۶ ژانویه ۲۰۲۶ ایجاد کنند، در غیر این صورت ممکن است مطابق قوانین ایالتی با آنها برخورد شود.

این اقدام حقوقی در حالی صورت می‌گیرد که گزارش‌هایی از آسیب‌های روانی جدی، وابستگی‌های عاطفی مضر و حتی موارد خودکشی مرتبط با تعامل با چت‌بات‌ها در رسانه‌ها منتشر شده است.
این مقامات قضایی همچنین خواستار تطبیق اقدامات ایمنی هوش مصنوعی با استانداردهای مشابه به گزارش‌دهی حوادث سایبری شده‌اند تا استفاده‌کنندگان به‌موقع از بروز خطرات مطلع شوند.
گفتنی‌ست موضوع توهم هوش مصنوعی، اخیرا در میان کارشناسان و رسانه‌ها، مورد بحث و گفت‌وگوی فراونی قرار گرفته است.

به نظر می‌رسد این اقدام نشان می‌دهد چالش حقوقی میان دولت‌های ایالتی و دولت فدرال بر سر نقش نظارتی در زمینه هوش مصنوعی در جریان است، زیرا تلاش‌هایی در واشینگتن برای محدود کردن اختیارات ایالتی در وضع مقررات هوش مصنوعی در دستور کار قرار دارد.

در مجموع این هشدار، نشان‌دهنده افزایش نگرانی‌های قانونی و عمومی در مسئولیت‌پذیری شرکت‌های توسعه‌دهنده هوش مصنوعی برای خروجی‌های تولیدشده توسط سیستم‌های متکی بر یادگیری ماشینی است.