اقدام OpenAI علیه استفاده چینی‌ها از ChatGPT برای نظارت بر شبکه‌های اجتماعی

OpenAI حساب‌های گروهی از کاربران چینی را که قصد داشتند از ChatGPT برای ویرایش و اشکال‌زدایی کدهای یک ابزار نظارت بر شبکه‌های اجتماعی استفاده کنند، مسدود کرد.

به گزارش gsxr و به نقل از انگجت، این ابزار که برای رصد و تحلیل احساسات ضد دولت چین در پلتفرم‌هایی مانند X، فیس‌بوک، یوتیوب و اینستاگرام طراحی شده بود، به‌ویژه بر شناسایی فراخوان‌های اعتراض علیه نقض حقوق بشر در چین تمرکز داشت.  

بنا بر اعلام OpenAI، این شبکه در ساعات کاری چین فعال بود و به‌طور دستی و نه خودکار، از مدل‌های هوش مصنوعی برای تولید محتوا استفاده می‌کرد. کاربران این شبکه از ChatGPT برای بازبینی گزارش‌هایی استفاده می‌کردند که نشان می‌دادند اطلاعات جمع‌آوری‌شده به سفارتخانه‌های چین و نهادهای اطلاعاتی این کشور منتقل شده‌اند. این داده‌ها به نظارت بر اعتراضات در کشورهایی نظیر ایالات متحده، آلمان و بریتانیا کمک می‌کردند.  

 

بن نیمو، یکی از محققان OpenAI، اعلام کرد که این نخستین بار است که چنین فعالیتی در این پلتفرم شناسایی می‌شود. وی افزود که گاهی تهدیدکنندگان به‌واسطه استفاده از مدل‌های هوش مصنوعی، به‌طور ناخواسته نشانه‌هایی از فعالیت‌های گسترده‌تر خود در اینترنت به جا می‌گذارند.  

بخش قابل توجهی از کد این ابزار نظارتی از یک نسخه متن‌باز مدل لامای شرکت متا الهام گرفته شده است. همچنین، گروه مذکور از ChatGPT برای تهیه گزارش‌های عملکرد سالانه خود استفاده کرده بود و در این گزارش‌ها به طراحی ایمیل‌های فیشینگ برای مشتریان چینی اشاره شده است.  

OpenAI علاوه بر این، حسابی را که از ChatGPT برای تولید پست‌های انتقادی علیه تسای شیا (Cai Xia)، دانشمند علوم سیاسی و مخالف چینی ساکن آمریکا، استفاده می‌کرد نیز مسدود کرده است. این گروه همچنین مقالاتی انتقادی علیه ایالات متحده به زبان اسپانیایی تولید کرده بود که در رسانه‌های جریان اصلی آمریکای لاتین منتشر و به افراد یا شرکت‌های چینی نسبت داده شده بودند.