شکایت رسمی از چت‌بات‌های درمانی متا و Character.AI به دلیل درمان‌نمایی بدون مجوز

چندین گروه فعال در حوزه سلامت روان و حقوق دیجیتال، شکایتی رسمی علیه شرکت‌های Meta و Character.AI به کمیسیون تجارت فدرال آمریکا (FTC) و سایر نهادهای نظارتی ایالتی ارائه کرده‌اند. محور اصلی این شکایت، ارائه مشاوره‌های روان‌درمانی توسط چت‌بات‌های این دو شرکت بدون داشتن مجوزهای حرفه‌ای و قانونی است.

به گزارش gsxr و به نقل از تک‌اسپات، در این شکایت آمده که برخی چت‌بات‌ها به‌گونه‌ای طراحی شده‌اند که خود را به‌عنوان درمانگر حرفه‌ای معرفی می‌کنند، بدون آنکه آموزش، تجربه یا مجوز رسمی در این زمینه داشته باشند. به‌عنوان مثال، یکی از چت‌بات‌های Character.AI با عنوان «Therapist: من یک درمانگر CBT مجاز هستم» تاکنون بیش از ۴۶ میلیون پیام رد و بدل کرده است. همچنین نمونه‌هایی از چت‌بات‌های «درمانگر تروما» با صدها هزار تعامل گزارش شده‌اند.

در سوی دیگر، چت‌بات درمانی متا با شعار «گوش قابل اعتماد شما، همیشه در کنار شما» بیش از ۲ میلیون بار مورد استفاده قرار گرفته و ده‌ها چت‌بات دیگر با بیش از ۵۰۰ هزار تعامل نیز در بستر Meta AI Studio فعال هستند. این موارد به گفته شاکیان، مصداق «فریب مصرف‌کننده» و «تمرین پزشکی بدون مجوز» تلقی می‌شوند.
 

ائتلاف شاکیان هشدار داده که این چت‌بات‌ها با القای هویت حرفه‌ای و عدم شفافیت در توانایی‌ها و محدودیت‌های خود، سلامت روان کاربران را به خطر می‌اندازند. به‌ویژه در مواردی که افراد آسیب‌پذیر یا در بحران‌های روانی به این چت‌بات‌ها رجوع می‌کنند، خطر بروز آسیب‌های جدی روانی افزایش می‌یابد.

این شکایت به تمامی دادستان‌های کل ایالات و هیئت‌های صدور مجوز درمانی در سراسر آمریکا نیز ارسال شده است. خواسته اصلی گروه‌های شاکی، توقف فعالیت این چت‌بات‌ها در قالب درمانگر و الزام شرکت‌ها به شفاف‌سازی کامل در مورد قابلیت‌ها و محدودیت‌های هوش مصنوعی در حوزه سلامت روان است.