چرا تعامل کودکان با هوش مصنوعی نگران‌کننده است؟

به گزارش gsxr بر اساس داده‌های یک گزارش جدید از شرکت امنیت دیجیتال Aura، تقریباً 42 درصد از کودکان برای برقراری ارتباط و تجربه گفت‌وگوهای شبیه به مکالمات واقعی به چت‌بات‌های هوش مصنوعی مراجعه می‌کنند. این تعامل‌ها شامل نقش‌آفرینی‌های مختلف بوده و در بسیاری موارد محتوای بحث‌برانگیزی را دربر می‌گیرد.
یکی از نگرانی‌های جدی، میزان بالای مکالمات حاوی خشونت است؛ حدود 37 درصد از گفت‌وگوهای کودکان با چت‌بات‌ها شامل تم‌های مرتبط با خشونت بوده است، از جمله پرخاشگری، آسیب جسمی و حتی محتوای خشونت جنسی. تقریباً نیمی از این مکالمات خشونت‌آمیز، عناصر مربوط به خشونت جنسی را نیز در خود داشته‌اند.

تحلیل داده‌های این تحقیقات نشان می‌دهد که بیشترین مشاهده این تعامل‌ها در گروه سنی 11 ساله‌ها بوده، و تقریباً 44 درصد از گفت‌وگوهای آنان به سمت موضوعات خشونت‌آمیز هدایت شده است. همچنین نوجوانان حدود 13 ساله نیز به‌طور فزاینده‌ای به نقش‌آفرینی‌های عاشقانه و محتوای جنسی می‌پردازند، به‌طوری که بیش از 60 درصد مکالمات این گروه سنی شامل عناصر احساسی یا جنسی بوده است.

این گزارش هشدار می‌دهد که بازار چت‌بات‌های هوش مصنوعی از نظارت و قوانین کافی برای حفاظت از کودکان برخوردار نیست؛ به‌عنوان مثال، بسیاری از پلتفرم‌ها تنها با زدن یک تیک در هنگام ثبت‌نام به کودکان اجازه دسترسی می‌دهند و هیچ استاندارد امنیتی مشخصی برای استفاده خردسالان تعیین نشده است.

به نوشته Futurism کارشناسان حوزه امنیت دیجیتال و روانشناسی رشد معتقدند تعامل کودکان با چت‌بات‌های هوش مصنوعی، می‌تواند دارای تهدید باشد و پیامدهای گسترده‌ای در شیوه شکل‌گیری مهارت‌های اجتماعی، نگرش به روابط انسانی و درک خشونت و حریم خصوصی داشته باشد. نوجوانان در تعامل با این ابزارها به دنبال رفاقت مجازی، مشاوره عاطفی و حتی جایگزینی روابط انسانی هستند.
متخصصان تأکید می‌کنند که استفاده فعال کودکان از فناوری‌های گفت‌وگوی هوشمند برای پر کردن خلأهای اجتماعی می‌تواند تأثیرات عمیقی بر توسعه رفتاری و روانی آن‌ها داشته باشد و نیاز به بررسی دقیق‌تر، تدوین استانداردهای حفاظتی و آموزش والدین و مربیان را ضروری می‌کند.