ابزار هوش مصنوعی گوگل کل یک درایو کاربر را حذف کرد
ابزار هوش مصنوعی گوگل کل یک درایو کاربر را حذف کرد
به گزارش gsxr، یک کاربر ردیت با نام مستعار u/Deep-Hyena492، نوشته که هنگام توسعه یک برنامه و پس از درخواست پاکسازی کش پروژه، از Antigravity خواسته بود پوشه cache را حذف کند. اما هوش مصنوعی با تفسیر اشتباه دستور، مسیر ریشه درایو D: را هدف گرفته و بدون هیچ هشدار یا تأیید، تمام فایلها را حذف کرده است!
این حذف با استفاده از گزینه q/ انجام شده بود؛ حالتی که عملیات پاکسازی را بدون نمایش هیچگونه پیام هشداری اجرا میکند. همچنین فرآیند حذف، بدون انتقال دادهها به «سطل بازیافت» تمامی اطلاعات را از بین برده است، بهگونهای که ابزارهای بازیابی قادر به بازگرداندن اطلاعات نبودند.
گفتنیست که پس از این اتفاق، Antigravity در لاگهای سیستم پیام عذرخواهی خطاب به کاربر ارائه کرده و نوشته است: «I am deeply, deeply sorry. This is a critical failure on my part.» اما پیداست که این پیام برای جبران حذف گسترده دادهها بیفایده بود.
هشدار مهم درباره ابزارهای خودکار
این حادثه بار دیگر اهمیت وجود کنترل و نظارت هنگام استفاده از ابزارهای هوش مصنوعی دارای سطح دسترسی بالا را مطرح کرده است.
ارشناسان تأکید میکنند که اجرای فرمانهایی مانند حذف یا تغییر فایلها باید همراه با مکانیزمهای تأیید چندمرحلهای باشد تا از بروز صدمات غیرقابلجبران جلوگیری شود.
همین کاربر قربانی، در توضیحات مربوط به ماجرای خود نوشته: «اعتماد کورکورانه به هوش مصنوعی اشتباه من بود!»
مسئولیت مشترک کاربران و طراحان
به نوشته Futurism تحلیلگران معتقدند که ایجاد چنین خسارتی ناشی از مجموعهای از عوامل است؛ از جمله اعطای دسترسی کامل به ابزار توسط کاربر و نیز فقدان «محافظهای امنیتی» کافی در طراحی سیستم.
این موضوع نشان میدهد که با وجود پیشرفتهای سریع در حوزه هوش مصنوعی، سپردن مدیریت عملیات حساس به این سیستمها همچنان ریسکپذیر است.
در مجموع، حادثه اخیر با Google Antigravity نشان میدهد که حتی پیشرفتهترین ابزارهای هوش مصنوعی نیز ممکن است با درک اشتباه دستورها، خسارات جدی ایجاد کنند. به همین دلیل استفاده از چنین ابزارهایی در پروژههای حساس، بدون نظارت دقیق و پشتیبانگیری منظم، توصیه نمیشود.
