شبیهساز صدای چتجیپیتی؛ فناوری جنجالی که فعلاً پشت درهای بسته ماند!
شبیهساز صدای چتجیپیتی؛ فناوری جنجالی که فعلاً پشت درهای بسته ماند!
این ربات گفتگو اکنون میتواند پاسخهای عمیقتری ارائه دهد، گزارشهای پژوهشی مفصل تولید کند، تصاویر بسازد و ویرایش کند و حتی با یک عامل هوش مصنوعی به نام اپراتور (Operator) وب برای شما جستجو کند. همچنین مدلهای مختلفی از چتجیپیتی عرضه شدهاند که تواناییهای آن را افزایش دادهاند.
اما یک ابزار هوش مصنوعی که اوپن اِیآی بیش از یک سال پیش معرفی کرد، هنوز به طور گسترده در چتجیپیتی یا به صورت برنامهای مستقل عرضه نشده است؛ ابزاری به نام شبیهساز صدا (Voice Engine) که میتواند تنها با گوش دادن به یک نمونه صوتی ۱۵ ثانیهای، صدای فرد را شبیهسازی کند.
این قابلیت بسیار نگرانکننده است و میتواند مورد سوءاستفادههای فراوانی قرار بگیرد. از جعل صدای سیاستمداران و سلبریتیها گرفته تا کلاهبرداریهای صوتی و حتی شوخیهای ناپسند میان افراد عادی. به همین دلیل اوپن اِیآی هنوز این ابزار را فقط در اختیار تعداد محدودی از شرکای مطمئن قرار داده و زمان عرضه عمومی آن مشخص نیست.
این تأخیر به دلیل نگرانیهای امنیتی و اخلاقی است. استفادههای مشروعی مانند دوبله فیلمها با حفظ صدای بازیگر اصلی، کمک به افراد دارای مشکلات گفتاری و ترجمه همزمان زبان با حفظ لحن و صدای گوینده وجود دارد، اما دسترسی آزاد عموم به این فناوری میتواند به سرعت به سوءاستفاده منجر شود.
تجربه انتشار ابزار تولید تصاویر جعلی توسط چتجیپیتی نشان داده که کاربران به راحتی میتوانند فناوریهای جدید را برای اهداف نادرست به کار بگیرند. اگر شبیهساز صدا بدون محدودیت عرضه شود، امکان سوءاستفادههای گستردهتر و پیچیدهتری فراهم میشود.
اوپن اِیآی اعلام کرده که همچنان این قابلیت را با شرکای محدود آزمایش میکند تا هم کاربردهای مفید و هم ایمنی آن را بهبود بخشد. این شرکت پیشتر قصد داشت در مارس ۲۰۲۴ این ابزار را به صورت محدود در اختیار ۱۰۰ توسعهدهنده قرار دهد، اما عرضه آن را به تعویق انداخت. با توجه به رشد سریع کلاهبرداریهای مبتنی بر شبیهسازی صدا در سال ۲۰۲۴، به نظر میرسد تصمیم اوپن اِیآی برای تأخیر در عرضه عمومی شبیهساز صدا منطقی و مسئولانه باشد تا از سوءاستفادههای احتمالی جلوگیری شود.
در نهایت، این تأخیر فرصتی است تا فناوری بهتر توسعه یابد و کاربران و جامعه آمادگی بیشتری برای مواجهه با چالشهای آن داشته باشند.
