مخترع چتجیپیتی ابزاری برای شناسایی متن خودکار میسازد
مخترع چتجیپیتی ابزاری برای شناسایی متن خودکار میسازد
به گزارش gsxr و به نقل از ایندیپندنت، اوپنایآی (OpenAI) گفت که این سیستم را برای این ساخته است که با فراهم آوردن امکان شناسایی آسانتر متنهای نوشته هوش مصنوعی برای مردم، از خطرات آنها جلوگیری کند.
این خطرات مثلا شامل راهانداختن کارزارهای انتشار خودکار اطلاعات نادرست میشود یا چتباتها امکان مییابند وانمود کنند انسانند. این شرکت گفت که این ابزار همچنین ما را در برابر «تقلب دانشگاهی» در امان نگه میدارد، خبری که در گیرودار وحشت فزاینده از این امر منتشر میشود که چنین سیستمهایی، امکان تقلب دانشجویان را در انجام تکالیف و سایر کارهای دانشگاهی فراهم کنند.
اما این شرکت اعلام کرد این سیستم هنوز «کاملا قابلاعتماد نیست» و میتواند ۲۶ درصد متنهای تولیدی با هوش مصنوعی را تشخیص دهد که با چنین سامانهای تولید شدهاند، و در ۹ درصد موارد به اشتباه متنهای انساننوشته را نشان میکند.
اوپنایآی گفت که با افزایش طول متن، این ابزار قابلاعتمادتر میشود و وقتی با متنهایی مواجه شود که سیستمهای جدیدتر هوش مصنوعی تولید کردهاند، بهتر عمل میکند. توصیه میشود که این ابزار فقط در متون انگلیسی به کار رود، و این شرکت هشدار داد که متنهایی را که هوش مصنوعی مینویسد، میتوان ویرایش کرد تا دیگر به این شکل قابل تشخیص نباشند.
این شرکت گفت، بهرغم این محدودیتها، نسخه اولیه این سیستم را با هدف بهبود اطمینانپذیری آن منتشر میکند.
اما OpenAI تاکید کرد که نباید از این ابزار در حکم «ابزار اصلی تصمیمگیری» استفاده کرد، «بلکه باید آن را به منزله مکملی برای سایر روشهای تعیین منبع یک قطعه نوشتار» به کار برد.
این ابراز همچنین ممکن است هرگز نتواند تمام متنی که در اصل با سیستم هوش مصنوعی پدیدآمده باشد، تشخیص دهد. اوپنایآی میتواند این سیستم را بر اساس رفععیبهای جدید ارتقا دهد، اما هشدار داد که «در درازمدت معلوم نیست که این شناساییها ارجح باشد یا نه».
OpenAI همزمان با اعلام راهاندازی این ابزار جدید دستهبندی کننده، گفت میداند که شناسایی متنهای نوشته شده با هوشمصنوعی، از دغدغههای ویژه مدرسان است. این شرکت گفت که این کار بخشی از تلاش برای کمک به مقابله با هوشمصنوعی در کلاسهای درس است، اما شاید ثابت شود که برای خبرنگاران و پژوهشگران هم کارساز است.
OpenAI البته میپذیرد که کار بیشتری لازم است، و گفت که «با آموزشگران در ایالات متحده در ارتباط» است «تا از مشاهداتشان در کلاسهای درس اطلاع یابیم و در مورد قابلیتها و محدودیتهای چتجیپیتی بحث کنیم و با کسب اطلاعات، کمکها را همچنان گسترش دهیم». این شرکت از معلمان، والدین و سایر کسانی که در مورد معضل هوش مصنوعی در حوزه دانشگاهی نگرانند، خواست به میدان بیایند و نظرات خود را بگویند و همچنین از اطلاعات موجود در وبسایت این شرکت راهنمایی بگیرند.
