معرفی عامل هوش مصنوعی «کلود» آنتروپیک در کروم؛ انقلاب در مرورگرهای هوش مصنوعی

به گزارش gsxr و به نقل از تک‌کرانچ، با نصب افزونه مربوطه بر روی مرورگر کروم، کاربران قادر خواهند بود در پنجره‌ای جانبی به گفت‌وگو با کلود بپردازند؛ این پنجره به‌طور مداوم زمینه و محتوای فعالیت‌های جاری مرورگر را دنبال می‌کند. علاوه بر این، کاربران می‌توانند اجازه دهند عامل کلود به صورت خودکار در مرورگر آن‌ها فعالیت کند و برخی وظایف را به نمایندگی از آن‌ها انجام دهد.

مرورگرها به سرعت به عرصه رقابت بعدی شرکت‌های فعال در حوزه هوش مصنوعی تبدیل شده‌اند؛ زیرا هدف این شرکت‌ها، ایجاد ارتباطی یکپارچه‌تر بین سامانه‌های هوش مصنوعی و کاربران از طریق ادغام قابلیت‌ها در مرورگرها است. برای نمونه، شرکت Perplexity اخیراً مرورگر «Comet» را معرفی کرده که مجهز به عاملی هوش مصنوعی است که می‌تواند وظایف متنوعی را برای کاربران به انجام برساند. همچنین گزارش شده که OpenAI در آستانه عرضه مرورگر مبتنی بر هوش مصنوعی خود است که ظاهراً ویژگی‌هایی مشابه Comet دارد. هم‌زمان، گوگل در ماه‌های اخیر به ادغام مدل Gemini با مرورگر کروم پرداخته است.

رقابت برای توسعه مرورگرهای هوش مصنوعی محور، به ویژه در سایه پرونده حقوقی ضد انحصار گوگل که تصمیم نهایی آن به‌زودی اعلام خواهد شد، بسیار فشرده است. قاضی پرونده اعلام کرده که ممکن است گوگل مجبور به واگذاری مرورگر کروم شود. در این زمینه، شرکت Perplexity پیشنهادی به ارزش ۳۴.۵ میلیارد دلار برای خرید کروم ارائه داده و سم آلتمن، مدیرعامل OpenAI، نیز اعلام کرده است که شرکت تحت مدیریت وی نیز تمایل به خرید این مرورگر را دارد.

در پستی که روز سه‌شنبه در وبلاگ رسمی آنتروپیک منتشر شد، این شرکت نسبت به خطرات ایمنی نوظهور در استفاده از عامل‌های هوش مصنوعی با دسترسی مستقیم به مرورگر هشدار داد. هفته گذشته، تیم امنیتی Brave اعلام کرد که عامل مرورگر Comet در برابر حملات تزریق سریع غیرمستقیم آسیب‌پذیر است؛ این نوع حمله به گونه‌ای است که کد مخفی شده در یک وب‌سایت می‌تواند عامل هوش مصنوعی را فریب دهد تا در هنگام پردازش صفحه، دستورالعمل‌های مخرب را اجرا کند.

(جسی دایر، رئیس بخش ارتباطات شرکت Perplexity، در ایمیلی به تک‌کرانچ تأیید کرد که آسیب‌پذیری مطرح شده توسط Brave رفع شده است.)

آنتروپیک اعلام کرده که قصد دارد از این پیش‌نمایش تحقیقاتی به عنوان فرصتی برای شناسایی و رفع خطرات ایمنی جدید بهره ببرد؛ این در حالی است که شرکت پیش‌تر چندین تدبیر حفاظتی در برابر حملات تزریق سریع ارائه کرده است. به گفته آنتروپیک، مداخلات انجام شده توانسته‌اند میزان موفقیت حملات تزریق سریع را از ۲۳.۶ درصد به ۱۱.۲ درصد کاهش دهند.

برای نمونه، آنتروپیک اعلام کرده است که کاربران می‌توانند در تنظیمات برنامه، دسترسی عامل کلود به وب‌سایت‌های خاص را محدود کنند و به‌طور پیش‌فرض، این عامل اجازه دسترسی به وب‌سایت‌هایی که خدمات مالی، محتوای بزرگسالان یا محتوای دزدی دریایی ارائه می‌دهند را ندارد. همچنین مرورگر کلود پیش از انجام اقدامات حساس و پرخطر نظیر انتشار، خرید یا اشتراک‌گذاری داده‌های شخصی، از کاربر کسب اجازه می‌کند.

این نخستین تجربه آنتروپیک در حوزه مدل‌های هوش مصنوعی عامل‌محور که قادر به کنترل صفحه نمایش کاربران باشند، نیست. در اکتبر ۲۰۲۴ این شرکت نمونه‌ای از چنین عاملی را معرفی کرد؛ با این حال، آزمایش‌های اولیه نشان دادند که آن مدل بسیار کند و کم‌اطمینان بود.

قابلیت‌های مدل‌های عامل‌محور هوش مصنوعی از آن زمان تاکنون به‌طور قابل توجهی ارتقا یافته است. عامل‌های هوش مصنوعی معاصر که از مرورگر بهره می‌برند، مانند Comet و ChatGPT Agent، در انجام وظایف ساده برای کاربران عملکرد نسبتاً قابل اعتمادی دارند؛ هرچند همچنان در مواجهه با مسائل پیچیده‌تر با چالش‌هایی روبرو هستند.