ChatGPT با پلاگین هایی که می توانند هوش مصنوعی را با جهان ارتباط برقرار کنند، «چشم و گوش» را دریافت می کند – Ars Technica

روز پنجشنبه، OpenAI یک سیستم پلاگین برای دستیار هوش مصنوعی ChatGPT خود را معرفی کرد. این افزونه ها به ChatGPT امکان تعامل با جهان گسترده تر از طریق اینترنت، از جمله رزرو پرواز، سفارش مواد غذایی، مرور وب و موارد دیگر را می دهند. پلاگین ها بیت های کدی هستند که به ChatGPT می گویند چگونه از یک منبع خارجی در اینترنت استفاده کند.

اساساً، اگر توسعه‌دهنده‌ای بخواهد به ChatGPT امکان دسترسی به هر سرویس شبکه را بدهد (به عنوان مثال: “جستجوی قیمت سهام فعلی”) یا انجام هر کاری که توسط یک سرویس شبکه کنترل می‌شود (مثلاً: “سفارش پیتزا از طریق اینترنت”)، اکنون امکان پذیر است، مشروط بر اینکه برخلاف قوانین OpenAI نباشد.

به طور معمول، اکثر مدل‌های زبان بزرگ (LLM) مانند ChatGPT در یک حباب محدود شده‌اند، بنابراین، فقط می‌توانند از طریق مکالمات متنی با کاربر با جهان تعامل داشته باشند. همانطور که OpenAI در پست وبلاگ مقدماتی خود در مورد افزونه های ChatGPT می نویسد، “تنها کاری که مدل های زبان می توانند خارج از جعبه انجام دهند، انتشار متن است.”

بینگ چت این پارادایم را با امکان جستجو در وب برای اطلاعات جدیدتر پیش برده است، اما تا کنون ChatGPT هنوز از دنیای گسترده تر جدا شده است. در حالی که به این روش بسته است، ChatGPT فقط می تواند از داده های مجموعه آموزشی خود (محدود به سال 2021 و قبل از آن) و هر اطلاعاتی که کاربر در طول مکالمه ارائه می دهد استفاده کند. همچنین، ChatGPT می تواند مستعد خطاها و اشتباهات واقعی باشد (آنچه محققان هوش مصنوعی آن را “توهم” می نامند.

برای دور زدن این محدودیت ها، OpenAI حباب را بیرون زده و یک رابط پلاگین ChatGPT ایجاد کرده است (آنچه OpenAI آن را “چشم و گوش” ChatGPT می نامد) که به توسعه دهندگان اجازه می دهد اجزای جدیدی ایجاد کنند که به ChatGPT “وصل شوند” و به مدل هوش مصنوعی اجازه تعامل با آن را می دهد. سایر خدمات در اینترنت این سرویس‌ها می‌توانند محاسبات و ارجاع اطلاعات واقعی را برای کاهش توهمات انجام دهند، و همچنین می‌توانند به طور بالقوه با هر سرویس نرم‌افزاری دیگری در اینترنت تعامل داشته باشند – اگر توسعه‌دهندگان یک افزونه برای آن کار ایجاد کنند.

در مورد چه نوع پلاگین هایی صحبت می کنیم؟

در مورد ChatGPT، OpenAI به کاربران این امکان را می دهد که قبل از شروع جلسه ChatGPT، از لیستی از افزونه ها انتخاب کنند. آنها خود را تقریباً مانند برنامه های موجود در فروشگاه برنامه ها نشان می دهند، هر افزونه نماد و توضیحات خاص خود را دارد.

OpenAI می گوید که اولین دور پلاگین ها توسط شرکت های زیر ایجاد شده است:

• Expedia (برای برنامه ریزی سفر)
• FiscalNote (برای داده های بازار در زمان واقعی)
• Instacart (برای سفارش مواد غذایی)
• KAYAK (جستجوی پرواز و ماشین های کرایه ای)
• کلارنا (برای خرید مقایسه قیمت)
• Milo (یک دستیار والدین با هوش مصنوعی)
• OpenTable (برای توصیه و رزرو رستوران)
• Shopify (برای خرید در آن سایت)
• شل (برای ارتباطات)
• صحبت کنید (برای آموزش زبان با هوش مصنوعی)
• Wolfram (برای محاسبات و داده های بلادرنگ)
• Zapier (یک پلت فرم اتوماسیون)

به طور خاص، افزونه Zapier به ویژه قدرتمند به نظر می رسد، زیرا دسترسی ChatGPT را به یک سیستم اتوماسیون نرم افزار موجود می دهد، یا همانطور که Zapier می گوید: “شما می توانید از ChatGPT بخواهید هر یک از 50000 اقدام Zapier (از جمله جستجو، به روز رسانی و نوشتن) را با بیش از 5000 برنامه پشتیبانی Zapier، چت را به عمل تبدیل می‌کند. می‌تواند یک ایمیل بنویسد، سپس آن را برای شما ارسال کند. یا مخاطبین را در یک CRM پیدا کند، سپس مستقیماً آنها را به‌روزرسانی کند. یا ردیف‌هایی را به صفحه‌گسترده اضافه کند، سپس آنها را به‌عنوان پیام Slack ارسال کند. امکانات بی پایان هستند.”

OpenAI همچنین میزبان خود سه پلاگین است، یک مرورگر وب (که می تواند اطلاعات را از وب به روشی شبیه به چت بینگ بگیرد)، یک مفسر کد برای اجرای برنامه های پایتون (در جعبه شنی) و یک ابزار بازیابی که امکان دسترسی به ” منابع اطلاعاتی شخصی یا سازمانی که در جای دیگری میزبانی شده اند (عموماً، واکشی اطلاعات از اسناد).

در حالی که OpenAI فرآیند انتخاب افزونه را “فروشگاه افزونه” می نامد، این شرکت برنامه ای برای فروش پلاگین های جداگانه اعلام نکرده است. اما با استفاده از برچسب “فروشگاه”، این نتیجه در برخی مواقع محتمل به نظر می رسد.

در حال حاضر، توسعه دهندگان با دسترسی اولیه بوده اند نمونه سازی سریع پلاگین ها برای ChatGPT. در مقایسه با سایر رویکردهای توسعه افزونه، نحوه کار افزونه های ChatGPT قابل توجه است. به‌جای فرآیند مخفیانه استفاده از «کد چسب» برای رابط یک API با ChatGPT، توسعه‌دهنده اساساً به ChatGPT می‌گوید چگونه از سرویس خود با استفاده از زبان طبیعی استفاده کند و ChatGPT این کار را انجام می‌دهد.

فراتر از آن، توسعه دهندگان از ChatGPT و GPT-4 برای نوشتن مانیفست های پلاگین ChatGPT (یک مانیفست «توضیح قابل خواندن ماشینی از قابلیت های افزونه و نحوه فراخوانی آنها» است، طبق گفته OpenAI)، فرآیند توسعه افزونه را ساده تر می کند.

این نوع از قابلیت توسعه خودترکیبی احساس می شود قلمرو ناشناخته برای برخی از برنامه نویسان در یک مورد، یکی از کاربران توییتر به نام روهیت با صدای بلند نگران، “بچه ها بحران موجودیتی. آیا OpenAI فقط نرم افزار را تمام کرده است؟ جز پاکسازی و جارو کردن چه کاری باقی مانده است؟“

سام آلتمن، مدیر عامل OpenAI، پاسخ داد، “نه.”

آیا ایمن است؟

با توجه به اینکه OpenAI قبلاً مدل‌های هوش مصنوعی خود (مانند GPT-4) را آزمایش کرده است تا ببیند آیا آنها آژانسی برای اصلاح، بهبود و گسترش خود در بین سیستم‌های رایانه‌ای جهان دارند، جای تعجب نیست که OpenAI تقریباً نیمی از پست وبلاگ افزونه‌های ChatGPT خود را صرف صحبت کردن کند. در مورد ایمنی و اثرات آنها به طور معمول در یک بخش در مورد تأثیرات بالقوه بر مشاغل ذکر می کنند: “پلاگین ها احتمالاً پیامدهای اجتماعی گسترده ای خواهند داشت.”

فراتر از مشاغل، ترس مکرر در میان برخی از محققان هوش مصنوعی شامل اعطای دسترسی به یک مدل هوش مصنوعی پیشرفته به سیستم‌های دیگر است، جایی که به طور بالقوه می‌تواند آسیب برساند. لازم نیست سیستم هوش مصنوعی “آگاهانه” یا “حساس” باشد، بلکه فقط برای انجام یک کار خاص که لازم می داند هدایت شود. در این مورد با پلاگین ها، به نظر می رسد OpenAI دقیقاً همین کار را انجام می دهد.

به نظر می رسد OpenAI از خطرات آگاه است و اغلب به کارت سیستم GPT-4 خود اشاره می کند که نوع آزمایش بدترین سناریویی را که در مقاله قبلی توضیح دادیم را توصیف می کند. فراتر از سناریوهای فرضی روز رستاخیز، آسیب‌های مبتنی بر هوش مصنوعی می‌توانند به شکل نسخه‌های تسریع‌شده خطرات آنلاین کنونی، مانند حلقه‌های فیشینگ خودکار، کمپین‌های اطلاعات نادرست، اخترگردی یا حملات شخصی باشند.

OpenAI می‌نویسد: «این خطر وجود دارد که افزونه‌ها با انجام اقدامات مضر یا ناخواسته، چالش‌های ایمنی را افزایش دهند و توانایی‌های بازیگران بدی را که می‌توانند دیگران را کلاه‌برداری، گمراه یا سوءاستفاده کنند، افزایش دهند.» “با افزایش دامنه برنامه های ممکن، افزونه ها ممکن است خطر عواقب منفی ناشی از اقدامات اشتباه یا نادرست انجام شده توسط مدل در دامنه های جدید را افزایش دهند. از روز اول، این عوامل توسعه پلت فرم پلاگین ما را هدایت کرده اند و ما چندین مورد را پیاده سازی کرده ایم. پادمان».

به نظر می رسد یکی از این تدابیر حفاظتی، گسترش تدریجی دسترسی به افزونه ها باشد. همچنین، در حالی که استفاده از افزونه ChatGPT تحت پوشش خط مشی استفاده عمومی OpenAI است که استفاده از آن برای تولید اطلاعات نادرست و اشکال ممنوعه محتوا را ممنوع می کند، همچنین قوانینی را برای افزونه ها مشخص می کند، مانند ممنوعیت خودکار کردن مکالمات با افراد واقعی. همچنین، افزونه‌هایی که از محتوای تولید شده توسط ChatGPT (مانند ایمیل‌ها) استفاده می‌کنند، باید انکار کنند که محتوا توسط هوش مصنوعی تولید شده است.

پلاگین های OpenAI منفرد دارای سلب مسئولیت های ایمنی خود هستند، از جمله امکان انصراف از خزیدن وب ChatGPT با یک فایل robots.txt و این واقعیت که مفسر کد Python در یک جعبه ایمنی “دیوار آتش” اجرا می شود. اما آیا این محدودیت‌ها برای افزونه‌های سایر سرویس‌هایی که می‌توانند کد را اجرا کنند اعمال می‌شود؟ اینها سوالاتی هستند که OpenAI و توسعه دهندگان باید در روزها، هفته ها و ماه های آینده به آنها بپردازند و با هم کار کنند.

در حال حاضر، افزونه‌های ChatGPT فقط بر اساس آلفا برای انتخاب توسعه‌دهندگان و کسانی که از فهرست انتظار تأیید شده‌اند در دسترس هستند. “در حالی که ما در ابتدا تعداد کمی از توسعه دهندگان و کاربران ChatGPT Plus را در اولویت قرار می دهیم، ما قصد داریم به مرور زمان دسترسی در مقیاس بزرگتر را گسترش دهیم.”