سرکوب اپل در برنامه های ChatGPT بعید است، قوانین جدید بعدا امکان پذیر است

مدیر عامل اپل، تیم کوک، در کنفرانس جهانی توسعه دهندگان اپل (WWDC) در مرکز کنوانسیون سن خوزه در سن خوزه، کالیفرنیا در روز دوشنبه، 4 ژوئن 2018، سخنرانی می کند.

جاش ادلسون | خبرگزاری فرانسه | گتی ایماژ

مدل‌های زبان بزرگ مانند ChatGPT می‌توانند بلوک‌های کامل متنی را تولید کنند که مانند یک انسان نوشته شده باشد. شرکت ها برای ادغام ChatGPT در برنامه های خود از جمله مایکروسافت، اسنپ و شاپیفای رقابت می کنند. اما اگر اپل تصمیم بگیرد برنامه های مبتنی بر ChatGPT را از اپ استور خود که تنها راه نصب نرم افزار بر روی آیفون است، محدود کند، روند ممکن است متوقف شود.

بلیکس، یک سازنده اپلیکیشن ایمیل که به طور مرتب با اپل بر سر قوانین اپ استورش درگیر بوده است، می گوید که این هفته با این مشکل مواجه شده است.

بن ولاچ، یکی از بنیانگذاران، به وال استریت ژورنال گفت که اپل به‌روزرسانی برنامه BlueMail خود را رد کرد، زیرا ChatGPT را برای کمک به نوشتن ایمیل‌ها ادغام کرده بود و شامل فیلتر کردن محتوا بر روی خروجی چت‌بات نمی‌شد. Volach همچنین در توییتر ادعا کرده است که اپل یک به‌روزرسانی هوش مصنوعی را مسدود می‌کند.

طبق این گزارش، اپل اعلام کرده است که بدون فیلتر محتوا، چت ربات Blue Mail می تواند کلماتی را تولید کند که برای کودکان مناسب نیست و برنامه ایمیل باید سن توصیه شده خود را به 17 سال به بالا افزایش دهد.

یک سخنگوی به CNBC گفت: اپل در حال بررسی است و توسعه دهندگان می توانند نسبت به این تصمیم تجدید نظر کنند.

صرف نظر از این، قسمت Blue Mail نشانه ای از سرکوب قریب الوقوع اپل برای برنامه های هوش مصنوعی نیست.

در واقع، ویژگی های مبتنی بر ChatGPT در حال حاضر در اسنپ چت و برنامه مایکروسافت بینگ وجود دارد که در حال حاضر از طریق فروشگاه App توزیع می شوند. سایر برنامه‌های هوش مصنوعی مانند Lensa نیز توزیع شده‌اند و در اپ استور شکوفا شده‌اند.

هیچ خط مشی رسمی هوش مصنوعی یا ربات چت در دستورالعمل های اپ استور اپل وجود ندارد، سندی که به تشریح آنچه اپل در اپ استور اجازه می دهد، اشاره می کند. اپل در بخشی به نام App Review کارمندانی دارد که همه برنامه‌ها و به‌روزرسانی‌ها را قبل از تأیید بارگیری می‌کنند و به طور خلاصه از آنها استفاده می‌کنند.

اپل می تواند در آینده دستورالعمل های مخصوص هوش مصنوعی را اضافه کند. برای مثال، برای اپلیکیشن‌های کریپتو، اپل در به‌روزرسانی سال ۲۰۱۸ به صراحت بخشی را در مورد ارز دیجیتال در دستورالعمل‌هایی معرفی کرد که به اپلیکیشن‌های کیف پول اجازه می‌دهد و استخراج روی دستگاه را ممنوع می‌کند. اپل سال گذشته قوانین جدیدی در مورد NFT ها معرفی کرد. این شرکت اغلب به‌روزرسانی‌های دستورالعمل‌های خود را در ماه‌های ژوئن و اکتبر منتشر می‌کند.

اما قسمت Blue Mail نشان می‌دهد که اپ استور اپل در مورد محتوایی که در مقیاس وسیع تولید می‌شود – یا توسط کاربران (مثلاً در مورد برنامه‌های رسانه‌های اجتماعی)، یا اخیراً توسط هوش مصنوعی، سختگیرانه عمل می‌کند.

اپل می‌گوید: اگر برنامه‌ای بتواند محتوایی را که مالکیت معنوی را نقض می‌کند، یا پیام‌هایی که به عنوان مثال آزار و اذیت سایبری است را نمایش دهد، برنامه باید راهی برای فیلتر کردن آن مطالب و راهی برای گزارش آن توسط کاربران داشته باشد.

قانون تعدیل محتوا احتمالاً در مرکز درگیری با توییتر ایلان ماسک در اواخر سال گذشته بود و دلیلی بود که اپل در سال 2021 پارلر را از اپ استور راه‌اندازی کرد. اپل با اضافه کردن تعدیل محتوا به پارلر اجازه بازگشت به اپ استور را داد.

قبل از اینکه هوش مصنوعی مبتنی بر ChatGPT در برنامه Bing در آیفون منتشر شود، مکالمات وحشتناکی از جمله تهدید علیه کاربران و درخواست کمک ایجاد کرد.

اما بینگ دارای ابزارهای تعدیل محتوا و فیلترینگ است. هوش مصنوعی مایکروسافت به کاربران این امکان را می دهد که به پاسخ های مضر رأی منفی بدهند و شامل یک «سیستم ایمنی» است که شامل فیلتر کردن محتوا و تشخیص سوء استفاده می شود. مایکروسافت همچنین در هفته‌های اخیر ربات بینگ خود را به‌روزرسانی کرد تا این مکالمات وحشتناک را کاهش دهد، به طوری که ربات چت اکنون اغلب از درگیر شدن با موضوعاتی که می‌تواند باعث از بین رفتن آن شود، خودداری می‌کند.