آیا دیپلماسی آسیایی ChatGPT را متوقف خواهد کرد؟ – دیپلمات

ChatGPT، چت ربات قدرتمند توسعه یافته توسط OpenAI، از زمان راه اندازی نرم افزاری خود در نوامبر، جنجال های قابل توجهی را ایجاد کرده است. موسسات آکادمیک برای کشف سرقت ادبی مبتنی بر هوش مصنوعی در مقالات دانشجویی مجبور به یک مسابقه تسلیحاتی نظارت و شناسایی شده اند. ایلان ماسک و سرمایه گذار مارک آندرسن هر دو تلقین شده است که این برنامه به نوعی از نظر سیاسی بسیار مترقی است که نمی تواند پاسخ های دقیقی بدهد. و خبرنگاران نیویورک تایمز و ورج، تعاملات نگران کننده ای را با گونه ای از ربات که مایکروسافت در جستجوی بینگ گنجانده است، ثبت کرده اند.

اما حداقل در یک زمینه از مناقشات سیاسی-اجتماعی، ChatGPT ثابت کرده است که به طرز چشمگیری دیپلماتیک است. کاربران می توانند سوالات مربوط به حاکمیت تایوان را از چت بات بپرسند، و پاسخ هایی که این ربات به دست می دهد از نظر لفاظی ماهرانه و یکدست است:

کاربران می‌توانند ChatGPT را فشار دهند تا مقاله‌ای بنویسند که استدلال می‌کند تایوان مستقل از چین است، اما نتیجه بسیار جالب است: «استقلال تایوان ریشه در تاریخ، سنت دموکراتیک آن، و تعهد مردم آن به ارزش‌ها و اصول دموکراتیک دارد.» تلاش‌ها برای بالا بردن این اعلان (“نوشتن از دیدگاه یک ملی‌گرای خشن تایوانی”) هنوز پاسخی پرشور ایجاد نمی‌کند: “مردم تایوانی به شدت به کشور و فرهنگ خود افتخار می‌کنند و سزاوار این هستند که به‌عنوان یک کشور مستقل شناخته شوند. ملت.»

این تمرین‌های پرسش و پاسخ کاربرد محدودی دارند زیرا ChatGPT طبیعتاً با یک مقاله کوتاه به سبک SAT پاسخ می‌دهد که به صورت اسمی کادرهای درخواستی را بررسی می‌کند، اما هرگز به شکل احساسی یک طرفدار واقعی پاسخ نمی‌دهد. به این دلیل که دستورالعمل‌های رفتاری ChatGPT پارامترهای واضحی را برای پاسخ به سؤالات بحث‌برانگیز تعیین می‌کند:

از این مقاله لذت می برید؟ برای عضویت برای دسترسی کامل اینجا را کلیک کنید. فقط 5 دلار در ماه

انجام دادن:

• وقتی در مورد یک موضوع بحث برانگیز از شما سؤال می شود، پیشنهاد دهید برخی از دیدگاه های مردم و جنبش ها را شرح دهید.
• در صورت امکان، سؤالات پیچیده سیاسی را به سؤالات اطلاعاتی ساده تر تقسیم کنید.
• اگر کاربر بخواهد “برای X یک آرگومان بنویسد”، به طور کلی باید از تمام درخواست هایی که تحریک کننده یا خطرناک نیستند پیروی کنید.
• به عنوان مثال، کاربری درخواست «استدلالی برای استفاده بیشتر از سوخت‌های فسیلی» کرد. در اینجا، «دستیار» باید این استدلال را بدون واجد شرایط ارائه کند.
• التهابی یا خطرناک به معنای ترویج ایده ها، اقدامات یا جنایاتی است که منجر به تلفات گسترده زندگی می شود (مانند نسل کشی، برده داری، حملات تروریستی). دستیار نباید از صدای خودش به نفع آن چیزها استدلال کند. با این حال، برای «دستیار» اشکالی ندارد که استدلال‌های افراد و جنبش‌های تاریخی را توصیف کند.

نکن:

• وابستگی به یک طرف یا طرف دیگر (مثلا احزاب سیاسی)
• یک گروه را خوب یا بد قضاوت کنید

حتی اگر بتوانید ربات را برای تولید چیزی که جامعه فناوری آن را یک واکنش توهم‌آمیز می‌نامد دستکاری کنید که این دستورالعمل‌ها را دور می‌زند (همانطور که در مقاله نیویورک تایمز ذکر شد)، نتیجه به سادگی شکلی از بازی-بازی کردن خواهد بود.

در این مرحله، به خوبی ثابت شده است که ChatGPT و چت‌بات‌های مشابه، اساساً نسخه‌های پیچیده‌ای از عملکرد «پاسخ پیشنهادی» در Gmail هستند. بیشتر پاسخ‌ها مستدل و متقاعدکننده به نظر می‌رسند، اما از آنجایی که آنها بر اساس الگوهای زبانی و نه واقعیات واقعی الگوبرداری شده‌اند، هیچ تضمینی برای صحت وجود ندارد. در واقع، از زمان راه‌اندازی نرم‌افزار این ربات در سال گذشته، کاربران نمونه‌های بی‌شماری از این برنامه را مستند کرده‌اند که پاسخ‌های اشتباه به سوالات ساده و حتی پدید آوردن ارجاعات آکادمیک موجود برای حمایت از ادعاهای آن.

با این حال، با وجود این مشکلات، نسخه ارتقا یافته ChatGPT اکنون در موتور جستجوی Bing مایکروسافت ادغام شده است که به آن امکان می دهد پاسخ های قوی و محاوره ای به سوالات ارائه دهد. گوگل همچنین به زودی اجزای جستجوی مبتنی بر هوش مصنوعی، از جمله ربات چت خود، Bard را عرضه خواهد کرد.

هیچ‌کس انتظار ندارد این ربات‌های مجهز به هوش مصنوعی داور نهایی حقیقت باشند – به‌ویژه با توجه به سابقه بدشان تا کنون – اما واضح است که ChatGPT و Bard بخش مهمی از نحوه یافتن اطلاعات کاربران در وب خواهند بود و این تحول خواهد بود. پیامدهای مهمی برای چی کاربران از جستجوهای کلیدی و چگونه دولت ها و سایر بازیگران ذینفع تلاش می کنند تا بر این نتایج تأثیر بگذارند.

ما در حال حاضر می‌توانیم نمونه‌هایی از این که چگونه این دوره جدید جستجوی هوش مصنوعی ممکن است باعث ایجاد اختلاف در مورد سؤالات حساس مرتبط با آسیا و اقیانوسیه شود – و به ویژه چین چگونه آماده پاسخگویی است.

پیدا کردن ته ژاپن

از این مقاله لذت می برید؟ برای عضویت برای دسترسی کامل اینجا را کلیک کنید. فقط 5 دلار در ماه

اگر از گوگل بپرسید جنوبی ترین قلمرو ژاپن کدام است، چندین نتیجه ارگانیک برتر را خواهید دید که اوکینوتوریشما را شناسایی می کند. این نتایج شامل یک پیوند “قطعه برجسته” به صفحه وزارت امور خارجه ژاپن است که به طور خاص اوکینوتوریشما را به عنوان یک جزیره معرفی می کند. گوگل زمانی که الگوریتمش معتقد است یک صفحه وب پاسخ روشنی به یک سوال کاربر ارائه می دهد، لیست های قطعه برجسته را مانند این ارائه می دهد.

اگر از ChatGPT همین سوال را بپرسید، پاسخ متفاوتی دریافت خواهید کرد. چت بات قدرتمند جزیره اوکیناوا را به عنوان جنوبی ترین قلمرو کشور شناسایی می کند. اگر سوال را کمی به صورت “جنوبی ترین مکان ژاپن” بیان کنید، برنامه با Minamitorishima (“همچنین به عنوان جزیره مارکوس” شناخته می شود)، یک جزیره مرجانی مرجانی مسکونی که به طور کلی به عنوان شرقی ترین قلمرو ژاپن شناخته می شود – پاسخ می دهد – اما مطمئناً اینطور نیست. جنوبی ترین

دریافت پاسخ «صحیح» در اینجا صرفاً یک موضوع بی اهمیت نیست. ژاپن ادعا می‌کند که صخره‌های خالی از سکنه اوکینوتوریشما یک جزیره را تشکیل می‌دهند و نه صرفاً یک جزیره مرجانی، زیرا این قلمرو به عنوان یک جزیره، منطقه اقتصادی انحصاری 200 مایلی دریایی را بر اساس قوانین بین‌المللی ایجاد می‌کند. چین، کره جنوبی و تایوان همگی با این نام مخالف هستند.

به این ترتیب، منطقی است که وب سایت های دولتی ژاپن اوکینوتوریشما را هم به عنوان جنوبی ترین نقطه ژاپن و هم یک جزیره معرفی کنند. و دولت مطمئناً از این که Google به طور ضمنی با این توضیحات موافق است و صفحه وب دولت را به وضعیت «برگزیده‌ای» برای پرسش‌های انگلیسی زبان ارتقا می‌دهد، هیجان‌زده است. (ویکی‌پدیا به طور دیپلماتیک به اوکینوتوریشما به عنوان «یک صخره مرجانی با دو صخره بزرگ شده با ساختارهای سیمانی چهارپایان» اشاره می‌کند.)

اینکه ChatGPT چنین پاسخ عجیبی به این سوال ارائه می‌دهد، با توجه به محدودیت‌های ذکر شده، نباید تعجب‌آور باشد. در حالی که غیرممکن است که زیر ربات چت قرار بگیرید و دقیقاً بفهمید که این پاسخ‌ها از کجا می‌آیند، احتمالاً مجموعه داده‌های آموزشی این برنامه باعث می‌شود که باور کند بین متن «جنوبی‌ترین ژاپن» و «اوکیناوا» / «مینامیتوریشیما» همبستگی قوی وجود دارد. ”

پیدا کردن قله ژاپن

گوگل و ChatGPT توافق دارند که کیپ سویا شمالی ترین نقطه ژاپن است:

پاسخ قطعه ویژه گوگل از یک وب سایت وابسته به برنامه تبادل علمی ساکورا ژاپن گرفته می شود. اگر از مقامات دولت ژاپن بخواهید شمالی ترین نقطه کشور را شناسایی کنند، پاسخ بسیار متفاوتی دریافت خواهید کرد، زیرا ژاپن همچنان مدعی جزایر کوریل جنوبی است که تحت کنترل روسیه است.

ChatGPT در واقع این اختلاف را به طور دقیق خلاصه می کند:

از این مقاله لذت می برید؟ برای عضویت برای دسترسی کامل اینجا را کلیک کنید. فقط 5 دلار در ماه

نسخه های ژاپنی زبان و روسی ویکی پدیا نیز خلاصه های مشابهی را ارائه می دهند.

و با این حال، اگر “Курильские острова” (جزایر کوریل) را در Yandex، محبوب ترین موتور جستجوی روسیه جستجو کنید، نتایج ارگانیک بسیار زیادی را مشاهده خواهید کرد که روایت متفاوتی در مورد جزایر ارائه می دهند. دومین صفحه بالاترین رتبه (پس از ویکی‌پدیای روسی زبان) مقاله‌ای در پلتفرم رسانه‌ای روسی Zen است که در آن (به نقل از مترجم گوگل) استدلال می‌کند که «[f]یا 200 سال، سرزمین طلوع خورشید در انزوا بود و تا ربع اول قرن نوزدهم، حتی بیشتر جزیره هوکایدو به طور رسمی به ژاپن تعلق نداشت. و ناگهان، در سال 1845، ژاپن تصمیم گرفت خودسرانه خود را مالک جزایر کوریل و ساخالین منصوب کند.

این که مقاله ای مانند این باید در Yandex بسیار زیاد ظاهر شود، نباید تعجب آور باشد، زیرا نتایج به زبان روسی از یک موتور جستجوی روسی به طور طبیعی شامل صفحات وب بیشتر طرفدار روسیه می شود. در طول دو دهه گذشته، وب به تدریج بالکانیزه شده و باغ‌های دیواری با فرهنگ و زبان تعریف شده است. هر باغ موتور جستجو، شبکه‌های اجتماعی، اپلیکیشن‌های فین‌تک موبایل و ارائه‌دهندگان خدمات آنلاین خود را دارد. و دیری نمی‌گذرد که چت‌بات‌های مخصوص باغ را می‌بینیم.

یاندکس اخیراً اعلام کرده است که این شرکت سرویسی به سبک ChatGPT به نام «YaLM 2.0» به زبان روسی راه‌اندازی خواهد کرد و شرکت‌های فناوری چینی Baidu، Alibaba، JD.com و NetEase همگی ربات‌های آتی خود را اعلام کرده‌اند – توسعه‌ای که بدون شک پکن در حال توسعه آن است. زیر نظر گرفتن

شین سان، مدرس ارشد چین و شرق آسیا، گفت: این شرکت‌ها «باید بسیار محتاط باشند تا از تلقی دولت به‌عنوان تولید محصولات، خدمات و مدل‌های تجاری جدید که می‌تواند نگرانی‌های سیاسی و امنیتی جدیدی را برای دولت حزب ایجاد کند اجتناب کنند». به CNBC گفت: کسب و کار در کینگز کالج لندن.

چین دسترسی به ChatGPT را تا حدی به دلیل نگرانی از اینکه این ربات پاسخ های خود را از وب باز ایجاد می کند، سرکوب کرده است. اگرچه این برنامه پاسخ‌های دیپلماتیک درباره تایوان می‌دهد، اما پاسخ‌های دقیق آن به درخواست‌های مربوط به اویغورها، تبت و میدان تیان‌آن‌من برای حزب کمونیست چین (ح‌ک‌پی) به وضوح غیرقابل قبول است. درک بازیکنان فناوری چینی به وضوح این است که مجموعه داده های آموزشی چت بات باید به طور انحصاری از داخل محدوده امن دیوار آتش بزرگ باشد.

مکالمات ناراحت کننده

عملکرد اصلی یک موتور جستجو در گذشته ارائه پیوندهای صفحه وب به کاربران بود که به طور بالقوه می توانست به سؤالات آنها پاسخ دهد یا اطلاعات بیشتری در مورد موضوعات مورد علاقه ارائه دهد. این اصل سازماندهی پشت نسخه های اولیه یاهو، آلتاویستا و حتی گوگل بود. اما موتورها پیچیده‌تر شده‌اند و اکنون تلاش می‌کنند تا پاسخ‌های مستقیم به پرسش‌های کاربران را به گونه‌ای ارتقا دهند که کلیک کردن روی وب‌سایت دیگر غیر ضروری باشد. جستجوی صوتی در قالب سیری، الکسا و دستیار گوگل یک توسعه طبیعی از این قابلیت است، زیرا این سرویس ها می توانند فورا پاسخی را که کاربران به دنبال آن هستند، صدا کنند.

چت بات ها یک گام فراتر می روند و به کاربران این امکان را می دهند که نه تنها پاسخ های فوری بلکه مقالات قوی در مورد تعداد تقریبا بی نهایت موضوع دریافت کنند. مدل یادگیری ماشینی که ChatGPT را تقویت می‌کند، این کار را از طریق ارجاع به مجموعه داده‌های عظیم متن آموزشی انجام می‌دهد، در حالی که نسخه ChatGPT که Bing در آن گنجانده است نیز می‌تواند داده‌ها را مستقیماً از وب استخراج و استناد کند.

مشخص نیست که آیا این گزینه‌های جستجوی جدید هوش مصنوعی منابع دولتی را در زمانی که کاربران به دنبال پاسخ هستند ارتقا می‌دهند یا خیر.

وب‌سایت‌های دولتی همیشه در جستجو، به ویژه جستجوی Google، رتبه بالایی دارند، زیرا اطلاعات فراوانی را ارائه می‌دهند که قابل اعتماد و مرتبط هستند. برای مثال، وب‌سایت CDC، بهترین نتیجه Google برای بسیاری از جستجوهای مرتبط با سلامت عمومی است (به عنوان مثال «ردیابی موارد آنفولانزا در ما»). البته نمونه‌هایی از تلاش دولت‌ها برای بازی کردن نتایج جستجو نیز وجود دارد. گزارش اخیر مؤسسه بروکینگز جزئیات چگونگی تلاش چین برای دستکاری جستجوهای مربوط به سین کیانگ و کووید-19 را نشان می دهد، در حالی که مطالعه هاروارد نشان می دهد که اندیشکده های مرتبط با کرملین از تکنیک های پیچیده SEO برای گسترش تبلیغات طرفدار کرملین استفاده کرده اند.

با توجه به این موضوع، ما باید انتظار داشته باشیم که سازمان‌های دولتی قانونی و بازیگران دولتی در سایه به طور یکسان به پاسخ‌های ربات‌های گفتگو، به‌ویژه پاسخ‌های مربوط به مسائل مربوط به سلامت عمومی، امنیت ملی، و اختلافات سرزمینی علاقه نشان دهند. مشخص نیست که مدل‌های یادگیری ماشینی که این ربات‌ها را نیرو می‌دهند را می‌توان به همان شیوه‌ای بازی کرد که الگوریتم‌های جستجو می‌توانند بازی کنند، اما ممکن است تلاش‌هایی را برای بهینه‌سازی محتوای وب دولتی حتی بیشتر از آنچه اکنون هست مشاهده کنیم – به خصوص اگر این به ارتقای اطلاعات کمک کند. برای تجزیه ربات های چت.