ما ChatGPT را در این مقاله برنامه ریزی کردیم

ChatGPT، تولیدکننده متن AI مشهور در اینترنت، شکل جدیدی به خود گرفته است. زمانی که وب‌سایتی می‌توانستید بازدید کنید، اکنون سرویسی است که می‌توانید آن را در نرم‌افزارهای مختلف، از برنامه‌های صفحه‌گسترده گرفته تا برنامه‌های تحویل گرفته تا وب‌سایت‌های مجلات مانند این، ادغام کنید. اسنپ ​​چت ChatGPT را به سرویس چت خود اضافه کرد (به کاربران پیشنهاد کرد که «آیا می توانی یک هایکو در مورد دوستم لوکاس که شیفته پنیر است بنویسی؟» را تایپ کنند، و Instacart قصد دارد یک ربات دستور پخت اضافه کند. بسیاری دیگر به دنبال خواهد داشت.

آنها عجیب تر از آنچه فکر می کنید خواهند بود. به جای یک برنامه بزرگ چت هوش مصنوعی که دانش یا شعر پنیر را ارائه می کند، سرویس ChatGPT (و سایر موارد مشابه آن) تبدیل به یک بمب کنفتی هوش مصنوعی می شود که به همه چیز می چسبد. متن هوش مصنوعی در برنامه مواد غذایی شما. متن هوش مصنوعی در برنامه آموزشی مطابق با محل کار شما. متن هوش مصنوعی در راهنمای نحوه انجام HVAC شما. متن هوش مصنوعی در همه جا – حتی در ادامه این مقاله – به لطف یک API.

API یکی از آن حروف اختصاری سه حرفی است که افراد کامپیوتر آن را دور می زنند. این مخفف “Application Programming Interface” است: به برنامه های نرم افزاری اجازه می دهد تا با یکدیگر صحبت کنند. این مفید است زیرا نرم افزار اغلب نیاز به استفاده از عملکرد نرم افزارهای دیگر دارد. یک API مانند یک سرویس تحویل است که پیام ها را بین یک رایانه به رایانه دیگر منتقل می کند.

ChatGPT علیرغم نامش واقعاً یک چیز نیست چت کردن سرویس — این تنها تجربه ای است که به لطف موفقیت فرهنگی پاپ ربات چت، بیشتر آشنا شده است. گرگ براکمن، یکی از بنیانگذاران و رئیس OpenAI، به من گفت: «این نام دارای چت است، اما واقعاً مدل بسیار قابل کنترل‌تری است. او گفت که رابط چت راهی را به شرکت و کاربرانش ارائه می‌کند تا عادت درخواست از رایانه‌ها برای حل مشکلات را آسان‌تر کنند، و راهی برای ایجاد حسی در مورد چگونگی درخواست پاسخ‌های بهتر برای آن مشکلات از طریق تکرار.

اما استفاده از چت پر زحمت و درگیر شدن با آن وهم انگیز است. براکمن گفت: “شما نمی خواهید وقت خود را صرف صحبت با یک ربات کنید.” او آن را «نوک کوه یخ» از کاربردهای احتمالی آینده می داند: «سیستم زبانی همه منظوره». این بدان معناست که ChatGPT به عنوان یک سرویس (به جای یک وب سایت) ممکن است به سیستم لوله کشی برای ایجاد و درج متن در چیزهایی که دارای متن هستند تبدیل شود.

به عنوان یک نویسنده برای مجله ای که قطعاً در کار ایجاد و درج متن است، می خواستم بررسی کنم که چگونه اقیانوس اطلس ممکن است از ChatGPT API استفاده کند و نشان دهد که چگونه ممکن است در زمینه به نظر برسد. اولین و واضح ترین ایده ایجاد نوعی رابط چت برای دسترسی به داستان های مجلات بود. صحبت کنید اقیانوس اطلس، محتوا را دریافت کنید. بنابراین من شروع به آزمایش برخی ایده ها در ChatGPT (وب سایت) کردم تا چگونگی ادغام ChatGPT (API) را بررسی کنم. یک ایده: یک موتور جستجوی ساده که ظاهر شود اقیانوس اطلس داستان هایی در مورد موضوع درخواستی

اما وقتی شروع به آزمایش این ایده کردم، همه چیز به سرعت خراب شد. من از ChatGPT خواستم که «برای من یک داستان پیدا کند اقیانوس اطلس در مورد تاکو»، و آن را موظف کرد، داستانی از همکارم آماندا مول، «درخواست ماندگار تاکو»، همراه با پیوند و خلاصه‌ای ارائه کرد (شروع کرد: «در این مقاله، نویسنده آماندا مول اهمیت فرهنگی تاکو را بررسی می‌کند. و چرا آنها همچنان یک غذای محبوب هستند.”). تنها مشکل: آن داستان وجود ندارد. URL قابل قبول به نظر می رسید اما به جایی نرسید، زیرا مول هرگز داستان را ننوشته بود. وقتی با هوش مصنوعی در مورد خطای آن تماس گرفتم، ChatGPT عذرخواهی کرد و داستان جایگزینی را پیشنهاد داد، «چرا بچه‌های آمریکایی اینقدر به تاکو وسواس دارند؟» – که کاملاً ساختگی است. بله

چگونه کسی می تواند انتظار داشته باشد که به هوش مصنوعی به اندازه کافی اعتماد کند تا آن را به روشی خودکار اجرا کند؟ به گفته براکمن، سازمان‌هایی مانند ما باید پیشینه‌ای را با سیستم‌هایی مانند ChatGPT ایجاد کنند تا اینکه احساس راحتی کنیم که واقعاً از آنها استفاده کنیم. براکمن به من گفت که کارکنان او در OpenAI زمان زیادی را صرف «تیم قرمز» سیستم‌هایشان می‌کنند، اصطلاحی از امنیت سایبری و هوش که فرآیند بازی با یک دشمن را برای کشف آسیب‌پذیری‌ها نام‌گذاری می‌کند.

براکمن معتقد است که ایمنی و قابلیت کنترل در طول زمان بهبود می‌یابد، اما او کاربران بالقوه ChatGPT API را تشویق می‌کند تا به‌عنوان تیم‌های قرمز خود – برای آزمایش خطرات احتمالی – قبل از استقرار آن عمل کنند. او به من گفت: “شما واقعاً می خواهید از کوچک شروع کنید.”

به اندازه کافی منصفانه اگر چت جزء ضروری ChatGPT نیست، شاید یک مثال کوچکتر و جراحی تر بتواند انواع کاربردهایی را که عموم انتظار دارند ببینند را نشان دهد. یک احتمال: مجله‌ای مانند مجله ما می‌تواند نسخه ما را برای پاسخ به رفتار خواننده یا تغییر اطلاعات در یک صفحه، به طور خودکار سفارشی کند.

کار با اقیانوس اطلستیم محصول و فناوری، من یک آزمایش ساده را در همین راستا انجام دادم. در قسمت پشتی، جایی که نمی‌توانید ماشین‌آلات کار را ببینید، نرم‌افزار ما از ChatGPT API می‌خواهد توضیحی درباره «API» در کمتر از 30 کلمه بنویسد تا افراد غیرمجاز بتوانند آن را بفهمند، و یک عنوان مثال از محبوب‌ترین داستان را در خود جای دهد. بر اقیانوس اطلسوب سایت در زمانی که صفحه را بارگیری می کنید. این درخواست نتیجه ای را ایجاد می کند که به شرح زیر است:

وقتی این پاراگراف را می نویسم، نمی دانم بند قبلی چه می گوید. این به طور کامل توسط ChatGPT API ایجاد شده است – من هیچ کنترلی بر آنچه می نویسد ندارم. من به سادگی امیدوار هستم، بر اساس آزمایش‌های زیادی که برای این نوع پرس‌وجو انجام دادم، بتوانم به سیستم برای تولید نسخه‌های توضیحی اعتماد کنم که اعتبار مجله را به خطر نیندازد، زیرا ChatGPT سرکش است. API می تواند عنوانی را در مورد یک موضوع مهم جذب کند و به عنوان مثال از آن به روشی غیر محترمانه استفاده کند.

در برخی از آزمایش‌های من، پاسخ‌های ChatGPT منسجم بودند و ایده‌ها را به طرز زیرکانه‌ای ترکیب می‌کردند. در برخی دیگر، آنها هک شده یا نامنسجم بودند. نمی توان گفت کدام تنوع در بالا ظاهر می شود. اگر صفحه را چند بار رفرش کنید متوجه منظور من خواهید شد. از آنجایی که ChatGPT اغلب متن های متفاوتی را از یک ورودی تولید می کند، خواننده ای که این صفحه را درست پس از بارگیری شما بارگیری می کند، احتمالاً نسخه متفاوتی از متن را با آنچه اکنون می بینید دریافت می کند.

سال‌هاست که رسانه‌ها داستان‌های بات‌نویسی تولید می‌کنند که امتیازات ورزشی، گزارش‌های زلزله و سایر داده‌های قابل پیش‌بینی را ارائه می‌دهند. اما اکنون امکان تولید متن در هر موضوعی وجود دارد، زیرا مدل های زبان بزرگ مانند ChatGPT کل اینترنت را خوانده اند. برخی از کاربردهای آن ایده در انواع جدیدی از واژه‌پردازها ظاهر می‌شوند، که می‌توانند متن ثابتی را برای انتشار بعدی به عنوان محتوای معمولی تولید کنند. اما نوشتن زنده که لحظه به لحظه تغییر می کند، مانند آزمایشی که در این صفحه انجام دادم، نیز امکان پذیر است. یک نشریه ممکن است بخواهد نثر خود را در پاسخ به رویدادهای جاری، نمایه های کاربر یا عوامل دیگر تنظیم کند. کل اینترنت محتویات مصرف کننده با توسل به شخصی سازی و بیهودگی هدایت می شود و صنعت محتوا به دنبال مزیت رقابتی است. اما موارد استفاده دیگر نیز امکان پذیر است: مثلاً نثری که به طور خودکار با پخش یک رویداد فعلی به روز می شود.

اگرچه ساده است، اما مثال ما یک واقعیت مهم و وحشتناک را در مورد آنچه اکنون با هوش مصنوعی متنی امکان پذیر است را نشان می دهد: دیگر نمی توانید فرض کنید که هیچ یک از کلماتی که می بینید توسط یک انسان خلق شده است. شما نمی توانید بدانید که آیا آنچه می خوانید عمدا نوشته شده است یا خیر، و همچنین نمی توانید بدانید که آیا برای فریب دادن یا گمراه کردن شما ساخته شده است یا خیر. ChatGPT ممکن است به شما این تصور را داده باشد که متن هوش مصنوعی باید از یک ربات چت آمده باشد، اما در واقع، می تواند به صورت نامرئی ایجاد شود و به جای زبانی که توسط انسان نوشته شده یا با آن ترکیب شود، ارائه شود.

انجام این نوع فعالیت به آسانی تایپ کردن در یک پردازشگر کلمه نیست – هنوز – اما در حال حاضر به اندازه کافی ساده است که اقیانوس اطلس تیم محصول و فناوری توانستند آن را در یک روز یا بیشتر به کار بیاندازند. با گذشت زمان، حتی ساده تر خواهد شد. (نوشتن و ویرایش بقیه داستان، بررسی ملاحظات اخلاقی و اعتباری انتشار واقعی آن، و بررسی سیستم با سرمقاله، حقوقی و فناوری اطلاعات، برای من، یک انسان، بسیار بیشتر طول کشید.)

این شرایط بر توصیه گرگ براکمن برای “شروع کوچک” سایه افکنده است. خوب است اما راهنمایی کافی نیست. براکمن به من گفت که منافع بیشتر کسب و کارها با چنین مراقبت و مدیریت ریسک همسو هستند و این مطمئناً در مورد سازمانی مانند اقیانوس اطلس. اما هیچ چیز مانع بازیگران بد (یا تنبل‌ها، یا کسانی که انگیزه‌شان از هجوم طلای هوش مصنوعی است) نمی‌تواند برنامه‌ها، وب‌سایت‌ها یا سایر سیستم‌های نرم‌افزاری را که متن تولید شده را در مقادیر انبوه ایجاد و منتشر می‌کنند، تنظیم کنند. نسل اتفاق افتاد یا فردی که هدف آن قرار گرفته است. براکمن گفت که مقررات بخشی ضروری از آینده هوش مصنوعی است، اما هوش مصنوعی در حال حاضر اتفاق می‌افتد و مداخله دولت بلافاصله انجام نخواهد شد. ماست احتمالاً بیشتر از متن AI تنظیم شده است.

برخی از سازمان‌ها ممکن است هوش مصنوعی مولد را مستقر کنند، حتی اگر هیچ سود واقعی برای کسی نداشته باشد، صرفاً برای تلاش برای حفظ فعلی یا رقابت در یک مسابقه تسلیحاتی هوش مصنوعی. همانطور که قبلاً نوشتم، این تقاضا کار جدیدی را برای همه ایجاد می کند، زیرا افرادی که قبلاً از نوشتن نرم افزار یا مقاله راضی بودند، اکنون باید زمان خود را به گروه بندی ویجت های محتوای تولیدی قرمز، نظارت بر گزارش های نرم افزار برای مشکلات، اجرای تداخل با قوانین قانونی اختصاص دهند. دپارتمان‌ها یا همه کارهای دیگری که قبلاً قابل تصور نبودند، زیرا کلمات به جای ماشین‌هایی بودند که آنها را ایجاد می‌کردند.

براکمن به من گفت که OpenAI در تلاش است تا مزایای هوش مصنوعی را تقویت کند و در عین حال مضرات آن را به حداقل برساند. اما برخی از مضرات آن ممکن است ساختاری باشد تا موضعی. در اوایل این هفته، متیو کیرشنبام در این صفحات نوشت، یک متن پس‌کالیپسی، سیل غیرقابل تصوری از نسخه‌های مولد را پیش‌بینی کرد «که در آن زبان ماشین‌نویسی به هنجار تبدیل می‌شود و نثر نوشته‌شده توسط انسان استثنا». این یک ایده مبهم است، اما چند چیز را از دست می دهد. برای اولین بار، استفاده از یک API هزینه دارد – کسری از یک پنی برای پرس و جوهای کوچک مانند مورد ساده در این مقاله، اما همه آن کسرها جمع می شوند. مهمتر از آن، اینترنت به بشریت اجازه داده است که سیل عظیمی از متن را در وب‌سایت‌ها، برنامه‌ها و سرویس‌های رسانه‌های اجتماعی در ربع قرن گذشته منتشر کند – همان محتوایی که ChatGPT برای پیشبرد مدل خود به کار گرفته شد. متنی پیش از این اتفاق افتاده است.

به همین احتمال، کمیت زبان تولید شده ممکن است کمتر از وضعیت نامشخص هر تکه ای از متن اهمیت پیدا کند. درست همانطور که احساسات انسانی آنلاین، جدا شده از زمینه های نویسنده خود، معنای مبهم یا چند ظرفیتی پیدا می کند، هر جمله و هر پاراگراف به زودی با تپشی از عدم قطعیت وارد می شود: یک سؤال ضمنی و وجودی در مورد ماهیت نویسنده آن. در نهایت، آن ضربان ممکن است به یک زمزمه کسل کننده و سپس یک سکوت آشنا تبدیل شود. خوانندگان شانه بالا می اندازند: الان اوضاع همینطور است.

حتی با وجود این ترس‌ها، امید – یا حداقل فتنه – برای فرصتی برای سرودن به روشی کاملاً جدید وجود دارد. من حاضر نیستم از نوشتن دست بکشم، و نه انتظار دارم که به این زودی- یا هرگز مجبور شوم. اما من اغوا شده ام که می توانم تعداد انگشت شماری یا صد نویسنده کوچک کامپیوتری را در کارم راه اندازی کنم. به جای (فقط) قرار دادن کلمات یکی پس از دیگری، ChatGPT API و خویشاوندان آن این امکان را فراهم می کند که گرملین های کوچکی در نثر من ایجاد شود، که در غیاب من کار می کنند و مدت ها پس از ترک صفحه، بقایای متنی بدیع را پشت سر می گذارند. بیایید ببینیم آنها چه کاری می توانند انجام دهند.