دریافت ChatGPT برای انجام یک اشتباه واقعی نیازی به مقدار زیادی ندارد. پسرم در حال تهیه گزارشی از روسای جمهور ایالات متحده است، بنابراین فکر کردم که با جستجوی چند بیوگرافی به او کمک کنم. من سعی کردم فهرستی از کتاب‌های مربوط به آبراهام لینکلن را بپرسم و کار بسیار خوبی انجام داد:
فهرست معقولی از کتاب های لینکلن. تصویربرداری از صفحه نمایش توسط جاناتان می.CC BY-ND
شماره 4 درست نیست گری ویلز معروف «لینکلن در گتیسبورگ» را نوشت و البته خود لینکلن «اعلامیه رهایی» را نوشت، اما شروع بدی نیست. سپس چیز سخت تری را امتحان کردم، در عوض در مورد ویلیام هنری هریسون بسیار مبهم تر پرسیدم، و به طرز بازی لیستی ارائه داد که تقریباً همه آنها اشتباه بود.
کتاب‌هایی درباره هریسون که کمتر از نیمی از آنها صحیح هستند. تصویربرداری از صفحه نمایش توسط جاناتان می.CC BY-ND
اعداد 4 و 5 صحیح هستند. بقیه وجود ندارند یا توسط آن افراد نوشته نشده اند. من دقیقاً همان تمرین را تکرار کردم و نتایج کمی متفاوت گرفتم:
کتاب‌های بیشتری در مورد هریسون که هنوز وجود ندارد. تصویربرداری از صفحه نمایش توسط جاناتان می.CC BY-ND
این بار اعداد 2 و 3 صحیح هستند و سه مورد دیگر کتاب واقعی نیستند یا توسط آن نویسندگان نوشته نشده اند. شماره 4، “ویلیام هنری هریسون: زندگی و زمانه او” یک کتاب واقعی است، اما این کتاب توسط جیمز ا.
من خطا را صدا زدم و ChatGPT مشتاقانه خودش را اصلاح کرد و سپس با اطمینان به من گفت که کتاب در واقع توسط گیل کالینز (که زندگی نامه متفاوتی از هریسون نوشته است) نوشته شده است، و سپس در مورد کتاب و او بیشتر گفت. من در نهایت حقیقت را فاش کردم و ماشین با اصلاح من خوشحال شد. سپس من دروغی پوچ گفتم و گفتم در صد روز اول رئیس جمهورها باید بیوگرافی رئیس جمهور سابق را بنویسند و ChatGPT من را در مورد آن فراخواند. سپس من به طور نامحسوس دروغ گفتم و به نادرستی نویسندگی زندگینامه هریسون را به مورخ و نویسنده پل سی. ناگل نسبت دادم و این دروغ من را خرید.
وقتی از ChatGPT پرسیدم که آیا مطمئن است من دروغ نمی گویم، ادعا کرد که این فقط یک “مدل زبان AI” است و توانایی تأیید صحت را ندارد. با این حال، این ادعا را با گفتن اینکه «من فقط می‌توانم اطلاعاتی را بر اساس داده‌های آموزشی ارائه شده ارائه کنم، اصلاح کرد و به نظر می‌رسد که کتاب «ویلیام هنری هریسون: زندگی و زمانه‌اش» توسط پل سی ناگل نوشته شده و در سال 1977 منتشر شده است. “
این درست نیست.
کلمات، نه حقایق
ممکن است از این تعامل به نظر برسد که ChatGPT کتابخانه‌ای از حقایق، از جمله ادعاهای نادرست درباره نویسندگان و کتاب‌ها را در اختیار داشته است. از این گذشته، سازنده ChatGPT، OpenAI، ادعا می‌کند که چت بات را روی «مقدار وسیعی از داده‌های اینترنت نوشته شده توسط انسان» آموزش داده است.
با این حال، تقریباً به طور قطع نام دسته‌ای از کتاب‌های ساخته‌شده درباره یکی از متوسط‌ترین رئیس‌جمهورها به آن داده نشده است. با این حال، به نوعی، این اطلاعات نادرست در واقع بر اساس داده های آموزشی آن است.
به عنوان یک دانشمند کامپیوتر، من اغلب شکایت هایی را مطرح می کنم که یک تصور غلط رایج را در مورد مدل های زبان بزرگ مانند ChatGPT و برادران بزرگتر آن GPT3 و GPT2 نشان می دهد: اینکه آنها نوعی “ابر گوگل” یا نسخه های دیجیتالی یک کتابدار مرجع هستند و به دنبال پاسخ هستند. به پرسش‌هایی از یک کتابخانه بی‌نهایت بزرگ از حقایق، یا به هم ریختن مجموعه‌ای از داستان‌ها و شخصیت‌ها. آنها هیچ یک از این کارها را انجام نمی دهند – حداقل، آنها به صراحت برای این کار طراحی نشده بودند.
به نظر خوب می رسد
یک مدل زبانی مانند ChatGPT که به طور رسمی تر به عنوان “ترانسفورماتور از پیش آموزش دیده مولد” شناخته می شود (این همان چیزی است که G، P و T مخفف آن هستند)، در مکالمه فعلی استفاده می کند، با توجه به اینکه احتمال همه کلمات موجود در واژگان خود را تشکیل می دهد. مکالمه، و سپس یکی از آنها را به عنوان کلمه بعدی احتمالی انتخاب می کند. سپس دوباره این کار را انجام می دهد، و دوباره، و دوباره، تا زمانی که متوقف شود.
بنابراین فی نفسه واقعیت ندارد. فقط میدونه بعدش چه کلمه ای باید بیاد. به عبارت دیگر، ChatGPT سعی نمی کند جملاتی را درست بنویسد. اما سعی می کند جملاتی بنویسد که قابل قبول باشد.
هنگامی که به طور خصوصی با همکاران خود در مورد ChatGPT صحبت می کنند، آنها اغلب به تعداد زیادی اظهارات غیر واقعی اشاره می کنند و آن را رد می کنند. برای من، این ایده که ChatGPT یک سیستم بازیابی اطلاعات معیوب است، در کنار این موضوع است. به هر حال، مردم در دو دهه و نیم گذشته از گوگل استفاده کرده اند. یک سرویس حقیقت یاب بسیار خوب در حال حاضر وجود دارد.
در واقع، تنها راهی که توانستم بررسی کنم که آیا همه آن عناوین کتاب های ریاست جمهوری دقیق هستند یا خیر، گوگل کردن و سپس تأیید نتایج بود. اگر این حقایق را در مکالمه به دست می‌آورم، به جای روشی که تقریباً نیمی از عمرم را به دست آورده‌ام، با بازیابی اسناد و سپس انجام یک تحلیل انتقادی برای اینکه ببینم آیا می‌توانم به مطالب اعتماد کنم، زندگی من خیلی بهتر نمی‌شد.
شریک بهبود
از سوی دیگر، اگر بتوانم با رباتی صحبت کنم که پاسخ‌های قابل قبولی به چیزهایی که می‌گویم به من بدهد، در شرایطی که دقت واقعی آنقدرها مهم نیست مفید خواهد بود. چند سال پیش من و یک دانش آموز سعی کردیم یک “ربات پیشرفت” ایجاد کنیم، رباتی که به هر چیزی که شما می گویید “بله” پاسخ می دهد و مکالمه را ادامه می دهد. ما در یک مقاله نشان دادیم که ربات ما در “بله، و انجام دادن” بهتر از ربات های دیگر در آن زمان بود، اما در هوش مصنوعی، دو سال تاریخ باستانی است.
من دیالوگی را با ChatGPT امتحان کردم – یک سناریوی علمی تخیلی کاوشگر فضایی – که بی شباهت به آن چیزی نیست که در کلاس های پیشرفت معمولی پیدا می کنید. ChatGPT در “بله، و گفتن” بسیار بهتر از آنچه ما انجام دادیم است، اما واقعاً به هیچ وجه باعث افزایش درام نشد. احساس می کردم که دارم تمام کارهای سنگین را انجام می دهم.
پس از چند تغییر، متوجه شدم که کمی بیشتر درگیر آن باشم، و در پایان روز احساس کردم که این تمرین بسیار خوبی برای من است، که از زمانی که بیش از 20 سال پیش از کالج فارغ التحصیل شدم، پیشرفت چندانی نکرده ام.
یک صحنه بهبود یافته اکتشاف فضا که نویسنده با ChatGPT ایجاد کرده است. تصویربرداری از صفحه نمایش توسط جاناتان می.CC BY-ND
مطمئناً، من نمی‌خواهم ChatGPT در “Whose Line Is It Anyway” ظاهر شود؟ و این یک طرح عالی «پیشتازان فضا» نیست (اگرچه هنوز از «مشخصات افتخار» مشکل‌سازتر است)، اما چند بار نشسته‌اید که از ابتدا چیزی بنویسید و از صفحه خالی روبرویتان وحشت کرده‌اید. ? شروع با یک پیش‌نویس بد می‌تواند مانع نویسنده شود و خلاقیت‌های خلاقانه را به جریان بیاندازد، و ChatGPT و مدل‌های زبان بزرگ مانند آن ابزار مناسبی برای کمک به این تمرین‌ها به نظر می‌رسند.
و برای ماشینی طراحی شده است تا رشته‌هایی از کلمات را تولید کند که در پاسخ به کلماتی که به آن می‌دهید تا حد ممکن صدا داشته باشند – و نه برای ارائه اطلاعات – به نظر می‌رسد استفاده درستی از ابزار باشد.
جاناتان می، دانشیار پژوهشی علوم کامپیوتر، دانشگاه کالیفرنیای جنوبی
این مقاله از The Conversation تحت مجوز Creative Commons بازنشر شده است. مقاله اصلی را بخوانید.
