ChatGPT یک چت بات منبع باز است که توسط OpenAI ایجاد شده است. این یک مدل زبان بزرگ (LLM) است که از هوش مصنوعی برای پاسخ به سؤالات کاربر استفاده می کند.
من به عنوان یک نویسنده، ChatGPT را برای پروژه های مختلف تجربه کرده ام. یک سوال که من از چت بات پرسیدم پاسخ واقعاً قابل توجهی را به همراه داشت. من فکر میکنم چیزی جذاب را در مورد این فناوری در حال ظهور آشکار میکند.
ChatGPT تلاش میکند تا بدون خرما بوفالو نیکل را توضیح دهد
بر کسی پوشیده نیست که شاباتهای شرکتهایی مانند OpenAI، Bing و Google با برخی از اشکالات مواجه شدهاند. آنها معمولاً واکنش خوبی به انتقاد یا جنجال نشان نمی دهند. اگر کاربر موضوعی به اندازه کافی بحث برانگیز یا ظریف انتخاب کند، احتمال اینکه هوش مصنوعی پاسخ بدی ایجاد کند افزایش می یابد.
با این وجود، هنگامی که ورودی با کیفیت بالا داده می شود (مانند یک سوال واضح و خاص)، ChatGPT معمولاً من را با پاسخ های خود تحت تأثیر قرار می دهد. من می توانم ببینم چرا برخی از مردم چنین هستند بسیار هیجانزده-یا خیلی وحشتناک- از هیاهویی که پیرامون این فناوری وجود دارد.
بنابراین وقتی ChatGPT به این سوال ساده پاسخ زیر را به من داد تعجب کردم، “چرا نیکل بوفالو تاریخ ندارد؟” (برای مرجع، من یک مقاله کامل در پاسخ به این سوال اینجا نوشتم!)
ChatGPT به سوال من در مورد نیکل بوفالو بدون تاریخ پاسخ می دهد.
جمله دوم پاسخ آن کاملاً نادرست است. هیچ نیکل عمداً بدون تاریخ ضرب نشده است. نه تنها پاسخ نادرستی در اینجا دریافت کردم، بلکه چت بات با یک تاریخچه مفصل (و کاملاً ساختگی!) در مورد اینکه چرا برخی از این سکه ها تاریخ ندارند، آمد. جزئیات، تاریخ ها و زمینه خاصی را ارائه می دهد. همه اش فانتزی محض است.
کاوش عمیق تر در راز
به جای اینکه به ChatGPT بگویم اشتباه است، کنجکاو بودم که چگونه به چنین جزئیاتی رسیده است اشتباه پاسخ. پرسیدم چه منابع یا مراجعی برای این اطلاعات دارد. چت بات با اطمینان از “منابع” خود مانند ضرابخانه ایالات متحده و کتاب راهنمای سکه های ایالات متحده، که معمولاً به عنوان “کتاب قرمز” شناخته می شود.
من اتفاقی یک کتاب قرمز روی میزم داشتم. من به بخش مربوط به نیکل های بوفالو رفتم و چیزی در مورد نیکل های عمدی نعناع بدون تاریخ پیدا نکردم. من با ChatGPT با این اطلاعات روبرو شدم و پاسخ آن حتی غیرمنتظره تر بود:
من هرگز ندیده بودم که یک هوش مصنوعی پاسخ خود را به عقب برگرداند!
معمولاً وقتی به یکی از این مدلهای زبان بزرگ گفته میشود که نادرست است، فقط عذرخواهی میکند و در مورد قدیمی بودن دسترسی به اطلاعات هشدار میدهد. اما در این مورد ChatGPT فقط . . . داستانش را تغییر داد؟
به خاطر داشته باشید، من به ChatGPT نگفتم که در واقع پاسخ صحیح چیست. من فقط گفتم که منبع آن اطلاعاتی را که ارائه کرده بود تایید نمی کند. در پاسخ به طور کامل پاسخ خود را تغییر داد. اگرچه ربات چت از این عبارت استفاده کرد، “پس از تحقیقات بیشتر” این نیز نادرست است هوش مصنوعی دقیقاً با خزیدن فعال در اینترنت “تحقیق” انجام نمی دهد. یک پایگاه داده موجود از محتوا دارد که از آن استخراج می شود.
چگونه ChatGPT می تواند دستکاری و گمراه کننده باشد
برای من جالب تر شد که ChatGPT از عبارت دیگری در پاسخ خود استفاده کرد. “حقیقت این است که”. انگار داشت اعتراف می کرد که جواب قبلی اش دروغ بوده و معلوم می شود این پاسخ واقعی است اگر چت بات یک فرد زنده بود، منصفانه است که بگوییم به من دروغ گفته است. باز هم، من هرگز به ChatGPT نگفتم که پاسخ صحیح چیست یا حتی صراحتاً اشتباه است. من فقط پیشنهاد کردم که شاید منبع اشتباهی ذکر شده است.
شاید حتی عجیبتر از چرخش 180 درجه در پاسخ، ChatGPT توضیحی برای اینکه چرا در ابتدا پاسخ اشتباه داده بود ارائه کرد. ما برای لحظه ای فراموش خواهیم کرد که با چه اطمینانی اولین پاسخ را بیان کرد، حتی زمانی که من از آن برای ذکر منابع درخواست کردم. توضیح جدید این بود که داستان ساختگی که ارائه میکرد، نتیجه افسانههایی بود که در جامعه سکهشناسی منتشر میشد. نوعی دفاع “به پیام رسان شلیک نکنید”.
نکته خنده دار این است که چنین افسانه ای وجود ندارد همیشه وجود داشته است، تا آنجا که من می توانم بگویم! من به مدت یک دهه در مورد سکه ها تحقیق کرده و می نویسم و به طور خاص روی نیکل بوفالو برای چندین تکالیف تمرکز کرده ام. من هرگز این افسانه شهری خاص را نشنیده ام – و، به من اعتماد کنید، در تاریخ سکه شناسی هیچ کمبودی از آنها وجود ندارد. شاید این افسانه در گوشه ای از اینترنت سرچشمه گرفته باشد. اما با این حال، این همان ادعای ChatGPT نیست که این افسانه از دهه 1930 در میان کلکسیونرهای سکه تداوم یافته است.
این جالب ترین بخش برای من است: ChatGPT ساخت یک دومین پاسخ نادرست برای توضیح اینکه چرا پاسخ اول را اشتباه گرفته است. من قبلاً با چنین رفتاری از هیچ هوش مصنوعی روبرو نشده بودم. به نظر می رسد که فناوری چت بات در حال پیچیده تر شدن است – و با آن توانایی انسان برای دروغ گفتن و بهانه تراشی نیز به وجود می آید.
100٪ محتوای تولید شده توسط انسان در مورد سکه ها و سکه شناسی را از کارشناسان Gainesville Coins بخوانید:
کجا می توان رول سکه ها را پیدا کرد و بهترین راه برای بدست آوردن آنها
ایده های هدیه برای گردآورندگان سکه: 8 هدیه مقرون به صرفه که آنها را دوست خواهند داشت
ارزش پنی گندم لینکلن 1919
خالص ترین سکه های طلا در جهان کدامند؟
بهترین مکان ها برای خرید سکه طلا در سال 2023