آیا ChatGPT قابل اعتماد است یا اینکه ChatGPT دروغ می گوید؟

امروزه میلیون ها نفر به ChatGPT به عنوان یک منبع مفید، چه برای کار، چه برای تفریح ​​و چه برای تحصیل، به آن اعتماد دارند. اما آیا می توانید برای ارائه حقایق همیشه به این چت ربات هوش مصنوعی تکیه کنید؟ آیا ChatGPT هرگز دروغ می گوید یا فقط اطلاعات واقعی را به شما می دهد؟

ChatGPT اطلاعات خود را از کجا می گیرد؟

در دوره آموزشی، ChatGPT از منابعی در سراسر وب، مانند وب سایت های دولتی و آژانس ها، مجلات علمی، مطالعات، مقالات خبری، پادکست ها، انجمن های آنلاین، کتاب ها، پایگاه های داده، فیلم ها، مستندها و رسانه های اجتماعی تغذیه می شد.

به طور خاص، ChatGPT-3 با استفاده از یک پایگاه داده گسترده از اطلاعات که بالغ بر 570 گیگابایت داده بود، آموزش داده شد. همانطور که در مقاله ای از Science Focus بیان شد، 300 میلیارد کلمه اطلاعات در طول توسعه سیستم GPT-3 وارد شد.

چیزی که در اینجا قابل ذکر است این است که ChatGPT فقط داده هایی را که قبل از سال 2021 وجود داشته است تغذیه می کند. این بدان معنی است که ربات چت نمی تواند به سؤالات مربوط به رویدادهای اخیر پاسخ دهد. ChatGPT همچنین به اینترنت دسترسی ندارد. داده‌هایی که در آموزش تغذیه می‌شود، تنها نوعی است که برای برآورده کردن درخواست‌های کاربر استفاده می‌کند.

اما آیا ChatGPT فقط حقایق را در اختیار شما قرار می دهد یا اطلاعات مبهم بیشتری با پاسخ های آن ترکیب شده است؟ علاوه بر این، آیا ChatGPT می تواند به شما دروغ بگوید؟

آیا ChatGPT دروغ می گوید؟

در حالی که ChatGPT اغلب اطلاعات واقعی را در اختیار کاربران قرار می دهد، توانایی “دروغ گفتن” را دارد. البته، ChatGPT تصمیم نمی گیرد که به طور مخربانه به کاربران دروغ بگوید، زیرا به سادگی نمی تواند این کار را انجام دهد. به هر حال، ChatGPT یک ابزار پردازش زبان است، نه تقلید از یک فرد واقعی و باهوش.

با این حال، ChatGPT از نظر فنی هنوز هم می تواند از طریق پدیده ای به نام توهم هوش مصنوعی دروغ بگوید.

توهم هوش مصنوعی شامل یک سیستم هوش مصنوعی است که اطلاعاتی را ارائه می دهد که معقول یا معقول به نظر می رسد اما در واقعیت اصلاً درست نیست. در واقع، توهم هوش مصنوعی می تواند اطلاعاتی را ارائه دهد که هرگز در طول دوره آموزشی به آن تغذیه نشده است. از طرف دیگر، ممکن است زمانی رخ دهد که یک سیستم هوش مصنوعی اطلاعات غیر مرتبط با درخواست یا درخواست را ارائه دهد. یک سیستم هوش مصنوعی حتی ممکن است در یک رویداد توهم ادعا کند که انسان است.

سیستم‌های هوش مصنوعی، مانند چت‌بات‌ها، به چند دلیل در دام توهم می‌افتند: عدم درک واقعی آن‌ها، اشکالات نرم‌افزاری و محدودیت‌های داده‌های ارائه‌شده.

همانطور که قبلاً گفته شد، ChatGPT فقط می‌تواند اطلاعاتی را با استفاده از داده‌های منتشر شده تا سال 2021 ارائه کند، که مطمئناً نوع درخواست‌هایی را که می‌تواند انجام دهد محدود می‌کند.

یکی از مشکلات بزرگ ChatGPT این است که هنگام ارائه اطلاعات به کاربران نیز می تواند قربانی سوگیری شود. حتی سازندگان ChatGPT اعلام کرده‌اند که سیستم هوش مصنوعی در گذشته “از نظر سیاسی مغرضانه، توهین آمیز” و “در غیر این صورت قابل اعتراض” بوده است. همانطور که توسط The Independent گزارش شده است، توسعه دهندگان ChatGPT متعهد به مقابله با این مشکل هستند، اما این بدان معنا نیست که دیگر خطری ندارد.

هنگامی که از ChatGPT پرسیده شد، اظهار داشت که دلایلی که ممکن است اطلاعات نادرست ارائه دهد شامل موارد زیر است:

• ابهام در سؤال (تغیرات مبهم، نامشخص)؛
• اطلاعات ناقص ارائه شده؛
• اطلاعات جانبدارانه یا نادرست ارائه شده؛ یا،
• محدودیت های فنی (عمدتاً به دلیل عدم دسترسی به داده های فعلی).

بنابراین، خود ChatGPT اعلام کرد که سناریوهایی وجود دارد که در آن اطلاعات دقیقی در اختیار کاربران قرار نمی دهد.

در پاسخ دیگری در همان مکالمه، ChatGPT اظهار داشت که «همیشه یک ایده خوب برای تأیید هر گونه اطلاعات است [it provides] با منابع دیگر.”

آیا می توانید به ChatGPT اعتماد کنید؟

از آنجایی که می تواند اطلاعات نادرست ارائه دهد، به وضوح نمی توانید 100٪ مواقع به ChatGPT اعتماد کنید.

شما می توانید با تنظیم پارامترهای خاصی در مورد اینکه چگونه می تواند به شما پاسخ دهد، خطر توهم ربات چت هوش مصنوعی را کاهش دهید. با این حال، هنوز هیچ تضمینی وجود ندارد که برخی از اطلاعات نادرست از بین نرود.

به همین دلیل، بهتر است هر اطلاعاتی را که ChatGPT به شما می دهد بررسی کنید، به خصوص اگر اطلاعاتی درباره رویدادهای اخیر درخواست می کنید. بررسی مجدد این داده ها با مراجعه به منابع دیگر می تواند به شما کمک کند تشخیص دهید که ChatGPT در آنچه می گوید درست است یا خیر و می تواند شما را از تصمیم گیری های نادرست باز دارد.

ChatGPT مفید است اما همیشه صادق نیست

متأسفانه، شما نمی توانید برای ارائه اطلاعات واقعی و بی طرفانه در 100٪ مواقع به ChatGPT اعتماد کنید. این چت ربات مجهز به هوش مصنوعی غیرقابل انکار مفید است و می تواند به طرق مختلف به شما کمک کند، اما همیشه ارزش بررسی واقعی بودن اطلاعات ارائه شده توسط آن را دارد.