فکر می کنید ChatGPT هوشمند است؟ از آن بخواهید حسابی انجام دهد

به نظر می رسد ChatGPT در همه جا وجود دارد. مردم در هر سنی – به ویژه بچه های من – از ساعت ها خنده با پرسیدن سؤالات احمقانه و خرده نگاری هوش مصنوعی لذت برده اند.

از آنجایی که ChatGPT میلیاردها صفحه متن، از جمله آثار مرجع را جذب کرده است، دارای یک ذخیره عظیم اطلاعات است. اما می تواند بیشتر از جستجو در حافظه خود انجام دهد – همچنین اطلاعات را ترکیب می کند. می‌توانید از آن بپرسید: «چیزی که در پشت گلوی شما آویزان است، چیست؟» و به درستی uvula را توصیف می کند (و به استفاده شما از زبان محاوره ای و دستور زبان بی دست و پا اهمیتی نمی دهد).

اما این فناوری جنبه های تاریک تری نیز دارد.

در حالی که نوآوری هایی در ChatGPT از نقطه نظر علم کامپیوتر وجود دارد – عمدتاً به دلیل حجم مجموعه آموزشی آن – استفاده عملی از این فناوری اغلب غیرقانونی است. یک سرویس سلامت روان آنلاین در ژانویه 2023 با استفاده از ChatGPT برای ارائه مشاوره به مشتریان ناخواسته دستگیر شد. دانش‌آموزان در سرتاسر جهان از آن می‌خواهند که تکالیف و امتحانات خود را برای آنها انجام دهد، که باعث ایجاد یک عصبانیت جمعی در بین معلمان می‌شود (جالب است که سایر فناوری‌های دیجیتال مرسوم مانند ارزهای دیجیتال نیز عمدتاً به عملکردهای غیرقانونی مانند پولشویی عمل می‌کنند).

آیا نقاط منفی چت بات ها برای خدماتی که ارائه می دهند قیمت قابل قبولی است؟ من فکر می کنم این به کیفیت دانشی که یک سیستم تولید می کند بستگی دارد. در حال حاضر، همانطور که تیم هارفورد اقتصاددان استدلال می کند، وقتی از ChatGPT یک سوال اساسی پرسیده می شود، به جای پاسخ های صحیح، پاسخ های قابل قبولی ارائه می دهد. این‌ها پاسخ‌هایی هستند که دانش‌آموزی که کاملاً یک سؤال را نمی‌فهمد، ممکن است به آن‌ها پاسخ دهد – به اندازه‌ای خوب برای کسب اعتبار جزئی، اما درست نیست.

ChatGPT و ریاضی ساده

برای اینکه درک بهتری از هوشمندی ChatGPT داشته باشید، از آن بخواهید حسابی انجام دهد. با اعداد کوچک شروع کنید. کار می کند! حالا اعداد طولانی تری را امتحان کنید. در اینجا برخی از آنها را امتحان کردم: 732542667 + 2348378780099. ChatGPT با اطمینان این پاسخ را می دهد:

مجموع 732542667 و 2348378780099 برابر با 2355113707466 می باشد.

حیف که پاسخ واقعی 2349111322766 است. این نقص اخیراً توسط نویسنده علمی تخیلی تد چیانگ اشاره شده است. همانطور که چیانگ پیشنهاد می کند، به نظر می رسد این سیستم در حمل آن ها مشکل دارد.

ChatGPT همیشه نادرست نیست. و با اعداد کوچکتر، خطاها کوچک هستند. باز هم پاسخ ها قابل قبول هستند. اما با اعداد 20 رقمی، خطاها می توانند پاسخ را صدها یا بیشتر از بین ببرند.

بین دیدگاه‌های هارفورد و چیانگ همگرایی وجود دارد: ChatGPT فاقد چیزی ضروری برای کار است، که منجر به تقریب حقیقت می‌شود، حتی زمانی که یک پاسخ کاملاً صحیح کاملاً توسط انسان (و با فناوری بسیار کمتر پیچیده) قابل دستیابی باشد.

یک مشکل مرتبط این است که سیستم‌های هوش مصنوعی مانند ChatGPT راه‌هایی برای نشان دادن اینکه پاسخ خوبی برای یک سؤال خاص ندارند ندارند – نمی‌توانند بگویند «نمی‌دانم». آنها به گونه ای طراحی شده اند که از نظر آماری بهترین پاسخ را از یک مجموعه رتبه بندی شده انتخاب کنند – آنها نمی توانند بگویند “همه گزینه هایی که می توانم پیدا کنم بد هستند.”

بگذارید کامپیوترها محاسبه کنند و انسان ها فکر کنند

آنچه در مورد همه اینها طعنه آمیز است این است که رایانه ها برای هدف خاصی از حل مسائل ریاضی اختراع شده اند. بالاخره به آنها کامپیوتر می گویند. کامپیوترها با مدارهای منطقی خستگی ناپذیر آغشته شده بودند تا زمان ما صرف انجام محاسبات طولانی و خسته کننده نشود. این طور نیست که ما نمی توانیم این وظایف را انجام دهیم: ماشین حساب های انسانی (که بسیاری از آنها زنان سیاه پوست بودند) محاسباتی را انجام دادند که فضانوردان آپولو ناسا را ​​به ماه رساند. فقط کامپیوترها این کار را خیلی سریعتر انجام می دهند.

حتی اگر بتوان ChatGPT را برای حل صحیح مسائل حسابی هر بار بهبود بخشید، بیایید لحظه ای به عقب برگردیم: چرا سعی می کنیم ماشینی بسازیم که همه چیز را بداند؟ فراتر از ارزش سرگرمی، من فکر می کنم تنها توضیح این است که جنسیت مشکل سرمایه گذاران را جذب می کند. این ایده که چنین چیزی می تواند (چه رسد به اینکه باید) ساخته شود، نوعی رویای اتوپیایی و چارچوبی فراگیر است. اما در تلاش برای خطاناپذیر ساختن آن، همه مشکلات قدیمی دنیای آشفته ما باید یکی یکی برطرف شوند، که تمام هدف هوش مصنوعی را شکست می دهد.

البته، ChatGPT به خودی خود یک هدف نیست – چت ربات ها در نهایت می توانند برای حوزه های محدودی مانند مشاوره سلامت روان تخصصی شوند. اما چرا باید انتظار داشته باشیم که یک برنامه هدفمند مانند مشاوره با هوش مصنوعی «آسان‌تر» حل شود؟

فناوری الهام گرفته شده از مغز در قلب هوش مصنوعی بی فایده نیست. مسئله پیدا کردن مشکل مناسب برای حل با آن است. همانطور که آرویند نارایانان، دانشمند کامپیوتر پرینستون، استدلال می کند، هوش مصنوعی برای مشکلاتی که یک پاسخ واحد، قابل تایید و درست وجود دارد، بهترین گزینه است. محاسبه ساختار یک مولکول ابرکمپلکس متناسب با این لایحه است. این همان کاری است که هوش مصنوعی AlphaFold با استفاده از همان ترفندهای اساسی ChatGPT انجام می دهد. درمان با ربات‌های چت یک مشکل کاملاً متفاوت است و یک تطابق بد برای هوش مصنوعی است.

شاید بازار اهمیتی ندهد. اگه خوب باشه کافی (و به اندازه کافی ارزان) شاید فرسایش حقیقت را به معقول بودن بپذیریم. این آسیب تنها جنبه خارجی کسب و کارهای بزرگ مانند آلودگی هوا خواهد بود.

اما من امیدوارم که عجله فعلی برای تقلید از هوش مصنوعی از بین برود و ما در نهایت به رایانه‌ها برگردیم که بهترین کار را انجام می‌دهند: کارهای الگوریتمی خسته‌کننده‌ای که انسان‌ها نمی‌توانند یا نمی‌توانند انجام دهند.