وزوز ChatGPT و چرا زودتر از آنچه فکر می کنید تمام می شود

هیاهوی عمومی پیرامون هوش مصنوعی به این زودی ها از بین نمی رود. تقریباً در همه صنایع، از خدمات مشتری گرفته تا دارو، در حال ظهور است. با این حال، درک فنی این ابزارها همچنان یک مکالمه پیچیده است.

مدل‌های زبان بزرگ (LLM) نمی‌توانند مکالمات انسان‌مانند را بفهمند و از آنها تقلید کنند. آنها با حجم عظیمی از داده ها آموزش می بینند تا بر اساس ورودی خاص خروجی خاصی ارائه دهند. اما آنها توانایی درک معنای واقعی پشت آن کلمات را ندارند. هر پاسخی که توسط LLM ایجاد شود فاقد درک اساسی از زمینه است.

در حالی که LLM ها می توانند قطعات فرمولی و ساختار یافته از نثر و شعر تولید کنند، این نوشته ها بسیار بی انگیزه و کسل کننده هستند. ChatGPT OpenAI یک LLM است که متن جدیدی را پس از آموزش با حجم زیادی از داده تولید می کند. در حالی که معلمان می ترسند که محبوبیت ChatGPT پایان تکالیف و امتحانات باشد، بررسی دقیق الگوریتم ChatGPT ناتوانی آن را در تولید نثر خلاقانه و جالب انسان مانند آشکار می کند. این نوع بی کفایتی یک سوال اساسی در مورد سودمندی فناوری در حل مسائل تجاری ایجاد می کند.

ترس های درهم آمیخته؟

طبق آمار، انتظار می‌رود بازار چت‌بات‌ها با CAGR 23.5 درصد رشد کند و تا سال 2026 به 10.6 میلیارد برسد.

ChatGPT یک هوش مصنوعی مولد محبوب است، نه اولین چت بات مبتنی بر هوش مصنوعی. در بازاری پر از ربات های زبان مختلف رقابت می کند. با این حال، نسخه رایگان اخیر ChatGPT پس از جذب 1 میلیون کاربر در تنها یک هفته، شتاب بیشتری به دست آورد. ChatGPT به تعداد زیادی از انسان ها بستگی دارد که حجم عظیمی از داده ها را برای طبقه بندی داده ها، برچسب گذاری، برچسب گذاری و حاشیه نویسی برای افزایش قابلیت های آن مدیریت می کنند. برخی گمانه زنی های قطعی وجود دارد که ChatGPT می تواند جایگزین موتور جستجوی گوگل شود.

با این حال، احتمال عدم دقت در پاسخ‌های ChatGPT کاربران را مجبور می‌کند تا با استفاده از منابع خارجی آن‌ها را تأیید کنند. چنین راستی‌آزمایی ممکن است پیچیده‌تر باشد زیرا ChatGPT بدون هیچ پیوندی به منابع (برخلاف Google) یا بیان سطح اطمینان خود، پاسخ‌های مشخصی را ارائه می‌دهد. بنابراین، ترس ها و گمانه زنی ها در مورد جایگزینی گوگل ممکن است کمی در هم آمیخته شوند.

کاستی های ChatGPT

همانطور که در بالا توضیح داده شد، ChatGPT می تواند نثر و شعر بنویسد، به سوالات پیچیده پاسخ دهد و در گفتگو شرکت کند، اما برخی از کاستی ها را نمی توان نادیده گرفت. برخی از آنها شامل موارد زیر است:

پاسخ های نادرست

ChatGPT یک LLM گسترده است که دقت پاسخ های خود را از طریق آموزش مداوم بهبود می بخشد. با این حال، از آنجایی که این LLM به اندازه کافی جدید است، آموزش کافی را گذرانده است. به این ترتیب، می تواند پاسخ های نادرست بدهد.

به همین دلیل، Stackflow پاسخ‌های ChatGPT را ممنوع کرده و گفته است که پاسخ‌های ChatGPT برای جامعه و کاربرانی که به دنبال پاسخ‌های صحیح هستند مضر است. در حالی که ChatGPT نرخ بالایی در ایجاد پاسخ های نادرست دارد، ربات چت با چنان اطمینانی به همه سؤالات پاسخ می دهد که احساس می کند آن پاسخ ها نه تنها صحیح هستند، بلکه بهترین هستند.

محدودیت در داده های آموزشی

مانند سایر مدل‌های هوش مصنوعی، ChatGPT از محدودیت‌هایی در داده‌های آموزشی خود رنج می‌برد. محدودیت ها، محدودیت ها و سوگیری ها در داده های آموزشی می تواند نتایج نادرستی ایجاد کند. این می تواند به طور نامتناسبی بر گروه های اقلیت تأثیر بگذارد و بازنمایی های کلیشه ای را تداوم بخشد. برای کاهش چنین سوگیری ها، بهبود شفافیت داده ها ضروری است.

پایداری

ChatGPT یک محصول رایگان است، اما اجرای این فناوری بسیار گران است. هزینه جاری حدود 100000 دلار در روز یا 3 میلیون دلار در ماه تخمین زده می شود. این سؤالاتی را در مورد پایداری آن در بلندمدت ایجاد می کند. مشارکت هوش مصنوعی باز با مایکروسافت ممکن است برخی از هزینه ها را کاهش دهد. اما این عملیات به هیچ وجه ارزان نیست.

پیشرفت در هوش مصنوعی: جاده ای صخره ای در پیش است

در حالی که بسیاری از تعیین‌کننده‌های فناوری ChatGPT را «کد قرمز» برای گوگل نامیده‌اند، واقعیت بسیار دور از آن است. آزمایش نشان داده است که ChatGPT باعث ایجاد «نافهمی بدون ذهن» می‌شود، یعنی پاسخ‌های بی‌ذهن و نامنسجمی که نشان می‌دهد سیستم نمی‌فهمد درباره چه چیزی صحبت می‌کند. در حالی که پاسخ‌های تهاجمی را محافظت می‌کند (مشکل اصلی سایر ربات‌های هوش مصنوعی مولد)، این کار را با استفاده از کلمات کلیدی انجام می‌دهد و متوجه نمی‌شود که در برابر چه چیزی محافظت می‌کند.

مشکل مهم دیگر ChatGPT توهمات است – موارد مرتبط را با هم پر می کند که به سؤال پاسخ درستی نمی دهد. اساساً، اطلاعات مختلف را از داده های آموزشی بازنویسی و ترکیب می کند. ممکن است یک رابطه تصادفی یا مبهم بین این اطلاعات وجود داشته باشد. به همین دلیل است که پاسخ ممکن است قابل قبول یا معتبر به نظر برسد، اما ممکن است دور از واقعیت باشد.

برخلاف چت ربات‌های سنتی که کلمات کلیدی را با Intent مرتبط می‌کنند، LLM‌هایی مانند ChatGPT پیش‌بینی‌کننده متن هستند. این بدان معنی است که آنها اساساً در مورد رابطه بین متون، کلمات و جملات یاد می گیرند. و از این روابط برای پیش بینی رشته کاراکترهای زیر استفاده می کنند.

در حالی که جستجوهای Google کمتر از یک پنی هزینه دارند، ChatGPT بسیار گران است (بین جمع آوری داده ها، فعالیت های دستی داده و محاسبات گسترده). به طور مشابه، جمع آوری پاسخ آن مدتی طول می کشد، در حالی که جستجوهای گوگل آنی هستند. این مشکلات اقتصادی و سرعت، ChatGPT را پشت سر گوگل قرار داده است.

بحث بالا در مورد LLM و ChatGPT نشان می دهد که تبلیغات در مورد ChatGPT ممکن است اغراق آمیز باشد. زمانی که مردم شروع به تصور احتمالات می کنند، هیجان زیادی برانگیخته می شود. با این حال، پس از مدت کوتاهی، کسانی که در واقع پارامترهای این ابزارها را در سناریوهای تجاری خاص آزمایش می‌کنند، نشان می‌دهند که ما هنوز از تکینگی عالی هوش مصنوعی در آسمان فاصله داریم.

سرینی پاگیدیالا یکی از بنیانگذاران aigo.ai.