ربات چت هوش مصنوعی ChatGPT کاربران خود را بازتاب می دهد تا باهوش به نظر برسند

6 مارس 2023

ربات چت هوش مصنوعی ChatGPT کاربران خود را بازتاب می دهد تا باهوش به نظر برسند

عصب شناس Salk به بررسی این موضوع می پردازد که چگونه مدل های زبانی هوش مصنوعی، مانند چت ربات محبوب ChatGPT، می تواند درک ما از مغز انسان را افزایش دهد.

6 مارس 2023

LA JOLLA—مدل زبان هوش مصنوعی (AI) ChatGPT در ماه‌های اخیر توجه جهان را به خود جلب کرده است. این چت ربات کامپیوتری آموزش دیده می تواند متن تولید کند، به سوالات پاسخ دهد، ترجمه ارائه دهد و بر اساس بازخورد کاربر یاد بگیرد. مدل‌های زبان بزرگی مانند ChatGPT ممکن است کاربردهای زیادی در علم و تجارت داشته باشند، اما این ابزارها چقدر می‌فهمند که ما به آنها چه می‌گوییم و چگونه تصمیم می‌گیرند که چه چیزی را پاسخ دهند؟

در مقاله جدید منتشر شده در محاسبات عصبی در 17 فوریه 2023، پروفسور سالک ترنس سجنووسکی، نویسنده انقلاب یادگیری عمیق، رابطه بین مصاحبه‌گر انسانی و مدل‌های زبان را بررسی می‌کند تا کشف کند چرا ربات‌های چت به روش‌های خاصی پاسخ می‌دهند، چرا این پاسخ‌ها متفاوت هستند، و چگونه می‌توان آنها را در آینده بهبود بخشید.

به گفته سجنوفسکی، مدل های زبانی نشان دهنده هوش و تنوع مصاحبه کننده آنهاست.

مدل‌های زبان، مانند ChatGPT، شخصیت‌ها را به خود می‌گیرند. سجنوفسکی، که همچنین استاد برجسته دانشگاه کالیفرنیا سن دیگو و دارنده صندلی فرانسیس کریک در سالک است، می‌گوید: شخصیت مصاحبه‌کننده منعکس شده است. به عنوان مثال، زمانی که من با ChatGPT صحبت می کنم، به نظر می رسد که یک عصب شناس دیگر با من صحبت می کند. این جذاب است و سوالات بزرگ تری را در مورد هوش و معنای واقعی “مصنوعی” ایجاد می کند.”

در این مقاله، Sejnowski آزمایش مدل‌های زبان بزرگ GPT-3 (والد ChatGPT) و LaMDA را توصیف می‌کند تا ببیند چگونه به برخی از اعلان‌ها پاسخ می‌دهند. تست معروف تورینگ اغلب به چت‌بات‌ها داده می‌شود تا مشخص شود که آنها چقدر هوش انسانی را نشان می‌دهند، اما سجنوفسکی می‌خواست ربات‌ها را با چیزی که او آن را «تست تورینگ معکوس» می‌نامد، تشویق کند. در آزمایش خود، چت بات باید تعیین کند که مصاحبه کننده چقدر هوش انسانی را نشان می دهد.

سجنوفسکی با بسط این مفهوم که چت ربات ها آینه کاربرانشان است، مقایسه ای ادبی انجام می دهد: آینه Erised در اولین. هری پاتر کتاب. Mirror of Erised عمیق‌ترین خواسته‌های کسانی را که به آن نگاه می‌کنند منعکس می‌کند، هرگز دانش یا حقیقت را نشان نمی‌دهد، تنها چیزی را منعکس می‌کند که معتقد است بیننده می‌خواهد ببیند. سجنوفسکی می‌گوید چت‌بات‌ها نیز به همین شکل عمل می‌کنند و می‌خواهند حقایق را بدون در نظر گرفتن تمایز واقعیت از داستان خم کنند – همه اینها برای بازتاب مؤثر کاربر.

به عنوان مثال، Sejnowski از GPT-3 پرسید: “رکورد جهانی برای پیاده روی در کانال انگلیسی چقدر است؟” و GPT-3 پاسخ داد: “رکورد جهانی پیاده روی در کانال انگلیسی 18 ساعت و 33 دقیقه است.” حقیقت، این که نمی‌توان از کانال انگلیسی عبور کرد، به راحتی توسط GPT-3 خم شد تا سؤال سجنوفسکی را منعکس کند. هماهنگی پاسخ GPT-3 کاملاً به انسجام سؤالی که دریافت می کند بستگی دارد. ناگهان، برای GPT-3، راه رفتن روی آب ممکن است، همه به این دلیل است که مصاحبه‌کننده به جای «شنا کردن» از فعل «راه رفتن» استفاده کرده است. اگر در عوض، کاربر سؤال مربوط به راه رفتن در کانال انگلیسی را با گفتن GPT-3 به سؤالات مزخرف پاسخ “بیهوده” مطرح کند، GPT-3 راه رفتن روی آب را به عنوان “مزخرف” تشخیص می دهد. هم انسجام سؤال و هم آماده شدن سؤال، پاسخ GPT-3 را تعیین می کند.

تست تورینگ معکوس به چت ربات ها اجازه می دهد تا شخصیت خود را مطابق با سطح هوش مصاحبه کننده خود بسازند. علاوه بر این، چت‌بات‌ها به‌عنوان بخشی از فرآیند قضاوت خود، نظرات مصاحبه‌گر خود را در شخصیت خود وارد می‌کنند و به نوبه خود تعصبات مصاحبه‌کننده را با پاسخ‌های چت‌بات‌ها تقویت می‌کنند.

سجنوفسکی می گوید ادغام و تداوم ایده های ارائه شده توسط یک مصاحبه گر انسانی محدودیت هایی دارد. اگر چت‌بات‌ها ایده‌هایی احساسی یا فلسفی دریافت کنند، با پاسخ‌های احساسی یا فلسفی پاسخ می‌دهند – که ممکن است برای کاربران ترسناک یا گیج‌کننده باشد.

گپ زدن با مدل های زبان مانند دوچرخه سواری است. سینوفسکی می‌گوید دوچرخه‌ها یک وسیله حمل‌ونقل فوق‌العاده هستند – اگر بلد باشید سوار آن شوید، در غیر این صورت تصادف می‌کنید. در مورد چت بات ها هم همینطور است. آن‌ها می‌توانند ابزارهای فوق‌العاده‌ای باشند، اما تنها در صورتی که بدانید چگونه از آن‌ها استفاده کنید، در غیر این صورت در نهایت گمراه می‌شوید و در مکالمات بالقوه آزاردهنده احساسی خواهید داشت.»

سجنوفسکی هوش مصنوعی را چسب بین دو انقلاب متجانس می‌داند: 1) انقلابی فناوری که با پیشرفت مدل‌های زبانی مشخص شده است، و 2) یک انقلاب عصب‌شناسی که توسط BRAIN Initiative مشخص شده است، یک برنامه موسسه ملی سلامت که تحقیقات علوم اعصاب را تسریع می‌کند و بر رویکردهای منحصربه‌فرد تاکید می‌کند. برای درک مغز اکنون دانشمندان در حال بررسی شباهت‌های بین سیستم‌های مدل‌های کامپیوتری بزرگ و نورون‌هایی هستند که مغز انسان را حفظ می‌کنند. سجنوفسکی امیدوار است که دانشمندان کامپیوتر و ریاضیدانان بتوانند از علوم اعصاب برای اطلاع رسانی به کار خود استفاده کنند و دانشمندان علوم اعصاب می توانند از علوم کامپیوتر و ریاضیات برای اطلاع رسانی به کار خود استفاده کنند.

سجنوفسکی می‌گوید: «ما اکنون در مرحله‌ای با مدل‌های زبانی هستیم که برادران رایت در کیتی هاوک با پرواز از زمین، با سرعت کم، حضور داشتند. “رسیدن به اینجا قسمت سخت بود. اکنون که اینجا هستیم، پیشرفت‌های تدریجی این فناوری را فراتر از آن چیزی که ما حتی می‌توانیم تصور کنیم، گسترش داده و متنوع خواهد کرد. آینده رابطه ما با هوش مصنوعی و مدل‌های زبان روشن است و من از اینکه ببینم هوش مصنوعی ما را به کجا خواهد برد، هیجان‌زده هستم.»

Sejnowski سردبیر این نشریه است محاسبات عصبی.

DOI: