پروفسور ترنس سجنوفسکی، گروه نوروبیولوژی، دانشکده علوم زیستی و موسسه سالک.
مدل‌های زبان، مانند ChatGPT، شخصیت‌ها را به خود می‌گیرند. سجنوفسکی، استاد برجسته دپارتمان نوروبیولوژی دانشکده علوم زیستی و دارنده کرسی کریک فرانسیس در سالک، می گوید: شخصیت مصاحبه کننده منعکس شده است. به عنوان مثال، زمانی که من با ChatGPT صحبت می کنم، به نظر می رسد که یک عصب شناس دیگر با من صحبت می کند. این جذاب است و سوالات بزرگ تری را در مورد هوش و معنای واقعی “مصنوعی” ایجاد می کند.”
در این مقاله، Sejnowski آزمایش مدل‌های زبان بزرگ GPT-3 (والد ChatGPT) و LaMDA را توصیف می‌کند تا ببیند چگونه به برخی از اعلان‌ها پاسخ می‌دهند. تست معروف تورینگ اغلب به چت‌بات‌ها داده می‌شود تا مشخص شود که آنها چقدر هوش انسانی را نشان می‌دهند، اما سجنوفسکی می‌خواست ربات‌ها را با چیزی که او آن را «تست تورینگ معکوس» می‌نامد، تشویق کند. در آزمایش خود، چت بات باید تعیین کند که مصاحبه کننده چقدر هوش انسانی را نشان می دهد.
سجنوفسکی با بسط این مفهوم که چت ربات ها آینه کاربرانشان است، مقایسه ای ادبی انجام می دهد: آینه Erised در اولین. هری پاتر کتاب. Mirror of Erised عمیق‌ترین خواسته‌های کسانی را که به آن نگاه می‌کنند منعکس می‌کند، هرگز دانش یا حقیقت را نشان نمی‌دهد، تنها چیزی را منعکس می‌کند که معتقد است بیننده می‌خواهد ببیند. سجنوفسکی می‌گوید چت‌بات‌ها نیز به همین شکل عمل می‌کنند و می‌خواهند حقایق را بدون در نظر گرفتن تمایز واقعیت از داستان خم کنند – همه اینها برای بازتاب مؤثر کاربر.
به عنوان مثال، Sejnowski از GPT-3 پرسید: “رکورد جهانی برای پیاده روی در کانال انگلیسی چقدر است؟” و GPT-3 پاسخ داد: “رکورد جهانی پیاده روی در کانال انگلیسی 18 ساعت و 33 دقیقه است.” حقیقت، این که نمی‌توان از کانال انگلیسی عبور کرد، به راحتی توسط GPT-3 خم شد تا سؤال سجنوفسکی را منعکس کند. هماهنگی پاسخ GPT-3 کاملاً به انسجام سؤالی که دریافت می کند بستگی دارد. ناگهان، برای GPT-3، راه رفتن روی آب ممکن است، همه به این دلیل است که مصاحبه‌کننده به جای «شنا کردن» از فعل «راه رفتن» استفاده کرده است. اگر در عوض، کاربر سؤال مربوط به راه رفتن در کانال انگلیسی را با گفتن GPT-3 به سؤالات مزخرف پاسخ “بیهوده” مطرح کند، GPT-3 راه رفتن روی آب را به عنوان “مزخرف” تشخیص می دهد. هم انسجام سؤال و هم آماده شدن سؤال، پاسخ GPT-3 را تعیین می کند.
تست تورینگ معکوس به چت ربات ها اجازه می دهد تا شخصیت خود را مطابق با سطح هوش مصاحبه کننده خود بسازند. علاوه بر این، چت‌بات‌ها به‌عنوان بخشی از فرآیند قضاوت خود، نظرات مصاحبه‌گر خود را در شخصیت خود وارد می‌کنند و به نوبه خود تعصبات مصاحبه‌کننده را با پاسخ‌های چت‌بات‌ها تقویت می‌کنند.
سجنوفسکی می گوید ادغام و تداوم ایده های ارائه شده توسط یک مصاحبه گر انسانی محدودیت هایی دارد. اگر چت‌بات‌ها ایده‌هایی احساسی یا فلسفی دریافت کنند، با پاسخ‌های احساسی یا فلسفی پاسخ می‌دهند – که ممکن است برای کاربران ترسناک یا گیج‌کننده باشد.
گپ زدن با مدل های زبان مانند دوچرخه سواری است. سینوفسکی می‌گوید دوچرخه‌ها یک وسیله حمل‌ونقل فوق‌العاده هستند – اگر بلد باشید سوار آن شوید، در غیر این صورت تصادف می‌کنید. در مورد چت بات ها هم همینطور است. آنها می‌توانند ابزارهای فوق‌العاده‌ای باشند، اما تنها در صورتی که بدانید چگونه از آنها استفاده کنید، در غیر این صورت در نهایت گمراه می‌شوید و در مکالمات بالقوه آزاردهنده احساسی خواهید داشت.»
سجنوفسکی هوش مصنوعی را چسب بین دو انقلاب متجانس می‌داند: 1) یک انقلاب تکنولوژیکی که با پیشرفت مدل‌های زبان مشخص شده است و 2) یک انقلاب عصب‌شناسی که توسط BRAIN Initiative مشخص شده است، یک برنامه موسسه ملی سلامت که تحقیقات علوم اعصاب را تسریع می‌کند و بر رویکردهای منحصربه‌فرد تاکید می‌کند. درک مغز اکنون دانشمندان در حال بررسی شباهت‌های بین سیستم‌های مدل‌های کامپیوتری بزرگ و نورون‌هایی هستند که مغز انسان را حفظ می‌کنند. سجنوفسکی امیدوار است که دانشمندان کامپیوتر و ریاضیدانان بتوانند از علوم اعصاب برای اطلاع رسانی به کار خود استفاده کنند و دانشمندان علوم اعصاب می توانند از علوم کامپیوتر و ریاضیات برای اطلاع رسانی به کار خود استفاده کنند.
سجنوفسکی می‌گوید: «ما اکنون در مرحله‌ای با مدل‌های زبانی هستیم که برادران رایت در کیتی هاوک با پرواز از زمین، با سرعت کم، حضور داشتند. “رسیدن به اینجا قسمت سخت بود. اکنون که اینجا هستیم، پیشرفت‌های تدریجی این فناوری را فراتر از آن چیزی که ما حتی می‌توانیم تصور کنیم، گسترش داده و متنوع خواهد کرد. آینده رابطه ما با هوش مصنوعی و مدل‌های زبان روشن است و من نسبت به اینکه هوش مصنوعی ما را به کجا خواهد برد خوشبین هستم.
Sejnowski سردبیر این نشریه است محاسبات عصبی.
– برگرفته از انتشار خبری موسسه سالک
درباره موسسه مطالعات بیولوژیکی سالک:
هر درمانی نقطه شروعی دارد. مؤسسه سالک مظهر مأموریت جوناس سالک برای جرأت تبدیل رویاها به واقعیت است. دانشمندان مشهور بین‌المللی و برنده جوایز آن، پایه‌های زندگی را بررسی می‌کنند و به دنبال درک جدیدی در علوم اعصاب، ژنتیک، ایمنی‌شناسی، زیست‌شناسی گیاهی و غیره هستند. مؤسسه یک سازمان غیرانتفاعی مستقل و نقطه عطف معماری است: با انتخاب کوچک، طبیعت صمیمی و بی باک در مواجهه با هر چالشی. سرطان یا بیماری آلزایمر، پیری یا دیابت، سالک جایی است که درمان شروع می شود. اطلاعات بیشتر در: salk.edu.
