محققان نظر خود را در مورد ChatGPT-4 به اشتراک می گذارند: «این یک بن بست است».

نظر دانشمندان چیست؟

ممکن است برای تحقیق مفید نباشد

محققان خاطرنشان کرده‌اند که توانایی نوشتن متون، کدهایی مانند انسان، پتانسیل تغییر علم را دارد، اما برخی هنوز نتوانسته‌اند به این فناوری، کدهای زیربنایی آن یا اطلاعاتی درباره نحوه آموزش آن دسترسی پیدا کنند. دانشمندان می گویند که این نگرانی در مورد ایمنی این فناوری را افزایش می دهد و آن را برای تحقیقات کمتر مفید می کند.

نظر دانشمندان چیست؟

ممکن است برای تحقیق مفید نباشد

محققان خاطرنشان کرده‌اند که توانایی نوشتن متون، کدهایی مانند انسان، پتانسیل تغییر علم را دارد، اما برخی هنوز نتوانسته‌اند به این فناوری، کدهای زیربنایی آن یا اطلاعاتی درباره نحوه آموزش آن دسترسی پیدا کنند. دانشمندان می گویند که این نگرانی در مورد ایمنی این فناوری را افزایش می دهد و آن را برای تحقیقات کمتر مفید می کند.

دیوانه کننده

مقاله ای که در ژورنال نیچر منتشر شده است، به نقل از دانشمندی که دموهای ChatGPT 4 را دیده است، می گوید: “ما چند ویدئو را تماشا کردیم که در آن ها ظرفیت ها را نشان می دادند و این باعث شگفتی می شود”. وب سایتی که GPT-4 از آن برای تولید کدهای کامپیوتری مورد نیاز برای ساخت آن وب سایت استفاده می کرد تا نشانی از توانایی پردازش تصاویر به عنوان ورودی باشد.

دیوانه کننده

مقاله ای که در ژورنال نیچر منتشر شده است، به نقل از دانشمندی که دموهای ChatGPT 4 را دیده است، می گوید: “ما چند ویدئو را تماشا کردیم که در آن ها ظرفیت ها را نشان می دادند و این باعث شگفتی می شود”. وب سایتی که GPT-4 از آن برای تولید کدهای کامپیوتری مورد نیاز برای ساخت آن وب سایت استفاده می کرد تا نشانی از توانایی پردازش تصاویر به عنوان ورودی باشد.

ناامیدی از رازداری

دنیای محققین ناامید شده است زیرا در مورد ChatGPT 4 Open AI مخفی کاری شدید وجود دارد. طبیعت به نقل از ساشا لوچونی، یک دانشمند پژوهشگر متخصص در آب و هوا در HuggingFace، یک جامعه منبع باز-AI. “آنها [OpenAI] می توانند بر اساس تحقیقات خود ادامه دهند، اما برای جامعه در کل، این یک بن بست است.”

ناامیدی از رازداری

دنیای محققین ناامید شده است زیرا در مورد ChatGPT 4 Open AI مخفی کاری شدید وجود دارد. طبیعت به نقل از ساشا لوچونی، یک دانشمند پژوهشگر متخصص در آب و هوا در HuggingFace، یک جامعه منبع باز-AI. “آنها [OpenAI] می توانند بر اساس تحقیقات خود ادامه دهند، اما برای جامعه در کل، این یک بن بست است.”

ابتدا تحت تاثیر قرار نگرفتم، اما….

محقق دیگری به اندرو وایت، مهندس شیمی در دانشگاه روچستر، به ChatGPT-4 به عنوان «تیم قرمز» دسترسی پیدا کرد: فردی که توسط OpenAI پول پرداخت می‌کند تا پلتفرم را آزمایش کند و کاری کند که آن کار بدی انجام دهد.

ابتدا تحت تاثیر قرار نگرفتم، اما….

محقق دیگری به اندرو وایت، مهندس شیمی در دانشگاه روچستر، به ChatGPT-4 به عنوان «تیم قرمز» دسترسی پیدا کرد: فردی که توسط OpenAI پول پرداخت می‌کند تا پلتفرم را آزمایش کند و کاری کند که آن کار بدی انجام دهد.

او گفت طبیعت که در ابتدا او تحت تأثیر چت بات قرار نگرفت. وایت می‌گوید: «در ابتدا، من واقعاً تحت تأثیر قرار نگرفتم.» او می‌افزاید: «این واقعاً شگفت‌انگیز بود، زیرا بسیار واقع‌بینانه به نظر می‌رسید، اما یک اتم را در اینجا توهم می‌کرد. یک قدم به آنجا می‌رفت.

او گفت طبیعت که در ابتدا او تحت تأثیر چت بات قرار نگرفت. وایت می‌گوید: «در ابتدا، من واقعاً تحت تأثیر قرار نگرفتم.» او می‌افزاید: «این واقعاً شگفت‌انگیز بود، زیرا بسیار واقع‌بینانه به نظر می‌رسید، اما یک اتم را در اینجا توهم می‌کرد. یک قدم به آنجا می‌رفت.

با این حال، وقتی او به GPT-4 به مقالات علمی دسترسی پیدا کرد، همه چیز تغییر کرد. این باعث شد متوجه شویم که این مدل ها شاید به تنهایی چندان عالی نباشند. اما وقتی شروع به اتصال آنها به اینترنت به ابزارهایی مانند برنامه ریز رتروسنتز یا ماشین حساب می کنید، ناگهان انواع جدیدی از توانایی ها ظاهر می شوند.”

با این حال، وقتی او به GPT-4 به مقالات علمی دسترسی پیدا کرد، همه چیز تغییر کرد. این باعث شد متوجه شویم که این مدل ها شاید به تنهایی چندان عالی نباشند. اما وقتی شروع به اتصال آنها به اینترنت به ابزارهایی مانند برنامه ریز رتروسنتز یا ماشین حساب می کنید، ناگهان انواع جدیدی از توانایی ها ظاهر می شوند.”

حقایق جعلی

محقق دیگری اشاره کرده است که مدل‌هایی مانند GPT-4 که ​​برای پیش‌بینی کلمه بعدی در یک جمله وجود دارند، نمی‌توانند با حقایق جعلی – معروف به توهم، درمان شوند. او می‌گوید: «شما نمی‌توانید به این نوع مدل‌ها تکیه کنید، زیرا توهم بسیار زیاد است.» او می‌گوید که این موضوع در آخرین نسخه همچنان یک نگرانی است، اگرچه OpenAI می‌گوید که ایمنی را در GPT-4 بهبود بخشیده است.

حقایق جعلی

محقق دیگری اشاره کرده است که مدل‌هایی مانند GPT-4 که ​​برای پیش‌بینی کلمه بعدی در یک جمله وجود دارند، نمی‌توانند با حقایق جعلی – معروف به توهم، درمان شوند. او می‌گوید: «شما نمی‌توانید به این نوع مدل‌ها تکیه کنید، زیرا توهم بسیار زیاد است.» او می‌گوید که این موضوع در آخرین نسخه همچنان یک نگرانی است، اگرچه OpenAI می‌گوید که ایمنی را در GPT-4 بهبود بخشیده است.

نگرانی ایمنی

بدون دسترسی به داده های مورد استفاده برای آموزش، تضمین های OpenAI در مورد ایمنی برای Luccioni کوتاه است. “شما نمی دانید داده ها چیست. بنابراین شما نمی توانید آن را بهبود بخشید. منظورم این است که علم کردن با چنین مدلی کاملا غیرممکن است.”

نگرانی ایمنی

بدون دسترسی به داده های مورد استفاده برای آموزش، تضمین های OpenAI در مورد ایمنی برای Luccioni کوتاه است. “شما نمی دانید داده ها چیست. بنابراین شما نمی توانید آن را بهبود بخشید. منظورم این است که علم کردن با چنین مدلی کاملا غیرممکن است.”

جانبدارانه

رمز و راز نحوه آموزش GPT-4 برای همکار ون دیس در آمستردام، روانشناس کلودی بوکتینگ نیز نگران کننده است. او می‌گوید: «به عنوان یک انسان بسیار سخت است که در قبال چیزی که نمی‌توانید نظارت کنید، پاسخگو باشید. یکی از نگرانی‌ها این است که آنها می‌توانند بسیار جانبدارانه‌تر از مثلاً تعصبی که انسان‌ها به تنهایی دارند، باشند.» لوچونی توضیح می‌دهد که بدون دسترسی به کد پشت GPT-4، نمی‌توان دید که سوگیری ممکن است از کجا سرچشمه گرفته باشد، یا آن را اصلاح کنیم.

جانبدارانه

رمز و راز نحوه آموزش GPT-4 برای همکار ون دیس در آمستردام، روانشناس کلودی بوکتینگ نیز نگران کننده است. او می‌گوید: «به عنوان یک انسان بسیار سخت است که در قبال چیزی که نمی‌توانید نظارت کنید، پاسخگو باشید. یکی از نگرانی‌ها این است که آنها می‌توانند بسیار جانبدارانه‌تر از مثلاً تعصبی که انسان‌ها به تنهایی دارند، باشند.» لوچونی توضیح می‌دهد که بدون دسترسی به کد پشت GPT-4، نمی‌توان دید که سوگیری ممکن است از کجا سرچشمه گرفته باشد، یا آن را اصلاح کنیم.