Openai تیم تحقیقاتی را در پشت شخصیت چتگپ سازماندهی می کند

OpenAi در حال سازماندهی مجدد تیم رفتار مدل خود ، یک گروه کوچک اما تأثیرگذار از محققان است که نحوه تعامل مدل های هوش مصنوعی شرکت با افراد را شکل می دهد ، TechCrunch آموخته است.

در یادداشت اوت به کارمندان که توسط TechCrunch دیده شده است ، مدیر ارشد تحقیقات Openai ، مارک چن گفت: تیم رفتار مدل-که تقریباً 14 محقق تشکیل شده است-به تیم آموزش پست می پیوندند ، یک گروه تحقیقاتی بزرگتر که مسئول بهبود مدل های هوش مصنوعی شرکت پس از پیش از آموزش اولیه آنها است.

به عنوان بخشی از تغییرات ، تیم رفتار مدل اکنون گزارش می دهد که مکس شوارتزر منجر به آموزش پست Openai می شود. سخنگوی OpenAI این تغییرات را در TechCrunch تأیید کرد.

رهبر بنیانگذار تیم رفتار مدل ، جوآن جانگ ، همچنین در حال پیشروی است تا یک پروژه جدید را در این شرکت شروع کند. جانگ در مصاحبه ای با TechCrunch می گوید که وی در حال ایجاد یک تیم تحقیقاتی جدید به نام Labs OAI است که مسئولیت “اختراع و نمونه سازی رابط های جدید برای نحوه همکاری مردم با هوش مصنوعی” را بر عهده خواهد داشت.

تیم رفتار مدل به یکی از گروه های تحقیقاتی کلیدی Openai ، مسئول شکل دادن به شخصیت مدل های هوش مصنوعی شرکت و کاهش سیکوفانی تبدیل شده است – که وقتی مدل های هوش مصنوعی به جای ارائه پاسخ های متعادل ، به سادگی با اعتقادات کاربر ، حتی ناسالم موافق و تقویت می شوند. این تیم همچنین در زمینه پیمایش تعصب سیاسی در پاسخ های مدل کار کرده است و به OpenAI کمک کرده است تا موضع خود را در مورد آگاهی هوش مصنوعی تعریف کند.

چن در یادداشت کارکنان گفت که اکنون زمان آن رسیده است که کار تیم رفتار مدل OpenAi را به توسعه مدل اصلی نزدیک کنیم. با این کار ، این شرکت در حال نشان دادن این است که “شخصیت” هوش مصنوعی خود اکنون یک عامل مهم در نحوه تکامل این فناوری محسوب می شود.

در ماه های اخیر ، Openai نسبت به رفتار مدل های هوش مصنوعی خود با دقت بیشتری روبرو شده است. کاربران به شدت نسبت به تغییرات شخصیتی که در GPT-5 ایجاد شده است ، اعتراض کردند ، که این شرکت گفته است نرخ کمتری از سکوفسی را نشان می دهد اما برای برخی از کاربران سردتر به نظر می رسد. این امر باعث شد تا دسترسی به برخی از مدل های میراث خود ، مانند GPT-4O ، و آزاد کردن یک به روزرسانی برای ایجاد پاسخ های جدیدتر GPT-5 بدون افزایش سکوفنسی ، به روزرسانی شود و به روزرسانی شود.

Openai و همه توسعه دهندگان مدل AI باید یک خط خوب را طی کنند تا چت های AI خود را دوستانه کنند تا با آنها صحبت کنند اما نه sycophantic. در ماه آگوست ، والدین یک پسر 16 ساله به دلیل نقش ادعایی چتگپ در خودکشی پسرش از اوپای شکایت کردند. این پسر ، آدام رائین ، به برخی از افکار خودکشی خود اعتراف کرد و قصد دارد طبق اسناد دادگاه ، در ماه های منتهی به مرگ وی ، به چت شده (به طور خاص نسخه ای که توسط GPT-4O نیرو داده شده است). این دادخواست ادعا می کند که GPT-4O نتوانست به ایده های خودکشی خود بازگردد.

تیم رفتار مدل از زمان GPT-4 از جمله GPT-4O ، GPT-4.5 و GPT-5 روی هر مدل OpenAI کار کرده است. قبل از شروع واحد ، جانگ پیش از این روی پروژه هایی مانند Dall-E 2 ، ابزار تولید اولیه تصویر OpenAi کار می کرد.

هفته گذشته جانگ در پستی در X اعلام کرد که او تیم را ترک می کند تا “چیز جدیدی را در Openai آغاز کند.” رئیس سابق رفتار مدل نزدیک به چهار سال با Openai بوده است.

جانگ به TechCrunch گفت که وی به عنوان مدیر کل آزمایشگاه های OAI خدمت خواهد کرد ، که فعلاً به چن گزارش می دهد. با این حال ، روزهای ابتدایی است ، و هنوز مشخص نیست که این رابط های جدید چه خواهد بود.

جانگ گفت: “من واقعاً هیجان زده ام که الگویی را که ما را فراتر از الگوی چت قرار می دهد ، که در حال حاضر بیشتر با همراهی یا حتی مأمورین همراه است ، در آنجا که تأکید بر استقلال وجود دارد ، هیجان زده ام.” “من فکر کرده ام [AI systems] به عنوان ابزاری برای تفکر ، ساختن ، بازی ، انجام ، یادگیری و اتصال. “

در پاسخ به این سؤال که آیا OAI Labs با این رابط های جدید با جونی Ive ، رئیس سابق طراحی اپل همکاری خواهد کرد – که اکنون با Openai در خانواده ای از دستگاه های سخت افزاری هوش مصنوعی کار می کند – جانگ گفت که او برای ایده های زیادی باز است. با این حال ، او گفت که احتمالاً با زمینه های تحقیقاتی که بیشتر با آنها آشنا است ، شروع می شود.

این داستان به روز شد تا پیوندی به پست جانگ اعلام شود که موقعیت جدید خود را اعلام می کند ، که پس از انتشار این داستان منتشر شد. ما همچنین مدلهایی را که تیم رفتار مدل Openai روی آن کار کرده است ، روشن می کنیم.