سم آلتمن، مدیر اجرایی و یکی از بنیانگذاران OpenAI. چونا کاسینگر- بلومبرگ/ گتی ایماژ
OpenAI، شرکت تحقیقاتی هوش مصنوعی پشت ربات چت ویروسی ChatGPT، گفت که در حال تلاش برای کاهش تعصبات در سیستم است و به کاربران این امکان را میدهد تا رفتار آن را پس از موجی از گزارشها در مورد تعاملات نامناسب و خطاها در نتایج آن سفارشی کنند.
این شرکت در یک پست وبلاگی گفت: “ما در حال سرمایه گذاری در تحقیقات و مهندسی هستیم تا تعصبات آشکار و ظریف را در نحوه پاسخگویی ChatGPT به ورودی های مختلف کاهش دهیم.” “در برخی موارد ChatGPT در حال حاضر خروجی هایی را که نباید انجام دهد رد می کند، و در برخی موارد، زمانی که باید رد نمی کند.”
OpenAI به گزارشهای سوگیریها، نادرستیها و رفتار نامناسب خود ChatGPT و انتقادات گستردهتر از محصولات جستجوی جدید مبتنی بر چت که اکنون در حال آزمایش از سوی Microsoft Corp و Alphabet Inc. هستند، پاسخ میدهد. به گزارش CNBC، مایکروسافت در یک پست وبلاگی در روز چهارشنبه، آنچه را که در مورد محدودیتهای گپ جدید بینگ مبتنی بر فناوری OpenAI آموخته است، توضیح داد و گوگل از کارگران خواسته است که به صورت دستی پاسخهای سیستم Bard خود را بهبود بخشند.
OpenAI مستقر در سانفرانسیسکو همچنین گفت که در حال توسعه یک بهروزرسانی برای ChatGPT است که به هر کاربر امکان سفارشیسازی محدود را برای مطابقت با سلیقه، سبک و دیدگاههای آنها میدهد. در ایالات متحده، مفسران راستگرا نمونههایی از آنچه را که لیبرالیسم مخرب بهعنوان سختکد شده در سیستم میدانند، ذکر میکنند که منجر به واکنش شدید نسبت به آنچه راست آنلاین از آن به عنوان «WokeGPT» یاد میکند، شده است.
OpenAI روز پنجشنبه نوشت: “ما معتقدیم که هوش مصنوعی باید ابزار مفیدی برای افراد فردی باشد و بنابراین توسط هر کاربر تا محدودیت های تعریف شده توسط جامعه قابل تنظیم است.” «این به معنای اجازه دادن به خروجیهای سیستم است که افراد دیگر (از جمله خودمان) ممکن است به شدت با آن مخالف باشند. ایجاد تعادل مناسب در اینجا چالش برانگیز خواهد بود – سفارشیسازی به حد افراط، امکان استفاده مخرب از فناوری و هوش مصنوعی ما را به خطر میاندازد که باورهای موجود مردم را بیخبر تقویت میکند. بنابراین همیشه محدودیت هایی در رفتار سیستم وجود خواهد داشت.”