همانطور که ربات‌های هوش مصنوعی پردازش زبان طبیعی OpenAI فوق‌العاده و قدرتمند هستند، در صورت عدم استفاده صحیح، می‌توانند بسیار مخرب باشند. و به نظر می رسد که سام آلتمن، مدیر عامل OpenAI به طرز تاسف باری از این موضوع آگاه است.
آلتمن ابراز نگرانی کرد که ChatGPT می تواند برای اطلاعات نادرست در مقیاس بزرگ و حملات سایبری استفاده شود، اگر برخی از بررسی ها و تعادل ها توسط افرادی که از API GPT-4 خود استفاده می کنند تنظیم نشده باشند.
سم آلتمن اخیراً با ABC News در مورد چت بات این شرکت و انتشار جدیدترین نسخه مدل زبان هوش مصنوعی یعنی GPT-4 صحبت کرده است.
“هوش مصنوعی جهان را در دست گرفت”
در حالی که ربات چت نگرانی هایی را در مورد تسلط بر هوش مصنوعی بر جهان ایجاد کرده است، آلتمن معتقد است که مردم بزرگترین خطر برای این فناوری هستند.
او به ABC News گفت: «کسانی خواهند بود که به برخی از محدودیت‌های ایمنی که ما اعمال می‌کنیم، پایبند نیستند.
همچنین بخوانید: OpenAI معتقد بود GPT-4 می تواند جهان را تحت کنترل خود درآورد، بنابراین آنها آن را آزمایش کردند تا ببینند چگونه می توان آن را متوقف کرد.
آلتمن افزود: «من فکر می‌کنم جامعه زمان محدودی دارد تا بفهمد چگونه به آن واکنش نشان دهد، چگونه آن را تنظیم کند، چگونه آن را مدیریت کند. OpenAI هفته گذشته GPT-4 را راه‌اندازی کرد و آن را قوی‌تر از نسل قبلی خود معرفی کرد – آنقدر که می‌تواند “مضر” باشد.
این شرکت هشدار داد که این مدل همچنان مستعد “توهم کردن” حقایق نادرست است – و می توان آن را برای تولید محتوای فریبنده یا مضر دستکاری کرد.
آلتمن گفت: «چیزی که بیشتر از همه به مردم هشدار می‌دهم، چیزی است که ما آن را مشکل «توهم» می‌نامیم.
او ادامه داد: «این مدل با شهامت چیزهای ساختگی را به گونه‌ای بیان می‌کند که گویی کاملاً واقعی هستند.
نیاز به تقویت امنیت سایبری
آلتمن در طول مصاحبه اذعان کرد که GPT-4 “بی نقص” نیست، اما می تواند کدهای کامپیوتری را در اکثر زبان های برنامه نویسی ایجاد کند و در آزمون Uniform Bar در صدک 90 قبول شود.
از سوی دیگر، آلتمن می‌گوید که نمی‌تواند این واقعیت را نادیده بگیرد که GPT-4 ممکن است به دست افراد سرکشی بیفتد که از قابلیت‌های آن سوء استفاده کنند.
آلتمن به ABC NEWS گفت: «من به ویژه نگران این هستم که این مدل ها برای اطلاعات غلط گسترده مورد استفاده قرار گیرند.
همچنین بخوانید: آینده هوش مصنوعی: همه چیزهایی که باید در مورد GPT-4 بدانید و تاثیر آن بر برنامه هایی مانند ChatGPT
او گفت: “اکنون که در نوشتن کدهای کامپیوتری قوی تر شده اند، می توان از آنها برای حملات سایبری تهاجمی استفاده کرد.”
هوش مصنوعی و مشاغل انسانی
او همچنین به نگرانی گسترده دیگری نیز اشاره کرد: هوش مصنوعی مشاغل انسانی را تحت کنترل درآورد.
آلتمن نسبت به این واقعیت که فناوری در نهایت جایگزین برخی مشاغل خواهد شد، کور نیست و او فکر می‌کند که سریع‌تر از آنچه تصور می‌کنیم اتفاق می‌افتد.
آلتمن گفت: “من معتقدم بشریت در طول چندین قرن نشان داده است که به طرز شگفت انگیزی با تغییرات مهم تکنولوژی سازگار است.” او افزود: «با این حال، اگر این اتفاق در سال‌های تک رقمی رخ دهد، برخی از این جابه‌جایی‌ها… این بخشی است که من بیشتر نگران آن هستم».
همچنین بخوانید: e-Cain و e-Abel: پسر عموی آشفته ChatGPT، DAN-GPT همه قوانین OpenAI در مورد محتوای جنسی و غیرقانونی را زیر پا می گذارد.
خالق OpenAI، گرگ براکمن، این ماه در SXSW گفت که نگرانی از ابزارهای هوش مصنوعی که شغل افراد را به سرقت می‌برند اغراق‌آمیز است و هوش مصنوعی انسان‌ها را آزاد می‌کند تا روی کارهای مهم‌تر تمرکز کنند. وی افزود: “مهمترین عامل قضاوت و درک این است که چه زمانی باید به جزئیات بپردازیم.”
GPT-4 اکنون از طریق ChatGPT برای مشتریان قابل دسترسی است در حالی که کاربران رایگان به استفاده از GPT-3.5 ادامه خواهند داد.
همه را بخوانید آخرین خبرها، اخبار پرطرفدار، اخبار کریکت، اخبار بالیوود،
اخبار هند و اخبار سرگرمی اینجا. ما را در فیسبوک دنبال کنید، توییتر و اینستاگرام
تاریخ به روز رسانی: 21 مارس 2023 08:03:21 IST
