JUST IN: مقام برتر هوش مصنوعی پنتاگون به مزایای احتمالی و خطرات ChatGPT می پردازد
تصویر iStock
هونولولو، هاوایی – کارشناس هوش مصنوعی وزارت دفاع گفت که چت ربات جدید ChatGPT که جهان را طوفانی می کند می تواند هم موهبتی برای امنیت ملی باشد و هم باعث نگرانی شود.
کیمبرلی سابلون، مدیر اصلی هوش مصنوعی مورد اعتماد و استقلال در دفتر معاونت تحقیقات و مهندسی وزارت دفاع، گفت: «خوب زیادی در این زمینه وجود دارد که چگونه می‌توانیم از مدل‌های زبان بزرگی مانند آن برای ایجاد اختلال در عملکردهای حیاتی در سراسر بخش استفاده کنیم. ، در 7 مارس در کنفرانس علوم و فناوری عملیاتی اقیانوس آرام در هاوایی گفت.
ChatGPT یک چت بات اولیه با قابلیت هوش مصنوعی است که توسط OpenAI مستقر در سانفرانسیسکو توسعه یافته و در ماه نوامبر منتشر شد. از تکنیک های یادگیری ماشینی استفاده می کند تا به سرعت پاسخ هایی را برای پرسش ها در مقابل چشمان کاربرانش ایجاد کند.
سابلون تصدیق کرد که چت بات «گفتگوی شهر» است. او در کنفرانسی که توسط انجمن صنایع دفاع ملی و فرماندهی هند و اقیانوسیه ایالات متحده سازماندهی شد، گفت که می توان از آن برای تجزیه و تحلیل اطلاعاتی یا برای تولید کد رایانه ای استفاده کرد.
ما برای جذب کدگذاران به دفاع مدت‌ها تلاش کرده‌ایم [Department]. او گفت که من فکر می کنم این فرصتی است برای سرعت بخشیدن به توسعه نرم افزار مبتنی بر نظامی.
او افزود: «اما تهدیدهای مهم زیادی به همراه دارد که ما باید مراقب آنها باشیم.
او گفت، همچنین می‌تواند برای تولید کدهای مخرب و ایمیل‌های فیشینگ پیچیده‌تر، و همچنین کمپین‌های اطلاعات نادرست و اطلاعات نادرست و جعلی‌های عمیق استفاده شود.
او گفت: «ما راه‌های زیادی را دیده‌ایم که از این چیز برای دستکاری رسانه‌های اجتماعی استفاده شده است.
مدل های زبان بزرگ مانند ChatGPT نیز مستعد اشتباه گرفتن حقایق خود هستند، یا آنچه سابلون آن را “توهم” می نامد. او گفت که با رفع این نگرانی ها، چنین چت ربات ها می توانند به ساده سازی بسیاری از فرآیندها و عملیات های تجاری وزارت دفاع کمک کنند.
سابلون خاطرنشان کرد که پنتاگون گام های خود را در حوزه یادگیری تقویتی برداشته است. آژانس پروژه‌های تحقیقاتی پیشرفته دفاعی از تکنیک‌های مشابه یادگیری ماشینی در برنامه تکامل نبرد هوایی خود استفاده کرد تا یک خلبان تولید شده توسط هوش مصنوعی را در برابر خلبان انسانی در یک جنگ سگی قرار دهد.
او گفت: «رویدادهایی مانند این نمونه‌های بزرگی از پیشرفت‌هایی هستند که ما شروع به دیدن آنها در این فضا کرده‌ایم، و من مطمئن هستم که چیزهای بیشتری در راه است.
جان ریج، مدیر نوآوری دفاعی وزارت دفاع بریتانیا، قبلاً در کنفرانس گفت که اخیراً از او درباره ChatGPT سؤال می شود، به ویژه در مورد اینکه آیا می توان آن را – یا چیزی شبیه به آن – برای استفاده رسمی تأیید کرد.
او گفت: «چالش‌های سیاستی واقعاً دشواری در اطراف آن وجود دارد.
تنها چیزی که ما به طور قطع می دانیم این است که این نوع قابلیت ها کاملاً حیاتی خواهند بود. و هرکسی که بهترین قابلیت‌های نوع ChatGPT را داشته باشد، به دلایل زیادی غالب خواهد بود.»
موضوعات: Infotech, Robotics and Autonomous Systems, Robotics
