توسط Jack Aldane در 11/05/2023 | به روز شده در 11/05/2023
کریگ مارتل، افسر ارشد دیجیتال و هوش مصنوعی وزارت دفاع ایالات متحده گفت که از پتانسیل سیستم های هوش مصنوعی مولد مانند ChatGPT برای فریب دادن شهروندان و تهدید امنیت ملی “تا حد مرگ” می ترسد.
مارتل، که ریاست دفتر ارشد هوش مصنوعی و دیجیتالی را بر عهده دارد، در سخنرانی در 3 می در کنفرانس TechNet سایبری انجمن ارتباطات و الکترونیک نیروهای مسلح (AFCEA) در بالتیمور، گفت که توانایی ChatGPT در ساخت محتوای قابل قبول مانند مقالات دانشگاهی به این معناست. می تواند شهروندان را گمراه کند.
“ترس من این است که ما بیش از حد به آن بدون ارائه دهندگان اعتماد داریم [a service] او گفت که پادمان‌های مناسب و توانایی ما برای اعتبارسنجی اطلاعات را در آن ایجاد کنیم.
من تا حد مرگ می ترسم. این نظر من است.»
مارتل گفت که کمپین های ایجاد شده توسط هوش مصنوعی می تواند برای تأثیرگذاری بر آمریکایی ها مورد استفاده قرار گیرد، و تأکید کرد که استفاده از ChatGPT تا به امروز نشان می دهد که چگونه می توان از آن برای تسهیل اطلاعات نادرست در مقیاس استفاده کرد.
“[ChatGPT] آموزش دیده است تا خود را به شیوه ای روان بیان کند. روان و مقتدرانه صحبت می کند. بنابراین، شما آن را باور می‌کنید حتی زمانی که اشتباه است… و این بدان معناست که ابزاری عالی برای اطلاعات نادرست است.» او گفت.
ما واقعاً به ابزارهایی نیاز داریم تا بتوانیم زمان وقوع آن را تشخیص دهیم و بتوانیم هنگام وقوع آن هشدار دهیم. و ما آن ابزارها را نداریم. ما در این مبارزه عقب هستیم.»
بیشتر بخوانید: به کارمندان دولت بریتانیا گفته شد که در مورد استفاده از ربات چت هوش مصنوعی احتیاط کنند
استفاده از ChatGPT برای بهترین مزیت
مارتل سال گذشته پس از تجربه طولانی در بخش خصوصی و هدایت یادگیری ماشینی در شرکت هایی مانند سرویس سواری Lyft و سرویس میزبانی فایل Dropbox، موقعیت فعلی خود را در پنتاگون به عهده گرفت.
ترس مارتل توسط همه پرسنل دفاع تکرار نشد. ژنرال رابرت اسکینر، مدیر آژانس سیستم های اطلاعات دفاعی ایالات متحده (DISA)، یک روز قبل از مارتل در کنفرانس AFCEA سخنرانی کرد و از هوش مصنوعی مولد برای شبیه سازی صدای خود در ابتدای سخنرانی اصلی خود استفاده کرد.
اسکینر گفت که او پتانسیل آسیب رساندن به مدل‌های هوش مصنوعی را به عنوان یک «چالش» می‌داند که باید توسط آژانس‌هایی که می‌توانستند با تبدیل این مدل‌ها به نفع خود، با آن مواجه شوند.
«کسانی که مهار می کنند [generative AI] و می‌تواند بفهمد که چگونه می‌توان از آن به بهترین شکل استفاده کرد، اما همچنین چگونه می‌توان به بهترین نحو در برابر آن محافظت کرد، کسانی هستند که موقعیت بالایی دارند.»
در همان هفته ای که کنفرانس، معاون رئیس جمهور ایالات متحده، کامالا هریس، با مدیران عامل شرکت های فناوری آلفابت (مالک گوگل)، آنتروپیک (یک شرکت تحقیقاتی و ایمنی هوش مصنوعی)، مایکروسافت و OpenAI دیدار کرد تا درباره نقش دولت در کمک به بخش خصوصی بحث و گفتگو کند. خطرات پیرامون هوش مصنوعی را کاهش دهید.
این نشست با برنامه دولت بایدن برای اجرای مجموعه ای از ابتکارات با هدف قرار دادن شهروندان در اولویت پیشرفت فناوری های هوش مصنوعی همراه است. کلید اهداف آن برنامه ای برای سرمایه گذاری 140 میلیون دلاری در هفت موسسه تحقیقاتی جدید هوش مصنوعی است. طی ماه‌های آینده، دفتر مدیریت و بودجه (OMB) همچنین در حال برنامه‌ریزی است تا راهنمایی‌هایی را برای سازمان‌های فدرال در مورد بهترین روش استفاده از ابزارهای هوش مصنوعی صادر کند.
در سال 2022، جو بایدن، رئیس‌جمهور ایالات متحده، برنامه‌های خود را برای ایجاد منشور حقوق هوش مصنوعی برای محافظت از شهروندان در برابر سیستم‌های خودکار «که حقوق مردم آمریکا را تهدید می‌کند» اعلام کرد.
بایدن در آوریل امسال گفت که هوش مصنوعی می‌تواند نقش مهمی در مقابله با بیماری‌ها و تغییرات آب و هوایی ایفا کند، هرچند به نگرانی‌هایی درباره چالشی که هم امنیت ملی و هم ثبات اقتصادی را ایجاد می‌کند، اشاره کرد.
بیشتر بخوانید: رئیس جمهور بایدن طرح منشور حقوق هوش مصنوعی را تنظیم می کند
می خواهید برای GGF بنویسید؟ ما همیشه به دنبال شنیدن آخرین تحولات در سازمانشان از کارمندان دولتی و دولتی هستیم – لطفاً با زیر تماس بگیرید یا ایمیل بزنید. [email protected]
