یوروپل در مورد استفاده مجرمانه از ChatGPT هشدار می دهد، چشم انداز تیره ای را می بیند

بروکسل، 27 مارس (رویترز) – نیروی پلیس اتحادیه اروپا یوروپل روز دوشنبه در مورد سوء استفاده احتمالی از ربات چت مبتنی بر هوش مصنوعی ChatGPT در تلاش‌های فیشینگ، اطلاعات نادرست و جرایم سایبری هشدار داد و به نگرانی‌های مختلف از مسائل حقوقی تا اخلاقی افزود.

از زمان انتشار در سال گذشته، ChatGPT OpenAI تحت حمایت مایکروسافت، یک شوق فناوری به راه انداخته است، و رقبا را وادار به راه اندازی محصولات مشابه و شرکت ها برای ادغام آن یا فناوری های مشابه در برنامه ها و محصولات خود کرده است.

یوروپل هنگام ارائه اولین گزارش فنی خود که با چت بات شروع می شود، گفت: «از آنجایی که قابلیت های LLM (مدل های زبان بزرگ) مانند ChatGPT به طور فعال در حال بهبود است، بهره برداری بالقوه از این نوع سیستم های هوش مصنوعی توسط مجرمان، چشم انداز بدی را ارائه می دهد.

استفاده مضر از ChatGPT در سه زمینه جرم و جنایت را مشخص کرد.

یوروپل گفت: «توانایی ChatGPT در پیش‌نویس متن بسیار واقعی، آن را به ابزاری مفید برای مقاصد فیشینگ تبدیل می‌کند.

آژانس اجرای اتحادیه اروپا گفت، این ربات چت با توانایی خود در بازتولید الگوهای زبانی برای جعل کردن سبک گفتار افراد یا گروه‌های خاص، می‌تواند توسط مجرمان برای هدف قرار دادن قربانیان استفاده شود.

همچنین می‌گوید توانایی ChatGPT برای تولید متن معتبر با سرعت و مقیاس نیز آن را به ابزاری ایده‌آل برای تبلیغات و اطلاعات نادرست تبدیل می‌کند.

“این به کاربران اجازه می دهد تا با تلاش نسبتا کمی پیام هایی را که منعکس کننده یک روایت خاص هستند تولید و پخش کنند.”

یوروپل گفت، مجرمانی که دانش فنی کمی دارند می توانند برای تولید کدهای مخرب به ChatGPT مراجعه کنند.

گزارش توسط Foo Yun Chee; ویرایش توسط انگوس مک سوان

استانداردهای ما: اصول اعتماد تامسون رویترز.