ChatGPT موفق شده است چیزهای سرگرم کننده و خنده دار را در دستان درست ایجاد کند، مانند این Big Mouth بیلی باس پروژه با این حال، جنبه بسیار تاریک تری از هوش مصنوعی وجود دارد که می تواند برای ایجاد برخی مشکلات جدی پیچیده برای آینده فناوری اطلاعات مورد استفاده قرار گیرد. تعدادی از کارشناسان فناوری اطلاعات اخیراً پتانسیل خطرناک ChatGPT و توانایی آن در ایجاد بدافزار چند شکلی را تشریح کرده اند که تشخیص آن با استفاده از تشخیص و پاسخ نقطه پایانی (EDR) تقریباً غیرممکن است.
EDR نوعی تکنیک امنیت سایبری است که می تواند برای دستگیری نرم افزارهای مخرب استفاده شود. با این حال، کارشناسان پیشنهاد می کنند که این پروتکل سنتی با آسیب احتمالی که ChatGPT می تواند ایجاد کند، مطابقت ندارد. کدهایی که می توانند جهش پیدا کنند – اینجاست که اصطلاح چند شکلی به کار می رود – تشخیص آن بسیار سخت تر است.
بیشتر مدل‌های یادگیری زبان (LLM) مانند ChatGPT با فیلترهایی طراحی شده‌اند تا از تولید محتوای نامناسب که توسط سازندگان آنها تصور می‌شود، جلوگیری کنند. این می تواند از موضوعات خاص تا، در این مورد، کدهای مخرب باشد. با این حال، طولی نکشید که کاربران راهی برای دور زدن این فیلترها پیدا کردند. این تاکتیک است که ChatGPT را در برابر افرادی که به دنبال ایجاد اسکریپت های مضر هستند آسیب پذیر می کند.
جف سیمز یک مهندس امنیت با HYAS InfoSec است، شرکتی که بر امنیت فناوری اطلاعات تمرکز دارد. در ماه مارس، سیمز کاغذ سفیدی را منتشر کرد که جزئیات پروژه اثبات مفهومی را که او نامیده بود، منتشر کرد مامبای سیاه. این برنامه یک نوع کی لاگر چند شکلی است که هر بار که اجرا می شود با استفاده از یک API درخواست ها را به ChatGPT ارسال می کند.
سیمز توضیح می‌دهد: «با استفاده از این تکنیک‌های جدید، یک عامل تهدید می‌تواند مجموعه‌ای از رفتارهای معمولاً بسیار قابل تشخیص را در ترکیبی غیرعادی ترکیب کند و با سوءاستفاده از ناتوانی مدل در تشخیص آن به‌عنوان یک الگوی مخرب، از شناسایی فرار کند.
یکی دیگر از شرکت های امنیت سایبری، CyberArk، اخیراً توانایی ChatGPT برای ایجاد این نوع بدافزار چند شکلی را در یک پست وبلاگی توسط Eran Shimony و Omer Tsarfati نشان داد. در این پست، آنها توضیح می‌دهند که چگونه تزریق کد از درخواست‌های ChatGPT امکان اصلاح اسکریپت‌ها را پس از فعال‌سازی، اجتناب از تکنیک‌های مدرن‌تر مورد استفاده برای شناسایی رفتارهای مخرب، ممکن می‌سازد.
در حال حاضر، ما فقط این نمونه‌ها را به‌عنوان اثبات مفهوم در اختیار داریم – اما امیدواریم این آگاهی منجر به پیشرفت‌های بیشتری برای جلوگیری از آسیب‌هایی که این نوع کدهای جهش‌یافته می‌تواند در یک محیط واقعی ایجاد کند، شود.
