تحقیقات Check Point تجزیه و تحلیل امنیتی اولیه ChatGPT4 را انجام می دهد و سناریوهای بالقوه برای جرایم سایبری تسریع شده را برجسته می کند.

نکات برجسته:

Check Point Research (CPR) تجزیه و تحلیل اولیه ChatGPT4 را منتشر می‌کند و پنج سناریو را ارائه می‌کند که می‌تواند به عوامل تهدید اجازه دهد تا تلاش‌ها و آماده‌سازی‌های مخرب را سریع‌تر و با دقت بیشتری ساده‌تر کنند. در برخی موارد، حتی بازیگران غیر فنی نیز می توانند ابزارهای مضر ایجاد کنند. این پنج سناریو جعل هویت بانک‌ها، پوسته‌های معکوس، بدافزار C++ و موارد دیگر را ارائه می‌کردند. علی‌رغم وجود پادمان‌ها در ChatGPT4، برخی از محدودیت‌ها را می‌توان به راحتی دور زد و عوامل تهدید را قادر می‌سازد تا بدون هیچ مانعی به اهداف خود برسند. CPR در مورد پتانسیل ChatGPT4 برای تسریع اجرای جرایم سایبری هشدار می دهد و در روزهای آینده به تجزیه و تحلیل خود از این پلت فرم ادامه خواهد داد.
Check Point Research (CPR) نگاهی اولیه به ChatGPT4 داشته است و سناریوهای مختلفی را پیدا کرده است که به عوامل تهدید اجازه می‌دهد تلاش‌ها و آماده‌سازی‌های مخرب را ساده‌تر کنند و در نتیجه نتایج سریع‌تر و دقیق‌تری برای تسریع جرایم سایبری به دست آورند.
در مواردی خاص، این سناریوها به افراد غیر فنی قدرت می‌دهد تا ابزارهای مضر ایجاد کنند، گویی فرآیند کدگذاری، ساخت و بسته‌بندی یک دستور العمل ساده است. علی‌رغم وجود پادمان‌ها در ChatGPT4، برخی از محدودیت‌ها را می‌توان به راحتی دور زد و عوامل تهدید را قادر می‌سازد تا بدون هیچ مانعی به اهداف خود برسند.

CPR پنج سناریوی استفاده مخرب بالقوه از ChatGPT4 را به اشتراک می گذارد.

1. بدافزار C++ که فایل های PDF را جمع آوری کرده و به FTP می فرستد
2. فیشینگ: جعل هویت یک بانک
3. فیشینگ: ایمیل به کارمندان
4. PHP Reverse Shell
5. برنامه جاوا که بتونه را دانلود و اجرا می کند که می تواند به عنوان پاورشل مخفی راه اندازی شود

غواصی عمیق در 5 سناریو:

سناریوها:

1. بدافزار C++ که فایل های PDF را جمع آوری کرده و به FTP می فرستد (آدرس 1.1.1.1)

رویکرد آشکار – مسدود شده است

کلمه “بدافزار” را حذف کنید

دستورالعمل تالیف:

باینری را حذف کنید:

بسته بندی باینری:

2. فیشینگ – سناریو 1

رویکرد آشکار – مسدود شده است

دور زدن با استفاده از Chat-GPT 3.5

حالا از نسخه 4 استفاده کنید:

3. فیشینگ – سناریو 2

4. PHP Reverse Shell

5. این بازیگر ایجاد شده با استفاده از ChatGPT یک قطعه ساده جاوا است. PuTTY، یک کلاینت بسیار رایج SSH و telnet را دانلود می کند و به طور مخفیانه روی سیستم با استفاده از Powershell اجرا می کند. البته می توان این اسکریپت را برای دانلود و اجرای هر برنامه ای از جمله خانواده بدافزارهای رایج تغییر داد.

اکنون با Chat GPT:

نسخه واضح – مسدود شده است

کلمه “مخفی” (مربوط به PowerShell) را حذف کنید:

حالا دوباره آن را اضافه کنید:

نتیجه:

پس از یافتن چندین روش که از طریق آن ChatGPT می تواند توسط هکرها استفاده شود، و موارد واقعی که در آن وجود داشت، محققان ما 24 ساعت گذشته را صرف کردند تا ببینند آیا چیزی با جدیدترین نسخه ChatGPT تغییر کرده است یا خیر. در حالی که پلتفرم جدید به وضوح در بسیاری از سطوح بهبود یافته است، اما می‌توانیم گزارش دهیم که سناریوهای بالقوه‌ای وجود دارد که در آن بازیگران بد می‌توانند جرایم سایبری را در ChatGPT4 تسریع کنند. ChatGPT4 می‌تواند بازیگران بد، حتی غیرفنی، را با ابزارهایی برای سرعت بخشیدن و اعتبارسنجی فعالیت‌هایشان توانمند کند. بازیگران بد همچنین می توانند از پاسخ های سریع ChatGPT4 برای غلبه بر چالش های فنی در توسعه بدافزار استفاده کنند. چیزی که می بینیم این است که ChatGPT4 می تواند در خدمت بازیگران خوب و بد باشد. بازیگران خوب می توانند از ChatGPT برای ایجاد و بخیه کدهایی استفاده کنند که برای جامعه مفید است. اما به طور همزمان، بازیگران بد می توانند از این فناوری هوش مصنوعی برای اجرای سریع جرایم سایبری استفاده کنند. از آنجایی که هوش مصنوعی نقش مهم و رو به رشدی در حملات سایبری و دفاع ایفا می کند، انتظار داریم این پلتفرم توسط هکرها نیز مورد استفاده قرار گیرد و روزهای آینده را برای درک بهتر چگونگی آن صرف خواهیم کرد.

گزارش های قبلی CPR در ChatGPT:

1. مجرمان سایبری محدودیت‌های ChatGPT را برای تولید محتوای مخرب دور می‌زنند (7 فوریه 2023)
2. OPWNAI: مجرمان سایبری شروع به استفاده از CHATGPT کردند (6 ژانویه 2023)