چگونه ChatGPT بازی امنیت سایبری را تغییر می دهد

به گفته Sophos، صنعت امنیت سایبری می تواند از پتانسیل GPT-3 به عنوان خلبان کمکی برای شکست دادن مهاجمان استفاده کند.

آخرین گزارش جزئیات پروژه های توسعه یافته توسط Sophos X-Ops با استفاده از مدل های زبان بزرگ GPT-3 برای ساده سازی جستجوی فعالیت های مخرب در مجموعه داده ها از نرم افزارهای امنیتی، فیلتر کردن دقیق تر هرزنامه ها، و سرعت بخشیدن به تجزیه و تحلیل باینری “زندگی خارج از زمین” (LOLBin) ) حملات.

از زمانی که OpenAI در ماه نوامبر از ChatGPT رونمایی کرد، جامعه امنیتی تا حد زیادی بر خطرات احتمالی این فناوری جدید متمرکز شده است. آیا هوش مصنوعی می‌تواند به مهاجمان wannabee در نوشتن بدافزار کمک کند یا به مجرمان سایبری کمک کند تا ایمیل‌های فیشینگ بسیار قانع‌کننده‌تری بنویسند؟ شاید، اما، در Sophos، مدت‌هاست که هوش مصنوعی را به‌عنوان متحد و نه دشمن مدافعان می‌دانستیم، که آن را به فناوری پایه‌ای برای Sophos تبدیل می‌کند، و GPT-3 تفاوتی ندارد. شان گالاگر، محقق اصلی تهدید، سوفوس، گفت: جامعه امنیتی نه تنها باید به خطرات بالقوه، بلکه به فرصت‌های بالقوه‌ای که GPT-3 به ارمغان می‌آورد، توجه کند.

پتانسیل امنیت سایبری ChatGPT

محققان Sophos X-Ops، از جمله دانشمند داده اصلی SophosAI، Younghoo Lee، روی سه پروژه نمونه کار کرده اند که پتانسیل GPT-3 را به عنوان دستیار مدافعان امنیت سایبری نشان می دهد. هر سه از تکنیکی به نام «آموزش چند شات» برای آموزش مدل هوش مصنوعی تنها با چند نمونه داده استفاده می‌کنند و نیاز به جمع‌آوری حجم زیادی از داده‌های از پیش طبقه‌بندی‌شده را کاهش می‌دهند.

اولین برنامه کاربردی Sophos که با روش یادگیری چند شات آزمایش شد، یک رابط جستجوی زبان طبیعی برای غربال کردن فعالیت های مخرب در نرم افزار امنیتی تله متری بود. Sophos مدل را در برابر محصول تشخیص نقطه پایانی و پاسخ آن آزمایش کرد. با این رابط، مدافعان می توانند از طریق تله متری با دستورات اولیه انگلیسی فیلتر کنند و نیاز مدافعان به درک SQL یا ساختار زیربنایی پایگاه داده را از بین ببرند.

GPT-3 می‌تواند فرآیندهای فشرده خاصی را ساده کند

سپس، Sophos فیلتر هرزنامه جدیدی را با استفاده از ChatGPT آزمایش کرد و دریافت که در مقایسه با سایر مدل‌های یادگیری ماشینی برای فیلتر کردن هرزنامه‌ها، فیلتر با استفاده از GPT-3 به طور قابل توجهی دقیق‌تر است.

سرانجام، محققان Sophos توانستند برنامه ای برای ساده سازی فرآیند مهندسی معکوس خطوط فرمان LOLBins ایجاد کنند. چنین مهندسی معکوس بسیار دشوار است، اما برای درک رفتار LOLBins و توقف آن نوع حملات در آینده بسیار مهم است.

یکی از نگرانی‌های فزاینده در مراکز عملیات امنیتی، میزان زیاد «نویز» است. اعلان‌ها و شناسایی‌های زیادی برای مرتب‌سازی وجود دارد، و بسیاری از شرکت‌ها با منابع محدود سروکار دارند. ما ثابت کرده‌ایم که با چیزی مانند GPT-3، می‌توانیم برخی از فرآیندهای کار فشرده را ساده کنیم و زمان ارزشمندی را به مدافعان بدهیم. ما در حال حاضر در حال کار بر روی ترکیب برخی از نمونه‌های اولیه در محصولات خود هستیم و نتایج تلاش‌های خود را در GitHub خود برای کسانی که علاقه‌مند به آزمایش GPT-3 در محیط‌های تحلیلی خودشان هستند در دسترس قرار داده‌ایم. گالاگر گفت: در آینده، ما معتقدیم که GPT-3 ممکن است به کمک خلبانی استاندارد برای کارشناسان امنیتی تبدیل شود.