در حالی که توانایی ChatGPT برای ایجاد پاسخ‌های انسان‌مانند به طور گسترده مورد تحسین قرار گرفته است، اما بزرگترین خطر را برای مشاغل به همراه دارد.
جاناتان جکسون، مدیر مهندسی آسیا-اقیانوسیه بلک بری، گفت: همانطور که هست، ابزار هوش مصنوعی (AI) در حال حاضر برای تقویت حملات فیشینگ استفاده می شود.
او با اشاره به فعالیت‌های مشاهده شده در انجمن‌های زیرزمینی، گفت که نشانه‌هایی وجود دارد که هکرها از ChatGPT OpenAI و سایر ربات‌های گفتگوی مبتنی بر هوش مصنوعی برای بهبود حملات جعل هویت استفاده می‌کنند. جکسون در یک مصاحبه ویدیویی با ZDNET گفت که آنها همچنین برای تقویت دیپ‌فیک‌ها و انتشار اطلاعات نادرست استفاده می‌شدند و افزود که فروم‌های هکرها خدماتی را برای استفاده از ChatGPT برای اهداف پلید ارائه می‌دهند.
در یادداشتی که ماه گذشته منتشر شد، مدیر گروه اطلاعات تهدید Check Point Technologies نیز اشاره کرد که نشانه‌هایی حاکی از استفاده از ChatGPT در بین مجرمان سایبری برای سرعت بخشیدن به کدنویسی آنها است. در یک نمونه، فروشنده امنیتی اشاره کرد که از این ابزار برای تکمیل موفقیت آمیز یک جریان عفونت استفاده شده است که شامل ایجاد یک ایمیل فیشینگ نیزه ای متقاعد کننده و یک پوسته ذخیره است که می تواند دستورات را به زبان انگلیسی بپذیرد.
در حالی که کدهای حمله توسعه‌یافته تا کنون نسبتاً ابتدایی باقی مانده‌اند، شیکویچ می‌گوید که این که عوامل تهدید پیچیده‌تر روش استفاده از چنین ابزارهای مبتنی بر هوش مصنوعی را بهبود بخشند، صرفاً مسئله زمان است.
سامی میگس، دانشمند اصلی گروه یکپارچگی نرم‌افزار Synopsys، در پیش‌بینی‌های خود در سال 2023 نوشت: برخی از «عوارض جانبی» از فناوری‌هایی که دیپ‌فیک‌ها و ChatGPT را تقویت می‌کنند، پدیدار خواهند شد. افرادی که به مشاوره تخصصی یا پشتیبانی فنی در مورد نحوه پیکربندی یک دستگاه امنیتی جدید نیاز دارند، می توانند به ChatGPT مراجعه کنند. آنها همچنین می‌توانند ابزار هوش مصنوعی برای نوشتن ماژول‌های رمزنگاری یا اجرای سال‌ها داده‌های گزارش برای ایجاد بررسی بودجه داشته باشند.
میگس گفت: “احتمالات بی پایان هستند.” “مطمئنا، هوش مصنوعی فقط یک خودکار بی فکر است که چیزهایی را که مونتاژ کرده است پرتاب می کند، اما در نگاه اول می تواند بسیار قانع کننده باشد.”
برای مبارزه با هوش مصنوعی ضربه بزنید
جکسون خاطرنشان کرد که ظهور برنامه های کاربردی هوش مصنوعی مانند ChatGPT تغییر قابل توجهی در چشم انداز سایبری ایجاد می کند. او گفت، پس ابزارهای امنیتی و دفاع سایبری باید بتوانند تهدیدهای جدیدی را که در نتیجه مدل‌های زبانی بزرگی که این برنامه‌ها بر اساس آنها ساخته شده‌اند، شناسایی کنند.
این موضوع از آنجایی که کسب و کارها انتظار دارند چنین خطراتی به زودی رخ دهد، مناسب است.
بر اساس مطالعه اخیر بلک بری که از 500 پاسخ دهنده در این کشور مورد نظرسنجی قرار گرفت، در استرالیا، 84 درصد از تصمیم گیرندگان فناوری اطلاعات درباره تهدیدات بالقوه ای که هوش مصنوعی و مدل های زبان بزرگ می تواند ایجاد کند، ابراز نگرانی کردند.
بزرگترین نگرانی، در میان نیمی از پاسخ دهندگان، این بود که این فناوری می تواند به هکرهای با تجربه کمتر کمک کند تا دانش خود را بهبود بخشند و مهارت های تخصصی تری را توسعه دهند.
48 درصد دیگر نگران توانایی ChatGPT برای تولید پیام‌های ایمیل فیشینگ معتبرتر و قانونی‌تر بودند، هرچند، 36 درصد کمتر پتانسیل آن را برای تسریع حملات مهندسی اجتماعی دیدند.
حدود 46 درصد در مورد استفاده از آن برای انتشار اطلاعات نادرست یا نادرست نگران بودند، و 67 درصد معتقد بودند که احتمالاً کشورهای خارجی قبلاً از ChatGPT برای اهداف مخرب استفاده می کردند.
بیش از نیمی از 53 درصد پیش بینی کردند که صنعت کمتر از یک سال با اولین حمله سایبری موفقیت آمیز با فناوری هوش مصنوعی فاصله دارد، در حالی که 26 درصد گفتند که این اتفاق بین یک تا دو سال خواهد افتاد و 12 درصد گفتند که طول می کشد. سه تا پنج سال
و در حالی که 32 درصد احساس می کردند که این فناوری نه امنیت سایبری را بهبود می بخشد و نه بدتر می کند، 24 درصد معتقد بودند که چشم انداز تهدید را تشدید می کند. از سوی دیگر، 40 درصد گفتند که می تواند به بهبود امنیت سایبری کمک کند.
حدود 90 درصد از پاسخ دهندگان استرالیایی بر این باور بودند که دولت ها مسئولیت تنظیم فناوری های پیشرفته مانند ChatGPT را دارند. 40 درصد دیگر احساس کردند که ابزارهای امنیت سایبری در حال حاضر از نوآوری در جرایم سایبری عقب مانده اند و 30 درصد نیز خاطرنشان کردند که مجرمان سایبری بیشترین سود را از ChatGPT خواهند برد.
با این حال، حدود 60٪ گفتند که این فناوری بیشترین سود را برای محققان خواهد داشت، در حالی که 56٪ معتقد بودند که حرفه های امنیتی می توانند بیشترین سود را از آن ببرند.
حدود 85 درصد قصد داشتند در دو سال آینده روی ابزارهای امنیت سایبری مبتنی بر هوش مصنوعی سرمایه گذاری کنند.
با این حال، استفاده از هوش مصنوعی و اتوماسیون در هر دو طرف برای راه اندازی و همچنین دفاع در برابر حملات سایبری به دور از تازگی است. خب حالا چرا هیاهو؟
جکسون اذعان کرد که هوش مصنوعی برای سال‌ها در دفاع سایبری مورد استفاده قرار گرفته است، اما خاطرنشان کرد که ویژگی منحصر به فرد ChatGPT و سایر ابزارهای مشابه، توانایی آنها در تبدیل مفاهیم ذاتاً پیچیده، مانند زبان‌های کدنویسی، به چیزی است که همه می‌توانند آن را بفهمند.
چنین ابزارهایی بر روی مدل‌های زبانی بزرگی اجرا می‌شدند که مبتنی بر مقادیر عظیمی از مجموعه داده‌های تجاری متنی و مدیریت‌شده بودند. او خاطرنشان کرد: «در موارد خاص بسیار قدرتمند است. “ChatGPT یک منبع فوق العاده قدرتمند برای هر کسی است [who wants] برای ایجاد کدهای خوب یا، در این مورد، کدهای مخرب، مانند اسکریپت هایی برای دور زدن دفاع شبکه.”
همچنین می‌توان از آن برای خراش دادن پروفایل رسانه‌های اجتماعی افراد خاص برای ایجاد و جعل هویت آنها برای حملات فیشینگ نیزه استفاده کرد.
وی با بیان اینکه بیشترین تاثیر بر روی مهندسی اجتماعی و جعل هویت است، افزود که ابزارهایی مانند ChatGPT برای بهبود کمپین های فیشینگ استفاده خواهد شد.
با ظهور مدل های زبانی بزرگ، او بر نیاز به تجدید نظر در رویکردهای سنتی دفاع سایبری و داده تاکید کرد. او به اهمیت بهره برداری از هوش مصنوعی و یادگیری ماشینی برای مبارزه با حملات مبتنی بر هوش مصنوعی اشاره کرد.
به گفته او، سرمایه‌گذاری روی هوش مصنوعی و قابلیت‌های یادگیری ماشینی به سازمان‌ها کمک می‌کند تا تهدیدات بالقوه را سریع‌تر شناسایی کنند، که این مهم است. استفاده از انسان دیگر واقع بینانه نیست و در چند سال گذشته چنین نبوده است.
جکسون خاطرنشان کرد که بلک بری روی الگوریتم مورد نیاز برای آموزش مدل‌ها در شناسایی تغییرات در تکنیک‌های حمله و مسدود کردن محتوای مخربی که به نظر می‌رسد توسط مدل‌های زبان بزرگ تولید می‌شوند، کار می‌کند. او اضافه کرد که حجم و سرعت کلید خواهد بود، بنابراین می‌تواند با حملات احتمالی همراه باشد، حتی در حالی که ChatGPT و ابزارهای مشابه همچنان در حال تکامل هستند.
وی همچنین تاکید کرد که این برنامه ها تاثیر مثبتی بر صنعت نیز داشته است. به عنوان مثال، بلک بری از ChatGPT برای شکار تهدیدات پیشرفته استفاده می کند، از قابلیت کدگذاری آن برای هضم و تجزیه و تحلیل اسکریپت های پیچیده استفاده می کند، بنابراین می تواند نحوه عملکرد آنها را مطالعه کرده و تاکتیک های دفاعی خود را تقویت کند.
