از زمان رونمایی در نوامبر 2022، ChatGPT هوش مصنوعی را در قوی ترین موقعیت خود در فضای فناوری قرار داده است.
با این حال، از قابلیتهایی که این ابزارهای هوش مصنوعی ارائه میکنند، نمیتوان از همه آنها استفاده مثبت کرد. اینجاست که هوش مصنوعی متخاصم وارد میشود و ممکن است تهدیدی مهم برای امنیت سایبری باشد.
“در صنعت، ما در مورد چیزهایی صحبت کرده ایم مایکل سنتوناس (تصویر)، رئیس CrowdStrike Inc، گفت: مانند هوش مصنوعی متخاصم برای مدتی طولانی. “آیا ممکن است سناریویی وجود داشته باشد که در آن دشمنان از هوش مصنوعی استفاده کنند برای ایجاد بدافزار بسیار سریع و بسیار ارزان، بدین ترتیب کاهش هزینه و پیچیدگی؟ مردم درباره هوش مصنوعی خصمانه صحبت کرده اند می تواند به طور موثر دور بزند بسیاری از اقدامات متقابلی که ما استفاده می کنیم.»
سنتوناس با دیو ولانته، تحلیلگر صنعت theCUBE در این نمایشگاه صحبت کرد کنفرانس RSA، طی یک پخش انحصاری در CUBE، استودیوی پخش زنده SiliconANGLE Media. آنها در مورد تهدیدات جدید امنیت سایبری برای شرکت و اینکه چگونه ابزارهای هوش مصنوعی می توانند آنها را تسهیل کنند، بحث کردند. (* افشای زیر.)
دفاع در برابر این آسیب پذیری جدید: دیدگاه CrowdStrike
وظیفه اصلی مدافعان امنیت سایبری این است که جلوتر از دشمن فکر کنند و به طور فعال نقاط ورودی را که با توجه به قابلیت های موجود می توانند از آنها سوء استفاده کنند، استدلال کنند. به گفته سنتوناس، هوش مصنوعی این کار را بسیار دشوارتر کرده است.
از دیدگاه هوش مصنوعی مولد، یکی از چیزهایی که باعث نگرانی من می شود این است فرصتی برای مهاجمان برای ایجاد سریع بدافزار که مدام در حال تغییر است و به صورت پویا در حال تکامل است. «تیبه هر حال، آنها می توانند هر گونه حفاظتی را دور بزنند، به ویژه آن ها که در درجه اول مبتنی هستند روی فناوری امضا.»
این روند مخصوصاً به این دلیل است که شرکت های امنیت سایبری اغلب از هوش مصنوعی برای انجام کار خود استفاده می کنند. به گفته سنتوناس، در پاسخ، CrowdStrike اقداماتی را برای جلوگیری از تبدیل شدن همان قابلیتها به آسیبپذیری اعمال کرده است.
از دیدگاه CrowdStrike، ما از هوش مصنوعی خود استفاده می کنیم الگوهایی برای دفاع در برابر دشمنان، اما ما همچنین دارای قابلیت های داخلی هستیم برای جلوگیری از سوء استفاده و مطمئن شوید که آنها نمی توانند قربانی بسیاری از مهاجمان شوند. “دلیل اصلی اینکه ما تعدادی مدل مختلف داریم که به طور همزمان استفاده می کنیم این است که شما حتی یک نقطه شکست نداشته باشید.
از جنبه مثبت، مدلهای زبان بزرگ بر فرآیندهایی مانند شکار تهدید و کشف تأثیر میگذارند. سنتوناس اضافه کرد که صنعت فقط باید موانع مهارتی موجود را کاهش دهد تا دست بیشتری در مبارزه با تهدیدات امنیت سایبری باشد.
«زبان طبیعی جستجو می کند که ما می توانیم در محصولات خود بسازیمانجام کارهایی مانند شکار تهدید و انجام آن آسان تر است عبور اطلاعات تهدید، که می تواند تا حدودی پیچیده باشد. “ما فقط باید سد را کاهش دهیم تا مردم را جذب کنیم برای تبدیل شدن به متخصصان امنیت سایبری بهتر.”
نکته مهم دیگر نقش عنصر انسانی در حملات موفقیت آمیز است. سنتوناس افزود، دشمنان صبور هستند و بخشی از استراتژی آنها شامل نظارت بر یک هدف برای مدت طولانی و ایجاد رابطه ای است که می توانند از آن برای مثال برای به دست آوردن اعتبار دسترسی استفاده کنند.
«یک دسته کامل از حملات وجود دارد که شامل مهندسی اجتماعی است. “آنها شامل پروفایل کردن هدف هستند. من آنلاین با شما دوست شدم، با شما ارتباط برقرار می کنم و با شما صحبت می کنم. بعد از چند ساعت، هفته یا ماه، من از شما می خواهم که چیزی را روی دستگاه خود اجرا کنید. پمردم باید این را بفهمند یک عنصر انسانی عظیم در این وجود دارد.»
در اینجا مصاحبه ویدیویی کامل، بخشی از پوشش SiliconANGLE و theCUBE در مورد کنفرانس RSA:
(* افشا: این یک بخش سرمقاله بدون حمایت است. با این حال، theCUBE یک شریک رسانه ای پولی برای کنفرانس RSA است. حامیان پوشش رویداد theCUBE کنترل تحریریه ای بر محتوای CUBE یا SiliconANGLE ندارند.)
عکس: SiliconANGLE
رای حمایت شما برای ما مهم است و به ما کمک می کند محتوا را رایگان نگه داریم.
با یک کلیک زیر از ماموریت ما برای ارائه محتوای رایگان، عمیق و مرتبط پشتیبانی می کند.
به انجمن ما در یوتیوب بپیوندید
به انجمنی بپیوندید که شامل بیش از 15000 کارشناس #CubeAlumni، از جمله اندی جاسی، مدیرعامل Amazon.com، مایکل دل بنیانگذار و مدیرعامل Dell Technologies، پت گلسینگر، مدیر عامل اینتل و بسیاری از افراد برجسته و متخصص دیگر است.
متشکرم