هوش مصنوعی مولد در حال تغییر امنیت سایبری است و به مهاجمان و مدافعان کمک می کند. مجرمان سایبری از هوش مصنوعی برای انجام حملات پیچیده و جدید در مقیاس بزرگ استفاده می کنند. کریستوفر آلبرگ، مدیر عامل پلتفرم اطلاعات تهدید Recorded Future گفت و مدافعان از همان فناوری برای محافظت از زیرساخت های حیاتی، سازمان های دولتی و شبکه های شرکتی استفاده می کنند.
هوش مصنوعی مولد به بازیگران بد کمک کرده است تا استراتژی‌های حمله جدید را نوآوری کرده و توسعه دهند و آنها را قادر می‌سازد تا یک قدم جلوتر از دفاع امنیت سایبری باقی بمانند. هوش مصنوعی به مجرمان سایبری کمک می کند حملات را خودکار کنند، سطوح حمله را اسکن کنند و محتوایی تولید کنند که با مناطق جغرافیایی و جمعیتی مختلف طنین انداز شود و به آنها امکان می دهد طیف وسیع تری از قربانیان احتمالی را در کشورهای مختلف هدف قرار دهند. مجرمان سایبری این فناوری را برای ایجاد ایمیل های فیشینگ قانع کننده به کار گرفتند. متن تولید شده توسط هوش مصنوعی به مهاجمان کمک می کند تا ایمیل ها و پیام های متنی بسیار شخصی سازی شده ای را تولید کنند که احتمال فریب دادن اهداف را افزایش می دهد.
“من فکر می کنم لازم نیست خیلی خلاقانه فکر کنید تا متوجه شوید که، مرد، این واقعا می تواند کمک کند [cybercriminals] اهلبرگ گفت: نویسنده باشید که این یک مشکل است.
همچنین: هوش مصنوعی می تواند 25 درصد از تمام مشاغل را خودکار کند. در اینجا بیشتر (و کمترین) در معرض خطر هستند
مدافعان از هوش مصنوعی برای دفع حملات استفاده می کنند. سازمان ها از این فناوری برای جلوگیری از نشت و یافتن آسیب پذیری های شبکه به طور فعال استفاده می کنند. همچنین به صورت پویا وظایفی مانند تنظیم هشدار برای کلمات کلیدی خاص و شناسایی اطلاعات حساس آنلاین را خودکار می کند. شکارچیان تهدید از هوش مصنوعی برای شناسایی الگوهای غیرمعمول و خلاصه کردن مقادیر زیادی از داده ها استفاده می کنند و نقاط را بین منابع متعدد اطلاعات و الگوهای پنهان به هم متصل می کنند.
این کار همچنان به متخصصان انسانی نیاز دارد، اما آلبرگ می‌گوید فناوری هوش مصنوعی مولد که در پروژه‌هایی مانند ChatGPT می‌بینیم می‌تواند کمک کند.
ما می خواهیم چرخه تحلیل را تسریع کنیم [to] به ما کمک کنید با سرعت فکر تجزیه و تحلیل کنیم.» او گفت: «این کار بسیار سختی است و من فکر می کنم که ما شاهد پیشرفتی در اینجا هستیم که بسیار هیجان انگیز است.»
آلبرگ همچنین تهدیدات بالقوه ای را که ماشین های بسیار هوشمند ممکن است به همراه داشته باشند، مورد بحث قرار داد. از آنجایی که جهان به طور فزاینده ای دیجیتالی و به هم مرتبط می شود، توانایی خم کردن واقعیت و شکل دادن به ادراکات می تواند توسط بازیگران مخرب مورد سوء استفاده قرار گیرد. این تهدیدها به دولت-ملت ها محدود نمی شود و چشم انداز را حتی پیچیده تر و نامتقارن تر می کند.
همچنین: آینده پژوه می گوید که ChatGPT بیشتر شبیه یک «هوش بیگانه» است تا مغز انسان
هوش مصنوعی این پتانسیل را دارد که به محافظت در برابر این تهدیدات نوظهور کمک کند، اما مجموعه ای از خطرات خود را نیز به همراه دارد. برای مثال، ماشین‌هایی با قابلیت‌های پردازشی بالا می‌توانند سیستم‌ها را سریع‌تر و موثرتر از انسان‌ها هک کنند. برای مقابله با این تهدیدات، باید اطمینان حاصل کنیم که هوش مصنوعی به صورت تدافعی و با درک روشنی از اینکه چه کسی در کنترل است استفاده می‌شود.
همانطور که هوش مصنوعی در جامعه ادغام می شود، برای قانونگذاران، قضات و سایر تصمیم گیرندگان مهم است که فناوری و پیامدهای آن را درک کنند. ایجاد اتحادهای قوی بین کارشناسان فنی و سیاست گذاران در جهت یابی آینده هوش مصنوعی در شکار تهدید و فراتر از آن بسیار مهم خواهد بود.
فرصت ها، چالش ها و ملاحظات اخلاقی هوش مصنوعی در امنیت سایبری پیچیده و در حال تحول هستند. اطمینان از مدل‌های هوش مصنوعی بی‌طرفانه و حفظ مشارکت انسانی در تصمیم‌گیری به مدیریت چالش‌های اخلاقی کمک می‌کند. هوشیاری، همکاری و درک واضح از این فناوری در مقابله با تهدیدات بلندمدت بالقوه ماشین‌های بسیار هوشمند بسیار مهم خواهد بود.
همچنین: نحوه عملکرد ChatGPT
آلبرگ همچنین در مورد چین، روسیه و دشمنان اقتصادی که ماشین‌های خودمختار را به کار می‌گیرند، ابراز نگرانی کرد. این کشورها احتمالاً توسعه هوش مصنوعی را کاهش نمی دهند یا ملاحظات اخلاقی را به اشتراک نمی گذارند. در حالی که داشتن توانایی “کشیدن دوشاخه” در چنین ماشین هایی یک محافظ هوشمند است، او پیشنهاد می کند که ادغام فناوری در جامعه و اقتصاد جهانی احتمالاً جدا کردن آن را دشوار می کند. آلبرگ بر نیاز به طراحی محصولات و ماشین ها با شفافیت در مورد اینکه چه کسی آنها را کنترل می کند، تأکید می کند.
آلبرگ می گوید: «کار بزرگی که اینترنت در همه این کارها انجام داد این بود که اینترنت به نوعی تبدیل به مکانی شد که تمام اطلاعات جهان در آن جابجا شد. این مدل‌های بزرگ زبان کارهای بسیار جادویی انجام می‌دهند تا این چرخه تفکر را تسریع کنند.»
وی افزود: “در 25 سال آینده، جهان به بازتابی از اینترنت تبدیل می شود.”
