امنیت سایبری در میان یک مسابقه تسلیحاتی تازه قرار دارد و سلاح قدرتمند مورد نظر در این دوره جدید هوش مصنوعی است.
هوش مصنوعی یک شمشیر دو لبه کلاسیک ارائه می دهد: یک سپر قدرتمند برای مدافعان و یک ابزار جدید قدرتمند برای کسانی که قصد مخرب دارند. پیمایش در این میدان نبرد پیچیده به یک دست پایدار و درک عمیق از فناوری و افرادی که از آن سوء استفاده می کنند نیاز دارد.
برای به دست آوردن منظره از خط مقدم ، AI News با راشل جیمز ، مهندس اطلاعاتی تهدید AI ML در شرکت جهانی بیو دارویی Abbvie گرفتار شد.
جیمز توضیح می دهد: “علاوه بر ساخته شده در AI تقویت شده که در ابزارهای فعلی ما به فروشنده ارائه شده است ، ما همچنین از تجزیه و تحلیل LLM در مورد تشخیص ها ، مشاهدات ، همبستگی ها و قوانین مرتبط استفاده می کنیم.”
جیمز و تیمش از مدل های بزرگ زبان برای الک کردن کوه هشدارهای امنیتی ، به دنبال الگوهای ، کشف کپی کردن و یافتن شکاف های خطرناک در دفاع خود قبل از اینکه یک مهاجم می توانند استفاده کنند ، استفاده می کنند.
وی می افزاید: “ما از این برای تعیین شباهت ، تکثیر و ارائه تجزیه و تحلیل شکاف استفاده می کنیم.” “ما به دنبال تقویت این موضوع با ادغام هوش تهدید در مرحله بعدی خود هستیم.”
اصلی برای این عملیات یک بستر اطلاعاتی ویژه تهدید به نام OpenCTI است که به آنها کمک می کند تا تصویری یکپارچه از تهدیدها از دریای سر و صدای دیجیتال بسازند.
هوش مصنوعی موتور است که این تلاش برای امنیت سایبری را امکان پذیر می کند ، و مقادیر زیادی از متن پرحاشیه ، بدون ساختار را به خود اختصاص داده و به طور مرتب آن را به یک قالب استاندارد معروف به Stix سازماندهی می کند. جیمز می گوید ، Grand Vision استفاده از مدل های زبانی برای اتصال این اطلاعات اصلی با سایر زمینه های عملکرد امنیتی آنها ، از مدیریت آسیب پذیری گرفته تا خطر شخص ثالث است.
با این حال ، با استفاده از این قدرت ، با دوز سالم احتیاط همراه است. جیمز به عنوان یکی از مهمترین ها در ابتکار مهم صنعت ، از مشکلات آگاه است.
او می گوید: “اگر من به کار گروه فوق العاده ای از مردمی که بخشی از آنها هستم اشاره کردم -” OWASP Top 10 برای Genai “به عنوان یک روش اساسی برای درک آسیب پذیری هایی که Genai می تواند معرفی کند.”
فراتر از آسیب پذیری های خاص ، جیمز در سه تجارت اساسی که رهبران تجارت باید با آن روبرو شوند ، امتیاز می دهد:
- پذیرش خطری که با ماهیت خلاق اما غالباً غیرقابل پیش بینی هوش مصنوعی ایجاد می شود.
- از دست دادن شفافیت در نحوه رسیدن AI به نتیجه گیری خود ، مشکلی که فقط با پیچیده تر شدن مدل ها رشد می کند.
- خطر داوری ضعیف در مورد بازده واقعی سرمایه گذاری برای هر پروژه هوش مصنوعی ، جایی که اعتیاد به مواد مخدره به راحتی می تواند منجر به بیش از حد مزایا یا دست کم گرفتن تلاش مورد نیاز در چنین زمینه ای سریع شود.
برای ایجاد وضعیت بهتر سایبری در دوره هوش مصنوعی ، باید مهاجم خود را درک کنید. این جایی است که تخصص عمیق جیمز بازی می شود.
وی خاطرنشان می کند: “این در واقع تخصص خاص من است – من پیشینه اطلاعاتی در مورد تهدید سایبری دارم و تحقیقات گسترده ای را در مورد علاقه ، استفاده و توسعه AI بازیگر تهدید انجام داده و مستند کرده ام.”
جیمز به طور فعال پچ پچ و توسعه ابزار را از طریق کانال های منبع باز و مجموعه های خودکار خود از وب تاریک ردیابی می کند و یافته های خود را در Cybershujin Github به اشتراک می گذارد. کار او همچنین شامل کثیف شدن دست های خودش است.
جیمز می افزاید: “به عنوان رهبری ورود سریع به تزریق سریع برای OWASP ، و همكار راهنمای راهنمای تیمی قرمز Genai ، من همچنین وقت خود را صرف تكنولولهای ورودی مخالف می كنم و شبکه ای از متخصصان را نیز در این زمینه حفظ می كنم.”
بنابراین ، این همه برای آینده صنعت چه معنی دارد؟ برای جیمز ، مسیر به جلو مشخص است. او به موازی جذاب که سالها پیش کشف کرده است اشاره می کند: “چرخه عمر هوش تهدید سایبر تقریباً با چرخه عمر علوم داده های اساسی در سیستم های AI ML یکسان است.”
این تراز یک فرصت عظیم است. وی اظهار داشت: “بدون شک ، از نظر مجموعه داده هایی که می توانیم با آنها کار کنیم ، مدافعان فرصتی منحصر به فرد برای سرمایه گذاری در قدرت به اشتراک گذاری داده های اطلاعاتی و هوش مصنوعی دارند.”
پیام نهایی او هم تشویق و هم برای هشدار برای همسالان خود در دنیای امنیت سایبری ارائه می دهد: “علم داده و هوش مصنوعی بخشی از زندگی حرفه ای امنیت سایبری خواهد بود که به جلو حرکت می کند ، آن را در آغوش می گیرد.”
راشل جیمز بینش خود را در امسال به اشتراک می گذارد AI & Big Data Expo Europe در آمستردام در تاریخ 24-25 سپتامبر 2025. حتماً روز دوم خود را در مورد “از اصل تا تمرین-تعبیه اخلاق هوش مصنوعی در مقیاس” بررسی کنید.
همچنین ببینید: Google Cloud از AI Ally برای تیم های امنیتی رونمایی می کند
آیا می خواهید در مورد AI و داده های بزرگ از رهبران صنعت اطلاعات بیشتری کسب کنید؟ نمایشگاه AI & Big Data را که در آمستردام ، کالیفرنیا و لندن برگزار می شود ، بررسی کنید. این رویداد جامع با سایر رویدادهای پیشرو از جمله کنفرانس اتوماسیون هوشمند ، BlockX ، هفته تحول دیجیتال و Cyber Security & Cloud Expo همکاری می کند.
سایر رویدادهای آینده فناوری شرکت و وبینارهای موجود در TechForge را در اینجا کاوش کنید.
