شرکت ها نگران هستند که اشتیاق آنها برای پذیرش هوش مصنوعی آنها را در برابر تهدیدات سایبری آسیب پذیرتر کرده است. بر اساس نظرسنجی اخیر از بیش از 350 رهبر فناوری اطلاعات، بیش از نیمی از مدیران مورد بررسی گفتند که پیچیدگی برنامه های کاربردی هوش مصنوعی موقعیت امنیت سایبری سازمان آنها را تضعیف می کند. بر اساس نظرسنجی دیگری، بیش از دو پنجم مدیران بر این باورند که تیم‌های امنیتی آنها فاقد مهارت‌های لازم برای محافظت از برنامه‌های کاربردی هوش مصنوعی و حجم کاری هستند.
تقاضا برای راه‌حل‌هایی برای ایمن کردن برنامه‌های هوش مصنوعی، گروهی از استارت‌آپ‌ها را به وجود آورده است. به عنوان مثال، HiddenLayer و Protect AI بر دفاع از سیستم‌های هوش مصنوعی در برابر حملات متخاصم تمرکز می‌کنند، در حالی که Cranium دید سیستم‌های هوش مصنوعی را در سطح برنامه فراهم می‌کند.
نیو براون، یکی از بنیانگذاران و مدیر عامل شرکت، ادعا می کند که یک سرمایه گذاری جدید از مخفی کاری امروز، نوما سکیوریتی، همه این کارها و بیشتر را انجام می دهد. این استارتاپ در حال توسعه ابزارهایی برای شناسایی خطوط لوله و کدهای آسیب پذیر داده در محیط های علم داده و همچنین تهدیداتی مانند حملات تزریق سریع است.
براون پس از ترک شرکت اتوماسیون تجربه مشتری Verint، Noma را با Alon Tron راه‌اندازی کرد، جایی که متوجه «نقطه کور مهم» برای تیم‌های امنیتی در چرخه عمر داده و هوش مصنوعی شد.
براون گفت: “ابزارهای موجود برای چرخه عمر نرم افزار سنتی طراحی شده اند.” با این حال، چرخه عمر داده و هوش مصنوعی ذاتاً متفاوت است. این شامل فرآیندهای تحقیق و توسعه متمایز است، به فناوری‌های مختلف متکی است و با آسیب‌پذیری‌های فنی منحصربه‌فردی در مدل‌های هوش مصنوعی مواجه است.»
Noma برای کمک به شناسایی – و رفع – پیکربندی های نادرست در اجزای مورد استفاده برای توسعه و اجرای برنامه های کاربردی هوش مصنوعی طراحی شده است. برای مثال، این پلتفرم داده‌های «حساس» را در مجموعه داده‌های آموزشی مدل، مانند متن حاوی اطلاعات شناسایی شخصی، اسکن می‌کند.
براون استدلال می‌کند که اگر شرکت‌ها بتوانند عملکردهای امنیتی اپلیکیشن هوش مصنوعی را در یک داشبورد که می‌تواند در محیط‌های مبتنی بر ابر و خود میزبانی شده استقرار یابد، ادغام کنند، می‌توانند برای مقابله با تهدیدات مجهزتر شوند.
او گفت: «بسیاری از راه‌حل‌های امنیتی تک‌کارکردی در حال هجوم به بازار هستند و سعی می‌کنند از تبلیغات هوش مصنوعی سود ببرند. Noma با کمک به شرکت‌ها در درک ردپای برنامه‌های هوش مصنوعی خود و دادن کنترل‌های حاکمیتی به آنها، نه تنها به سازمان‌ها کمک می‌کند تا ریسک را به حداقل برسانند، بلکه به آنها اعتماد به نفس لازم برای گسترش سریع‌تر استفاده از هوش مصنوعی و بخش‌های با ارزش‌تر کسب‌وکار را می‌دهند. “
براون می‌گوید Noma، که در سال 2023 تأسیس شد، در حال حاضر مشتریان پولی دارد، از جمله مشتریان Fortune 500 در نرم‌افزار B2B، خدمات مالی و خرده‌فروشی. این استارت‌آپ اخیراً دور سرمایه‌گذاری 25 میلیون دلاری سری A را که براون می‌گوید توسط سرمایه‌گذاران پیشدستی شده بود، بسته است. نوما پول نقد داشت.
ما تصمیم گرفتیم که این را بپذیریم [$25 million]وی با بیان اینکه نوما قصد دارد تعداد تیم 20 نفره خود را در سال آینده دوبرابر کند، گفت، حتی با وجود بودجه قابل توجهی که هنوز در بانک وجود دارد، برای تسریع در توسعه و به ویژه تیم‌ها و تلاش‌های ما به بازار عرضه می‌شود.
Ballistic Ventures سری A Noma را رهبری کرد که کل سرمایه شرکت را به 32 میلیون دلار می رساند. Noma 7 میلیون دلار در یک دور اولیه که قبلاً فاش نشده بود به رهبری Glilot Capital Partners با مشارکت Cyber Club London جمع آوری کرد.
TechCrunch یک خبرنامه متمرکز بر هوش مصنوعی دارد! اینجا ثبت نام کنید تا هر چهارشنبه آن را در صندوق پستی خود دریافت کنید.
