Alibaba یک مدل برنامه نویسی AI جدید به نام QWEN3-Coder منتشر کرده است که برای انجام وظایف نرم افزاری پیچیده با استفاده از یک مدل بزرگ منبع باز ساخته شده است. این ابزار بخشی از خانواده QWEN3 Alibaba است و به عنوان پیشرفته ترین عامل برنامه نویسی این شرکت تا به امروز ترویج می شود.
این مدل از رویکردی از کارشناسان (MOE) استفاده می کند و 35 میلیارد پارامتر از کل 480 میلیارد و پشتیبانی از 256،000 نشانه متن را فعال می کند. بنا بر گزارش ها ، این تعداد می تواند با استفاده از تکنیک های ویژه برون یابی به 1 میلیون نفر افزایش یابد. این شرکت ادعا می کند که QWEN3-Coder از سایر مدل های باز در کارهای عامل ، از جمله نسخه های Moonshot AI و Deepseek بهتر عمل کرده است.
اما همه این را خبرهای خوب نمی دانند. Jurgita Lapienyė ، سردبیر ارشد Cybernews ، هشدار می دهد که Qwen3-Coder ممکن است چیزی بیش از یک دستیار کدگذاری مفید باشد-در صورت تصویب گسترده توسط توسعه دهندگان غربی ، می تواند یک خطر واقعی برای سیستم های فناوری جهانی ایجاد کند.
یک اسب تروجان در لباس منبع باز؟
پیام رسانی Alibaba در اطراف Qwen3-Coder بر قدرت فنی خود متمرکز شده است و آن را با ابزارهای سطح بالا از Openai و Anthropic مقایسه کرده است. اما در حالی که نمرات و ویژگی های معیار توجه را به خود جلب می کند ، Lapienyė نشان می دهد که ممکن است آنها نیز از مسئله واقعی دور شوند: امنیت.
این طور نیست که چین در AI درگیر است – که قبلاً شناخته شده است. نگرانی عمیق تر در مورد خطرات پنهان استفاده از نرم افزارهای ایجاد شده توسط سیستم های هوش مصنوعی است که بازرسی یا درک کامل آن دشوار است.
همانطور که Lapienyė بیان کرد ، توسعه دهندگان می توانند “به آینده در حال خوابیدن باشند” که سیستم های اصلی با کد آسیب پذیر ناآگاهانه ساخته می شوند. ابزارهایی مانند QWEN3-Coder ممکن است زندگی را آسانتر کند ، اما آنها همچنین می توانند نقاط ضعف ظریف را معرفی کنند که بدون توجه به آن می روند.
این خطر فرضی نیست. محققان CyberNews اخیراً استفاده از هوش مصنوعی را در بنگاه های اصلی ایالات متحده بررسی کرده اند و دریافتند که 327 نفر از S&P 500 که اکنون با استفاده از ابزارهای AI به طور عمومی گزارش می دهند. تنها در این شرکت ها ، محققان نزدیک به 1000 آسیب پذیری مربوط به هوش مصنوعی را شناسایی کردند.
افزودن یک مدل هوش مصنوعی دیگر – به ویژه یکی که طبق قوانین سختگیرانه امنیت ملی چین ایجاد شده است – می تواند یک لایه دیگر از خطر را اضافه کند ، کنترل آن سخت تر است.
وقتی کد به پشتی تبدیل می شود
توسعه دهندگان امروز برای نوشتن کد ، رفع اشکالات و شکل دادن به نحوه ساخت برنامه ها به ابزارهای AI به شدت تکیه می کنند. این سیستم ها هر روز سریع ، مفید و بهتر می شوند.
اما اگر همین سیستم ها برای تزریق نقص آموزش دیده باشند ، چه می شود؟ اشکالات آشکار نیست ، اما مشکلات کوچک و دشوار که باعث ایجاد هشدارها نمی شود. آسیب پذیری که به نظر می رسد مانند یک تصمیم طراحی بی ضرر می تواند سالها کشف شود.
اینگونه است که حملات زنجیره تأمین اغلب آغاز می شود. نمونه های گذشته ، مانند حادثه SolarWinds ، نشان می دهد که نفوذ طولانی مدت می تواند بی سر و صدا و با صبر انجام شود. با دسترسی و زمینه کافی ، یک مدل هوش مصنوعی می تواند نحوه کاشت مسائل مشابه را یاد بگیرد – به ویژه اگر در معرض میلیون ها کد کد قرار داشته باشد.
این فقط یک تئوری نیست. طبق قانون اطلاعات ملی چین ، شرکت هایی مانند علی بابا باید با درخواست های دولت ، از جمله شرکت های مربوط به داده ها و مدل های هوش مصنوعی همکاری کنند. این مکالمه را از عملکرد فنی به امنیت ملی تغییر می دهد.
چه اتفاقی برای کد شما می افتد؟
مسئله مهم دیگر قرار گرفتن در معرض داده است. هنگامی که توسعه دهندگان از ابزاری مانند QWEN3-Coder برای نوشتن یا اشکال زدایی استفاده می کنند ، هر قطعه از آن تعامل می تواند اطلاعات حساس را نشان دهد.
این ممکن است شامل الگوریتم های اختصاصی ، منطق امنیتی یا طراحی زیرساخت ها باشد – واقعاً نوع جزئیاتی که می تواند برای یک کشور خارجی مفید باشد.
حتی اگر این مدل منبع باز باشد ، هنوز چیزهای زیادی وجود دارد که کاربران نمی توانند آن را ببینند. زیرساخت های باطن ، سیستم های تله متری و روش های ردیابی استفاده ممکن است شفاف نباشد. این کار را دشوار می کند که دانستن داده ها به کجا می رود یا مدل ممکن است با گذشت زمان به یاد بیاورد.
استقلال بدون نظارت
Alibaba همچنین بر روی مدل های AI عامل AI متمرکز شده است که می توانند به طور مستقل تر از دستیاران استاندارد عمل کنند. این ابزارها فقط خطوط کد را پیشنهاد نمی کنند. به آنها می توان وظایف کامل را اختصاص داد ، با حداقل ورودی کار کرد و به تنهایی تصمیم گیری کرد.
این ممکن است کارآمد به نظر برسد ، اما همچنین پرچم های قرمز را بالا می برد. یک عامل برنامه نویسی کاملاً خودمختار که می تواند کل کد های کد را اسکن کند و تغییرات را ایجاد کند ، می تواند در دست اشتباه خطرناک شود.
یک عامل را تصور کنید که می تواند از سیستم یک شرکت دفاع کند و حملات متناسب با کاردستی را برای بهره برداری از آنها درک کند. همان مهارتی که به توسعه دهندگان کمک می کند تا سریعتر حرکت کنند ، توسط مهاجمان مجدداً مورد استفاده قرار می گیرد تا حتی سریعتر حرکت کنند.
مقررات هنوز آماده نیست
با وجود این خطرات ، مقررات فعلی ابزارهایی مانند QWEN3-Coder را به روشی معنی دار نمی پردازد. دولت ایالات متحده سالها را صرف بحث و گفتگو در مورد نگرانی های مربوط به حریم خصوصی داده ها به برنامه هایی مانند Tiktok کرده است ، اما نظارت عمومی کمی بر ابزارهای AI توسعه یافته خارجی وجود دارد.
گروه هایی مانند کمیته سرمایه گذاری خارجی در ایالات متحده (CFIUS) خرید شرکت را بررسی می کنند ، اما هیچ فرایندی مشابه برای بررسی مدل های هوش مصنوعی که ممکن است خطرات امنیت ملی را ایجاد کند وجود ندارد.
دستورالعمل اجرایی رئیس جمهور بایدن در مورد هوش مصنوعی عمدتاً بر مدل های خانگی و شیوه های ایمنی عمومی متمرکز است. اما این نگرانی در مورد ابزارهای وارداتی که می توانند در محیط های حساس مانند مراقبت های بهداشتی ، امور مالی یا زیرساخت های ملی تعبیه شوند ، ایجاد می کند.
ابزارهای هوش مصنوعی قادر به نوشتن یا تغییر کد باید با همان جدی بودن تهدیدات زنجیره تأمین نرم افزار رفتار شوند. این بدان معناست که دستورالعمل های روشنی را برای کجا و چگونه می توان از آنها استفاده کرد.
بعد چه اتفاقی می افتد؟
برای کاهش ریسک ، سازمان هایی که با سیستم های حساس برخورد می کنند باید قبل از ادغام QWEN3-Coder-یا هر عامل عامل توسعه یافته خارجی-به گردش کار خود مکث کنند. اگر کسی را دعوت نمی کنید که به کد منبع خود نگاه کنید ، چرا اجازه می دهید هوش مصنوعی آنها را بازنویسی کند؟
ابزارهای امنیتی نیز باید به دست آورند. نرم افزار تجزیه و تحلیل استاتیک ممکن است پشتوانه های پیچیده یا مسائل منطقی ظریف را که توسط هوش مصنوعی ساخته شده است ، تشخیص ندهد. این صنعت به ابزارهای جدیدی که به طور خاص برای پرچم و آزمایش کد تولید شده توسط AI برای الگوهای مشکوک طراحی شده است ، نیاز دارد.
سرانجام ، توسعه دهندگان ، رهبران فناوری و تنظیم کننده ها باید درک کنند که هوش مصنوعی تولید کننده کد خنثی نیست. این سیستم ها دارای قدرت هستند – هم به عنوان ابزارهای مفید و هم تهدیدهای احتمالی. همان ویژگی هایی که آنها را مفید می کند نیز می تواند آنها را خطرناک کند.
Lapienyė qwen3-coder را “اسب بالقوه تروجان” خواند و استعاره متناسب است. این فقط مربوط به بهره وری نیست. این در مورد چه کسی در دروازه است.
همه در مورد آنچه مهم است موافق نیستند
وانگ جیان ، بنیانگذار Alibaba Cloud ، چیزهای دیگری را می بیند. در مصاحبه با بلومبرگوی گفت که نوآوری به معنای استخدام گرانترین استعداد نیست بلکه در مورد انتخاب افرادی است که می توانند ناشناخته ها را بسازند. وی از رویکرد سیلیکون ولی به استخدام هوش مصنوعی انتقاد کرد ، جایی که غول های فناوری اکنون برای محققان برتر مانند تیم های ورزشی که به ورزشکاران پیشنهاد می دهند ، رقابت می کنند.
وانگ گفت: “تنها کاری که شما باید انجام دهید این است که شخص مناسب را بدست آورید.” “واقعاً شخص گران قیمت نیست.”
او همچنین معتقد است که مسابقه AI چینی سالم است ، نه خصمانه. به گفته وانگ ، شرکت ها نوبت به جلو می روند و این به کل اکوسیستم کمک می کند تا سریعتر رشد کنند.
وی گفت: “شما می توانید به دلیل این رقابت ، تکرار بسیار سریع فناوری داشته باشید.” “من فکر نمی کنم این وحشیانه باشد ، اما فکر می کنم بسیار سالم است.”
با این وجود ، رقابت منبع باز اعتماد را تضمین نمی کند. توسعه دهندگان غربی باید با دقت فکر کنند که از چه ابزارهایی استفاده می کنند – و چه کسی آنها را ساخته است.
خط پایین
QWEN3-Coder ممکن است عملکرد چشمگیر و دسترسی آزاد را ارائه دهد ، اما استفاده از آن با خطراتی همراه است که فراتر از معیارها و سرعت برنامه نویسی است. در زمانی که ابزارهای AI در حال شکل گیری چگونگی ساخت سیستم های مهم هستند ، ارزش این را دارد که فقط این ابزارها چه کاری می توانند انجام دهند – بلکه چه کسی در هنگام انجام این کار سود می برد.
(عکس توسط شهادات رحمان)
همچنین ببینید: مدل جدید AI AI ALIBABA AI AI Records Source Open Source را تنظیم می کند
آیا می خواهید در مورد AI و داده های بزرگ از رهبران صنعت اطلاعات بیشتری کسب کنید؟ نمایشگاه AI & Big Data را که در آمستردام ، کالیفرنیا و لندن برگزار می شود ، بررسی کنید. این رویداد جامع با سایر رویدادهای پیشرو از جمله کنفرانس اتوماسیون هوشمند ، BlockX ، هفته تحول دیجیتال و Cyber Security & Cloud Expo همکاری می کند.
سایر رویدادهای آینده فناوری شرکت و وبینارهای موجود در TechForge را در اینجا کاوش کنید.
