ChatGPT طرح اتحادیه اروپا برای تنظیم AI – POLITICO را زیر پا گذاشت

جدیدترین حس هوش مصنوعی – چت ربات گبی بر روی استروئیدهای ChatGPT – قانونگذاران اروپایی را به تابلوی نحوه تنظیم هوش مصنوعی بازگرداند.

ربات چت در ماه های گذشته با تولید سریع نثر انسان مانند، اینترنت را خیره کرد. عشق خود را به روزنامه نگار نیویورک تایمز اعلام کرد. این یک هایکو در مورد رهایی میمون ها از آزمایشگاه نوشته است. حتی به طبقه پارلمان اروپا، جایی که دو آلمانی رسید اعضا سخنرانی هایی را که توسط ChatGPT تهیه شده بود برای برجسته کردن نیاز به مهار فناوری هوش مصنوعی ارائه کرد.

اما پس از ماه‌ها لولز اینترنتی – و محکومیت منتقدان – این فناوری اکنون قانون‌گذاران اتحادیه اروپا را با یک سوال گیج‌کننده مواجه می‌کند: چگونه این موضوع را تحت کنترل درآوریم؟

این فناوری قبلاً کارهای انجام شده توسط کمیسیون اروپا، پارلمان اروپا و شورای اتحادیه اروپا را در مورد پیش نویس قوانین هوش مصنوعی بلوک، قانون هوش مصنوعی، بهبود بخشیده است. این مقررات که توسط کمیسیون در سال 2021 پیشنهاد شد، برای ممنوعیت برخی از برنامه‌های هوش مصنوعی مانند امتیازدهی اجتماعی، دستکاری و برخی از نمونه‌های تشخیص چهره طراحی شده است. همچنین برخی از کاربردهای خاص هوش مصنوعی را به عنوان «پرخطر» معرفی می‌کند که توسعه‌دهندگان را ملزم به الزامات سخت‌گیرانه‌تر شفافیت، ایمنی و نظارت انسانی می‌کند.

گرفتن؟ ChatGPT می تواند به خوش خیم و بدخیم خدمت کند.

این نوع هوش مصنوعی که مدل زبان بزرگ نامیده می‌شود، کاربرد خاصی ندارد: مردم می‌توانند از آن برای نوشتن آهنگ‌ها، رمان‌ها و شعرها و همچنین نوشتن کدهای کامپیوتری، گزارش‌های خط‌مشی، گزارش‌های اخبار جعلی یا، همانطور که یک قاضی کلمبیایی اعتراف کرده است، درخواست کنند. احکام سایر مدل‌های آموزش‌دیده بر روی تصاویر به جای متن می‌توانند همه چیز را از کارتون گرفته تا عکس‌های نادرست سیاستمداران تولید کنند و باعث ترس از اطلاعات نادرست شوند.

در یک مورد، موتور جستجوی جدید Bing با فناوری ChatGPT طراحی شده است یک محقق را تهدید کرد با «هک[ing]”و “ویران”. در دیگری، یک اپلیکیشن مبتنی بر هوش مصنوعی برای تبدیل تصاویر به کارتونی به نام لنسا، عکس‌های زنان آسیایی را بیش از حد جنسی کرد.

گری مارکوس، کارشناس هوش مصنوعی و منتقد سرشناس گفت: «این سیستم‌ها هیچ درک اخلاقی از جهان ندارند، هیچ حسی از حقیقت ندارند، و قابل اعتماد نیستند».

این هوش مصنوعی ها «مانند موتور هستند. آنها موتورها و الگوریتم‌های بسیار قدرتمندی هستند که می‌توانند کارهای زیادی را انجام دهند و خودشان هنوز به یک هدف اختصاص داده نشده‌اند.» قانون هوش مصنوعی از طریق پارلمان اروپا

در حال حاضر، این فناوری مؤسسات اتحادیه اروپا را بر آن داشته است تا پیش نویس برنامه های خود را بازنویسی کنند. این شورا که نماینده سرمایه‌های ملی است، نسخه پیش‌نویس قانون هوش مصنوعی را در دسامبر تصویب کرد که به کمیسیون واگذار می‌کند الزامات امنیت سایبری، شفافیت و مدیریت ریسک را برای هوش مصنوعی‌های همه منظوره ایجاد کند.

ظهور ChatGPT اکنون پارلمان اروپا را مجبور به پیروی از آن کرده است. در ماه فوریه، بنیفی و تودوراچ، قانون‌گذاران اصلی قانون هوش مصنوعی، پیشنهاد کردند که سیستم‌های هوش مصنوعی که متن‌های پیچیده را بدون نظارت انسان تولید می‌کنند، باید بخشی از فهرست «پرخطر» باشد – تلاشی برای جلوگیری از انتشار اطلاعات نادرست ChatGPT در مقیاس.

این ایده از سوی گروه‌های سیاسی راست‌گرا در پارلمان اروپا و حتی بخش‌هایی از گروه لیبرال خود تودوراچ با تردید مواجه شد. اکسل ووس، یک قانونگذار برجسته راست میانه که اظهار نظر رسمی در مورد موضع پارلمان دارد، گفت که این اصلاحیه «بسیاری از فعالیت‌ها را پرخطر می‌سازد، که اصلاً خطرناک نیستند».

در مقابل، فعالان و ناظران احساس می کنند که این پیشنهاد فقط سطح معمای هوش مصنوعی همه منظوره را خراش می دهد. مارک براکل، مدیر سیاست گذاری در Future of Life می گوید: «جایگزین کردن سیستم های متن ساز در لیست پرخطر کار خوبی نیست: شما سیستم های هوش مصنوعی همه منظوره دیگری دارید که خطراتی را به همراه دارند و همچنین باید تنظیم شوند. موسسه، یک موسسه غیرانتفاعی متمرکز بر سیاست هوش مصنوعی.

این دو قانونگذار اصلی پارلمان همچنین در تلاش هستند تا الزامات سخت گیرانه تری را برای توسعه دهندگان و کاربران ChatGPT و مدل های مشابه هوش مصنوعی، از جمله مدیریت ریسک این فناوری و شفاف بودن در مورد عملکرد آن، اعمال کنند. آنها همچنین سعی دارند محدودیت های سخت تری را برای ارائه دهندگان خدمات بزرگ اعمال کنند و در عین حال رژیم سخت تری را برای کاربران روزمره ای که با این فناوری بازی می کنند حفظ کنند.

بنیفی گفت، متخصصان در بخش‌هایی مانند آموزش، اشتغال، بانک و اجرای قانون باید «از آنچه مستلزم استفاده از این نوع سیستم برای اهدافی است که خطرات قابل توجهی برای حقوق اساسی افراد دارد، آگاه باشند».

اگر پارلمان در پیچیدن مقررات ChatGPT مشکل داشته باشد، بروکسل خود را برای مذاکرات بعدی آماده می کند.

کمیسیون اروپا، شورای اتحادیه اروپا و پارلمان جزئیات قانون نهایی هوش مصنوعی را در مذاکرات سه جانبه که انتظار می‌رود در ماه آوریل آغاز شود، بررسی خواهند کرد. در آنجا، ChatGPT می تواند به خوبی باعث شود که مذاکره کنندگان به بن بست برسند، زیرا سه طرف راه حل مشترکی برای فناوری جدید درخشان پیدا می کنند.

در حاشیه، شرکت‌های بزرگ فناوری – به‌ویژه آنهایی که در این بازی دارای پوست هستند، مانند مایکروسافت و گوگل – از نزدیک تماشا می‌کنند.

ناتاشا کرامپتون، مدیر ارشد هوش مصنوعی مایکروسافت، گفت: قانون هوش مصنوعی اتحادیه اروپا باید تمرکز خود را بر موارد استفاده پرخطر حفظ کند، و پیشنهاد کرد که سیستم‌های هوش مصنوعی عمومی مانند ChatGPT به سختی برای فعالیت‌های خطرناک استفاده می‌شوند و در عوض بیشتر برای پیش نویس اسناد و کمک به نوشتن کد.

کرامپتون گفت: “ما می خواهیم مطمئن شویم که موارد استفاده با ارزش بالا و کم خطر همچنان برای اروپایی ها در دسترس باشد.” (ChatGPT که توسط گروه تحقیقاتی ایالات متحده OpenAI ایجاد شده است، مایکروسافت را به عنوان سرمایه گذار دارد و اکنون به عنوان یک عنصر اصلی در استراتژی خود برای احیای موتور جستجوی خود Bing دیده می شود. OpenAI به درخواست اظهار نظر پاسخ نداد.)

تحقیقات اخیر توسط گروه فعال شفافیت سازمان دیده بان اروپا همچنین نشان داد که بازیگران صنعت از جمله مایکروسافت و گوگل به شدت با سیاستگذاران اتحادیه اروپا لابی کرده اند تا هوش مصنوعی همه منظوره مانند ChatGPT را از تعهدات تحمیل شده بر سیستم های هوش مصنوعی پرخطر حذف کنند.

آیا خود ربات می تواند به نجات قانونگذاران اتحادیه اروپا بیاید؟

ChatGPT به POLITICO گفت که فکر می‌کند ممکن است نیاز به مقررات داشته باشد: «اتحادیه اروپا باید با توجه به پتانسیل آنها برای ایجاد محتوای مضر و گمراه‌کننده، تعیین هوش مصنوعی مولد و مدل‌های زبان بزرگ را به عنوان فناوری‌های «پرخطر» در نظر بگیرد. تحت محدوده قانون هوش مصنوعی.

اتحادیه اروپا باید اجرای چارچوبی را برای توسعه، استقرار و استفاده مسئولانه از این فناوری‌ها، که شامل پادمان‌های مناسب، نظارت و مکانیسم‌های نظارتی باشد، در نظر بگیرد.

با این حال، اتحادیه اروپا سؤالات بعدی دارد.