بدون قوانین ، هوش مصنوعی “بحران اعتماد” را به خطر می اندازد

جهان در مسابقه برای استقرار هوش مصنوعی است ، اما صدای پیشرو در اخلاق فناوری هشدار می دهد که سرعت در اولویت های ایمنی “بحران اعتماد” را به خطر می اندازد.

سوویانا Grecu ، بنیانگذار بنیاد AI برای تغییر ، استدلال می کند که بدون حكومت فوری و قوی ، ما در مسیری برای “اتوماسیون آسیب در مقیاس” قرار داریم.

Grecu در مورد ادغام هوش مصنوعی در بخش های بحرانی ، معتقد است که مهمترین خطر اخلاقی خود فناوری نیست بلکه عدم ساختار پیرامون آن است.

سیستم های قدرتمند به طور فزاینده تصمیمات تغییر دهنده زندگی را در مورد همه چیز از برنامه های شغلی و نمرات اعتباری گرفته تا مراقبت های بهداشتی و عدالت کیفری می گیرند ، اغلب بدون آزمایش کافی برای تعصب یا در نظر گرفتن تأثیر طولانی مدت اجتماعی آنها.

برای بسیاری از سازمان ها ، اخلاق هوش مصنوعی به جای یک واقعیت عملیاتی روزانه ، یک سند از اصول بلند است. Grecu تأکید می کند که پاسخگویی واقعی فقط زمانی آغاز می شود که شخصی واقعاً مسئول نتایج باشد. شکاف بین قصد و اجرای جایی است که خطر واقعی نهفته است.

بنیاد Grecu از ایده های انتزاعی به اقدامات بتن تغییر می کند. این شامل تعبیه ملاحظات اخلاقی به طور مستقیم در گردش کار از طریق ابزارهای عملی مانند چک لیست های طراحی ، ارزیابی ریسک قبل از استقرار اجباری و تابلوهای بررسی متقابل عملکردی است که تیم های حقوقی ، فنی و سیاسی را در کنار هم قرار می دهد.

به گفته GRECU ، نکته اصلی ایجاد مالکیت واضح در هر مرحله ، ساختن فرآیندهای شفاف و قابل تکرار درست همانطور که می خواهید برای هر عملکرد اصلی تجارت دیگر ایجاد کنید. این رویکرد عملی به دنبال پیشبرد هوش مصنوعی اخلاقی است و آن را از یک بحث فلسفی به مجموعه ای از کارهای قابل کنترل و روزمره تبدیل می کند.

همکاری برای ایجاد اعتماد هوش مصنوعی و کاهش خطرات

وقتی صحبت از اجرای قانون می شود ، Grecu واضح است که این مسئولیت صرفاً بر دولت یا صنعت نمی تواند باشد. وی اظهار داشت: “این یا یا ، باید هر دو باشد.”

در این مشارکت ، دولت ها باید مرزهای قانونی و حداقل استانداردها را تعیین کنند ، به ویژه در مواردی که حقوق اساسی بشر در معرض خطر است. مقررات کف اساسی را فراهم می کند. با این حال ، صنعت دارای چابکی و استعداد فنی برای نوآوری فراتر از انطباق صرف است.

شرکت ها به بهترین وجه برای ایجاد ابزارهای حسابرسی پیشرفته ، حفاظت های جدید پیشگام و تحت فشار قرار می گیرند و مرزهای آنچه را که فناوری مسئول می تواند به دست آورد ، فشار می آورند.

رها کردن حاکمیت به طور کامل به تنظیم کننده ها ، خطر ابتلا به نوآوری های مورد نیاز ما را به خطر می اندازد ، در حالی که آن را به شرکت ها می اندازد به تنهایی از سوءاستفاده دعوت می کند. Grecu ادعا می کند: “همکاری تنها مسیر پایدار به جلو است.”

ترویج آینده ای با ارزش محور

با نگاهی به فراتر از چالش های فوری ، Grecu نگران خطرات ظریف تر و طولانی مدت است که توجه کافی را به خود جلب می کنند ، یعنی دستکاری عاطفی و نیاز فوری به فناوری ارزش محور.

با توجه به اینکه سیستم های هوش مصنوعی در ترغیب و تأثیرگذاری بر احساسات انسانی مهارت بیشتری پیدا می کنند ، او هشدار می دهد که ما برای پیامدهای این امر برای استقلال شخصی آماده نیستیم.

اصول اصلی کار او این ایده است که فناوری خنثی نیست. وی هشدار می دهد: “هوش مصنوعی توسط ارزش ها هدایت نمی شود ، مگر اینکه ما آنها را عمداً در آن بسازیم.” این یک تصور غلط رایج است که AI به سادگی جهان را همانطور که هست منعکس می کند. در واقعیت ، این نشان دهنده داده هایی است که ما آن را تغذیه می کنیم ، اهدافی که به آن اختصاص می دهیم و نتایج ما پاداش می دهیم.

بدون مداخله عمدی ، هوش مصنوعی همواره برای معیارهایی مانند کارآیی ، مقیاس و سود بهینه می شود ، نه برای آرمانهای انتزاعی مانند عدالت ، عزت یا دموکراسی ، و این به طور طبیعی بر اعتماد اجتماعی تأثیر می گذارد. به همین دلیل برای تصمیم گیری در مورد چه ارزشهایی که می خواهیم فناوری ما را ارتقا دهیم ، یک تلاش آگاهانه و پیشگیرانه لازم است.

برای اروپا ، این یک فرصت مهم است. Grecu توضیح می دهد: “اگر ما می خواهیم هوش مصنوعی به انسان خدمت کند (نه فقط بازارها) ، ما باید از ارزش های اروپایی مانند حقوق بشر ، شفافیت ، پایداری ، گنجاندن و انصاف در هر لایه محافظت و جاسازی کنیم: سیاست ، طراحی و استقرار.”

این در مورد متوقف کردن پیشرفت نیست. همانطور که او نتیجه می گیرد ، این در مورد کنترل روایت است و به طور فعال “قبل از شکل گیری ما ، آن را شکل می دهد.”

از طریق کار بنیاد وی – از جمله کارگاه های عمومی و در طول آینده AI & Big Data Expo Europe ، که در آن Grecu رئیس روز دوم این رویداد است – او در حال ساختن ائتلافی برای هدایت تکامل هوش مصنوعی است و با نگه داشتن بشریت در مرکز خود ، اعتماد را تقویت می کند.

(عکس توسط Cash Macanaya)

همچنین ببینید: وسواس هوش مصنوعی برای ما مهارت های انسانی را برای ما هزینه می کند

آیا می خواهید در مورد AI و داده های بزرگ از رهبران صنعت اطلاعات بیشتری کسب کنید؟ نمایشگاه AI & Big Data را که در آمستردام ، کالیفرنیا و لندن برگزار می شود ، بررسی کنید. این رویداد جامع با سایر رویدادهای پیشرو از جمله کنفرانس اتوماسیون هوشمند ، BlockX ، هفته تحول دیجیتال و Cyber Security & Cloud Expo همکاری می کند.

سایر رویدادهای آینده فناوری شرکت و وبینارهای موجود در TechForge را در اینجا کاوش کنید.