کارشناسان هوش مصنوعی و رهبران صنعت، از جمله ایلان ماسک، استاد علوم کامپیوتر دانشگاه کالیفرنیا برکلی، استوارت راسل، و یکی از بنیانگذاران شرکت اپل، استیو وزنیاک، از توسعه‌دهندگان می‌خواهند که دکمه مکث آموزش مدل‌های قدرتمند هوش مصنوعی را فشار دهند.
بیش از 1100 نفر در این صنعت طوماری را امضا کردند که خواستار وقفه ای شش ماهه از آموزش سیستم های هوش مصنوعی قدرتمندتر از آخرین نسخه ChatGPT OpenAI بودند تا امکان توسعه پروتکل های ایمنی مشترک فراهم شود.
در نامه سرگشاده‌ای که در تاریخ منتشر شد، آمده است: «ماه‌های اخیر شاهد بوده‌ایم که آزمایشگاه‌های هوش مصنوعی در مسابقه‌ای خارج از کنترل برای توسعه و استقرار ذهن‌های دیجیتالی قدرتمندتر که هیچ‌کس – حتی سازندگان آن‌ها – نمی‌توانند آن‌ها را درک، پیش‌بینی یا به‌طور قابل اعتماد کنترل کنند، قفل کرده‌اند. وب سایت موسسه آینده زندگی سیستم‌های هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آن‌ها مثبت و خطرات آن‌ها قابل مدیریت خواهد بود.»
این فراخوان پس از راه‌اندازی یک سری پروژه‌های هوش مصنوعی در چند ماه گذشته صورت گرفت که به طور متقاعدکننده‌ای وظایف انسانی مانند نوشتن ایمیل و خلق آثار هنری را انجام می‌دادند. OpenAI تحت حمایت شرکت مایکروسافت GPT-4 خود را در این ماه منتشر کرد، یک ارتقاء بزرگ در چت ربات مجهز به هوش مصنوعی خود، که قادر به گفتن جوک و گذراندن تست هایی مانند آزمون وکالت است.
همچنین تنش‌های مداوم بین ماسک و OpenAI را برجسته می‌کند. آزمایشگاه تحقیقاتی غیرانتفاعی در سال 2015 با ماسک به عنوان رئیس مشترک و سام آلتمن، که همچنین مدیر اجرایی OpenAI است، تأسیس شد. در آن زمان، هدف OpenAI «پیشبرد هوش دیجیتالی به شیوه‌ای بود که به احتمال زیاد به نفع بشریت به‌عنوان یک کل باشد، بدون محدودیت نیاز به ایجاد بازده مالی».
ماسک که چندین شرکت از جمله شرکت تسلا را اداره می کند، هیئت مدیره OpenAI را در سال 2018 ترک کرد. او از این سازمان انتقاد کرده است که در سال 2019 یک بازوی انتفاعی ایجاد کرد و گفت که این سازمان به یک “شرکت منبع بسته و با حداکثر سود که به طور موثر توسط مایکروسافت کنترل می شود” تبدیل شده است. و اینکه «از مسیر فضیلت بسیار دور شده است». به گفته The Information، ماسک همچنین به دنبال ایجاد یک آزمایشگاه تحقیقاتی رقیب بوده است. در همین حال، آلتمن در یک پادکست اخیر با کارا سویشر، روزنامه‌نگار فناوری، گفت که ماسک یک «دنده» است، در حالی که به اعتقاد او ماسک «در مورد اینکه آینده بشریت چگونه خواهد بود بسیار استرس دارد».
هانا وونگ، سخنگوی OpenAI، گفت که آلتمن – که نامش در لیست امضاکنندگان سه شنبه شب آمده بود – طومار را امضا نکرد. وونگ گفت: «همچنین فکر می‌کنم مهم است که به این نکته اشاره کنیم که ما بیش از شش ماه – پس از پایان آموزش GPT-4 – روی ایمنی و تراز مدل صرف کردیم.
گوگل و مایکروسافت متعلق به آلفابت از جمله شرکت هایی هستند که از هوش مصنوعی برای بهبود موتورهای جستجوی خود استفاده می کنند، در حالی که مورگان استنلی از GPT-4 برای ایجاد یک ربات چت برای مشاوران ثروت خود استفاده می کند.
بر اساس این نامه، توسعه دهندگان باید با سیاست گذاران برای ایجاد سیستم های جدید حکمرانی هوش مصنوعی و نهادهای نظارتی همکاری کنند. این سازمان از دولت‌ها می‌خواهد که در توسعه سیستم‌های هوش مصنوعی مداخله کنند، اگر بازیگران اصلی فوراً با توقف عمومی و قابل تأیید موافقت نکردند.
در این بیانیه آمده است: «تحقیق و توسعه هوش مصنوعی باید بر روی ساختن سیستم‌های قدرتمند و پیشرفته امروزی دقیق‌تر، ایمن‌تر، قابل تفسیرتر، شفاف‌تر، قوی‌تر، همسوتر، قابل اعتمادتر و وفادارتر باشد.
براساس بیانیه این موسسه، یوشوا بنجیو، موسس و مدیر علمی موسسه تحقیقاتی هوش مصنوعی کانادایی میلا، این طومار را امضا کرد. عماد مستقی، بنیانگذار و مدیر عامل Stability AI نیز گفت که آن را امضا کرده است.
“ما قابلیت های شگفت انگیز GPT-4 و سایر مدل های عظیم را دیده ایم. مستق گفت که کسانی که اینها را می سازند، گفته اند که می توانند یک تهدید وجودی برای جامعه و حتی بشریت باشند، بدون هیچ برنامه ای برای کاهش کامل این خطرات. زمان آن فرا رسیده است که اولویت‌های تجاری را کنار بگذاریم و به‌جای رقابت برای آینده‌ای مبهم، به نفع همگان مکث کنیم.»
موسسه آینده زندگی یک موسسه غیرانتفاعی است که به دنبال کاهش خطرات مرتبط با فناوری های قدرتمند است و بنیاد ماسک را بزرگترین مشارکت کننده آن می داند.
آنتونی آگویر، سخنگوی این موسسه گفت: «همه امضاکنندگان برتر فهرست به طور مستقل تأیید شده اند. “انجام این کار برای کل لیست از ظرفیت ما فراتر است.”
سخنگوی مرکز فناوری انسانی که مدیر اجرایی آن، تریستان هریس، نامه را امضا کرده است، گفت که اقداماتی برای جلوگیری از امضاهای جعلی در حال انجام است. سخنگوی در ایمیلی گفت که امضاکنندگان جدید اکنون نیاز به بررسی انسانی قبل از ورود به سایت دارند، و همه امضاکنندگان برجسته فهرست شده با ارتباط مستقیم بررسی شده اند.
عکس: ایلان ماسک عکاس: اندرو هارر/بلومبرگ
حق چاپ 2023 بلومبرگ.
موضوعات
توسعه آموزش رهبری InsurTech مبتنی بر داده
علاقه مند به Ai?
دریافت هشدارهای خودکار برای این موضوع.
