ایلان ماسک در یک کنفرانس مطبوعاتی صحبت می کند. عکس: جیم واتسون/ خبرگزاری فرانسه از طریق گتی ایماژ
ده‌ها دانشمند، کارشناس و رهبر فناوری، از جمله ایلان ماسک، مدیرعامل توییتر و تسلا، اخیراً نامه‌ای امضا کرده‌اند که در آن از آزمایشگاه‌های تولیدکننده هوش مصنوعی (AI) خواسته شده است تا سرعت تولید را کاهش دهند تا خطرات احتمالی مورد مطالعه و تحقیق قرار گیرد.
چرا مهم است: برنامه‌های هوش مصنوعی مانند ChatGPT و GPT-4 راه درازی را در جلب توجه عمومی پیموده‌اند، اما هنوز در متقاعد کردن بزرگ‌ترین رهبران فناوری که جامعه برای آنها آماده است، مشکل دارند.
اخبار رانندگی: ماسک، استیو وزنیاک از بنیانگذاران اپل، اندرو یانگ نامزد ریاست جمهوری 2020 و بیش از 1000 نفر دیگر نامه ای سرگشاده به آزمایشگاه های هوش مصنوعی امضا کردند و از آنها خواستند تا فوراً تولید مدل های هوش مصنوعی قدرتمندتر از GPT-4 را متوقف کنند – آخرین به روز رسانی آن. موتور مولد متن – حداقل برای شش ماه.
- “این کار می کند نه در نامه بیان شده است که به معنای توقف توسعه هوش مصنوعی به طور کلی است، بلکه یک گام به عقب از مسابقه خطرناک به سمت مدل‌های جعبه سیاه غیرقابل پیش‌بینی بزرگتر با قابلیت‌های نوظهور است.
- این نامه می افزاید: «اگر چنین مکثی نمی تواند به سرعت اعمال شود، دولت ها باید وارد عمل شوند و یک تعلیق وضع کنند.»
متن نوشته: در این نامه به طور خاص به GPT-4 اشاره شده است، یک ابزار هوش مصنوعی مولد که قدرتمندتر از ChatGPT OpenAI در نظر گرفته می شود.
در اینجا چند خط کلیدی وجود دارد از نامه سرگشاده:
- در مورد اطلاعات غلط: سیستم‌های هوش مصنوعی امروزی در حال تبدیل شدن به رقابت با انسان در وظایف عمومی هستند، و ما باید از خود بپرسیم: آیا باید به ماشین‌ها اجازه دهیم کانال‌های اطلاعاتی ما را پر از تبلیغات و نادرست کنند؟
- در مورد جایگزینی انسان ها: “آیا باید تمام مشاغل، از جمله کارهای انجام‌دهنده را خودکار کنیم؟ آیا باید ذهن‌های غیرانسانی را پرورش دهیم که ممکن است در نهایت از تعداد، پیشی گرفته، منسوخ و جایگزین ما شوند؟ آیا باید خطر از دست دادن کنترل تمدن خود را داشته باشیم؟»
- با هدف هوش مصنوعی: سیستم‌های هوش مصنوعی قدرتمند تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آنها مثبت و خطرات آنها قابل مدیریت خواهد بود.»
نامه از آزمایشگاه‌های هوش مصنوعی و کارشناسان خواست تا با هم همکاری کنند تا پروتکل‌های ایمنی طراحی و توسعه هوش مصنوعی را «به طور مشترک توسعه و پیاده‌سازی کنند» که پس از آن باید «توسط کارشناسان مستقل خارجی بازرسی و نظارت شود».
حباب فکر ما از طريق پیتر آلن کلارک از Axios: تعداد کمی از پیشرفت‌های فنی، در صورت وجود، با سطح پیش‌اندیشی و یکنواختی درخواست نویسندگان نامه همراه است. در ایالات متحده، نیروهای بازار برای مدت طولانی محرک اصلی رشد نوآوری های خاص بوده اند.
- علاوه بر این، به نظر می رسد ارتباط با سیاست گذاران در گوش های ناشنوا قرار گیرد. قانونگذاران ایالات متحده به طرز تاسف باری از تأثیر پیشرفت های فناوری بر کشور عقب مانده اند – آنها هنوز در حال مبارزه با ظهور رسانه های اجتماعی هستند.
اطلاعات بیشتر از Axios:
انحصاری: GPT-4 به راحتی اطلاعات نادرست را منتشر می کند
چگونه ChatGPT به اتفاق بزرگ بعدی تبدیل شد
