ایلان ماسک و استیو وزنیاک از OpenAI می خواهند که ارتقاء ChatGPT را متوقف کند

گروهی از فن‌آوران برجسته، محققان و سایر تأثیرگذاران از OpenAI می‌خواهند دکمه مکث آموزش ابزار مصنوعی خود، ChatGPT را بزند.

چهره‌های برتر هوش مصنوعی – از جمله ایلان ماسک، استیو وزنیاک و اندرو یانگ – ظاهراً نامه‌ای سرگشاده امضا کرده‌اند که در آن خواستار توقف شش ماهه توسعه سیستم‌های هوش مصنوعی قوی‌تر از GPT-4، نسخه فعلی ابزار تولیدی است که برای اولین بار در نوامبر 2022.

در این نامه، نویسندگان تاکید می‌کنند که اگر شرکت خصوصی نتواند آموزش هوش مصنوعی خود را فراتر از پیاده‌سازی فعلی GPT4 متوقف کند، «دولت‌ها» باید این موضوع را مجبور کنند.

ما از همه آزمایشگاه‌های هوش مصنوعی می‌خواهیم که آموزش سیستم‌های هوش مصنوعی قدرتمندتر از GPT-4 را به مدت حداقل 6 ماه متوقف کنند. این مکث باید عمومی و قابل تأیید باشد و همه بازیگران کلیدی را شامل شود. در این نامه آمده است: اگر چنین مکثی نمی تواند به سرعت اعمال شود، دولت ها باید وارد عمل شوند و یک تعلیق وضع کنند.

این نامه در حال حاضر بیش از 1100 امضا را نشان می دهد. برخی دارند این سوال که آیا همه امضا کنندگان نام بزرگ اما در واقع نامه را امضا کرد. نام‌های قابل توجه عبارتند از برنده جایزه تورینگ، یوشوا بنجیو، استوارت راسل، مدیر مرکز سیستم‌های هوشمند، عماد موستاک، مدیر عامل هوش مصنوعی پایداری و کریس لارسن، بنیانگذار ریپل.

سخنگوی این پروژه گفت که اولین امضاها دوبار بررسی شده اند، اما نمایش اسامی به دلیل تقاضای زیاد متوقف شده است.

آنتونی آگویر، معاون رئیس مؤسسه آینده زندگی گفت: «تمام امضاکنندگان برتر فهرست به طور مستقل تأیید شده اند. رمزگشایی. وی افزود: انجام این کار برای کل لیست (که اکنون بیش از 30000 نفر است) از ظرفیت ما فراتر است.

در یادداشتی در این سایت آمده است: «به دلیل تقاضای زیاد، ما همچنان در حال جمع‌آوری امضا هستیم، اما ظاهر آن‌ها در نامه را متوقف می‌کنیم تا روند بررسی ما بتواند به نتیجه برسد.»

ماسک، یکی از بنیانگذاران OpenAI، در سال 2018 از هیئت مدیره استعفا داد اما طبق گزارش ها، 100 میلیون دلار در این پروژه سرمایه گذاری کرده است.

ورود GPT4 در دو هفته پیش، هم هیجان را ایجاد کرده است – با برخی از آن‌ها که ورود آن را مهم‌تر از ظهور آتش می‌دانند – و هم هشدار را در میان افراد نگران که کنترل نشده‌اند، ایجاد کرده است. می تواند بشریت را نابود کند.

در این نامه ادعا شده است که سیستم های هوش مصنوعی با هوش رقابتی انسان، خطرات قابل توجهی برای جامعه و بشریت به همراه دارند. این سازمان استدلال می‌کند که تمرکز باید بر روی دقیق‌تر، ایمن‌تر کردن، شفاف‌تر کردن، قوی‌تر و قابل اعتماد‌تر کردن سیستم‌های موجود باشد و در عین حال توسعه سیستم‌های حکمرانی هوش مصنوعی را تسریع بخشد.

این موسسه می‌گوید: «بشریت می‌تواند با هوش مصنوعی از آینده‌ای رو به شکوفایی برخوردار شود. ما می توانیم این کار را در اینجا انجام دهیم. بیایید از تابستان طولانی هوش مصنوعی لذت ببریم، نه اینکه برای پاییز عجله کنیم.»

ماسک در پاسخ به توئیتی درباره این طومار، پاسخ داد: «پیشرو [artificial intelligence] توسعه دهندگان به این هشدار توجه نخواهند کرد، اما حداقل گفته شده است.

OpenAI هنوز به یک درخواست برای اظهار نظر پاسخ نداده است.