داستان تا اینجا: در 29 مارس، ایلان ماسک و گروهی از کارشناسان هوش مصنوعی نامه‌ای سرگشاده امضا کردند که در آن خواستار توقف توسعه سیستم‌های هوش مصنوعی (AI) که قدرتمندتر از مدل زبان بزرگ OpenAI (LLM) GPT-4 هستند، شدند. این نامه که در زمان نگارش بیش از 1300 امضاکننده داشت، از همه آزمایشگاه‌های هوش مصنوعی خواسته بود تا آموزش سیستم‌های قدرتمندتر از GPT-4 را برای حداقل شش ماه متوقف کنند.
نامه چه می گوید؟
موسسه آینده زندگی (FLI) با استناد به یکی از اصول هوش مصنوعی Asilomar در مورد اینکه چگونه پیشرفت‌های هوش مصنوعی می‌تواند عمیقاً بر زندگی افراد تأثیر بگذارد، نامه‌ای صادر کرد که خاطرنشان کرد: «آزمایشگاه‌های هوش مصنوعی در یک مسابقه خارج از کنترل برای توسعه و استقرار قدرتمندتر هستند. ذهن‌های دیجیتالی که هیچ‌کس – حتی سازندگان آنها – نمی‌توانند آنها را بفهمند، پیش‌بینی کنند یا به‌طور قابل اعتماد کنترل کنند.» اصول هوش مصنوعی Asilomar یکی از اولین مجموعه‌ای از اصول حاکم بر هوش مصنوعی است که در کنفرانس هوش مصنوعی سودمند 2017 به میزبانی FLI ارائه شد.
زمینه چیست؟
نامه سرگشاده FLI در بحبوحه توسعه و استقرار سریع فناوری هوش مصنوعی در چندین صنعت منتشر شده است. از آنجایی که OpenAI در ماه نوامبر چت ربات از پیش آموزش‌دیده (GPT) خود را کنار گذاشت و به مردم اجازه داد آزادانه با ChatGPT تعامل داشته باشند، افزایش چشمگیری در پذیرش هوش مصنوعی توسط بسیاری از شرکت‌ها وجود داشته است.
چت ربات تحت حمایت مایکروسافت با پاسخ های فوری و اغلب مناسب خود مردم را شگفت زده کرد. می تواند کدهای نرم افزار را تصحیح کند و تقریباً همه چیز را در اینترنت توضیح دهد. تقریباً سه ماه پس از راه‌اندازی، این شرکت به توسعه‌دهندگان اجازه داد تا API ChatGPT را با هزینه‌ای با برنامه‌های خود ادغام کنند. نسخه Enterprise چت بات با نام ChatGPT Plus قبلاً توسط Snapchat، Unreal Engine و Shopify در برنامه های خود ادغام شده است. چنین پذیرش سریع توسط مشاغل باعث افزایش رقابت می شود. گوگل دستکش را در دست گرفته است. شرکت متعلق به آلفابت، Bard، نسخه ای از مدل زبان Lamda خود را راه اندازی کرد. در چین، غول اینترنتی بایدو Ernie را راه اندازی کرده است، یک چت ربات مبتنی بر هوش مصنوعی که می تواند صورت های مالی را خلاصه کند. به طور جداگانه، آزمایشگاه رسانه ای موسسه فناوری ماساچوست، ELSA، یک ربات هوش مصنوعی را توسعه داده است که می تواند به عنوان یک مشاور روان درمانی عمل کند. به طور بالقوه می توان آن را در جلسات درمان شناختی رفتاری به کار برد.
چرا نامه FLI بر GPT-4 تمرکز دارد؟
در 14 مارس، OpenAI پیشرفته ترین LLM خود را راه اندازی کرد: GPT-4. این مدل در مقایسه با 175 میلیارد پارامتر ChatGPT بر روی یک تریلیون پارامتر آموزش دیده است. دسترسی به چنین مجموعه داده بزرگی به GPT-4 اجازه می دهد تا الگوهای پیچیده و تفاوت های ظریف را در زبان طبیعی بسیار بهتر از نسخه قبلی خود بیاموزد و درک کند. بر خلاف ChatGPT، GPT-4 قادر به رسیدگی به پرس و جوهای متنی و مبتنی بر تصویر است. این باعث می شود در مقایسه با سایر مدل های زبان هوش مصنوعی همه کاره باشد. چنین پیشرفت های چند وجهی مقیاس GPT-4 را برای نزدیک شدن به هوش عمومی مصنوعی (AGI) می دهد. این بدان معناست که هوش ماشینی می تواند به خوبی هوش انسان باشد. دانشمندان علوم کامپیوتر و اخلاق مداران با این احتمال دست و پنجه نرم می کنند. حتی سم آلتمن، یکی از بنیانگذاران OpenAI، در مورد جنبه منفی بالقوه AGI نوشت که این فناوری می تواند با “خطر جدی سوء استفاده، حوادث شدید و اختلالات اجتماعی همراه باشد.” او از توسعه دهندگان AGI خواست تا راهی برای درست کردن آن بیابند. او نوشت: «یک انتقال تدریجی به مردم، سیاست‌گذاران و مؤسسات زمان می‌دهد تا بفهمند چه اتفاقی می‌افتد، شخصاً مزایا و معایب این سیستم‌ها را تجربه کنند، اقتصاد ما را تطبیق دهند، و مقررات وضع کنند».
نظر کارشناسان هوش مصنوعی چیست؟
کارشناسان هوش مصنوعی که نامه FLI را امضا کرده‌اند، به ظهور ربات‌های مبتنی بر LLM از نقاط مختلف نگاه می‌کنند. برخی این تحولات را به عنوان تسریع بشریت به سمت سناریوی روز قیامت می دانند که در آن ماشین ها بر انسان ها پیروز خواهند شد. برخی دیگر این پیشرفت ها را هوش متوسطی می دانند که به طور بالقوه غیرقابل اعتماد هستند.
آیا تاثیر مطلوب خواهد داشت؟
به سختی می توان گفت که آیا نامه تأثیر مطلوب خود را خواهد داشت زیرا OpenAI در حال آموزش جانشین GPT-4 است. و شرکت تحت حمایت مایکروسافت هنوز به این نامه سرگشاده پاسخی نداده است. به گفته برخی از توسعه دهندگان و کارآفرینان فناوری، GPT-5 می تواند برای انسان غیرقابل تشخیص باشد و مدل زبان می تواند تا پایان سال جاری به AGI دست یابد. این پیش بینی در زمانی انجام می شود که هیچ مقرراتی برای اجرای ممنوعیت توسعه هوش مصنوعی وجود ندارد. در حال حاضر، دولت ها هیچ ابزار سیاستی برای توقف کار در توسعه هوش مصنوعی ندارند.
این آخرین مقاله رایگان شماست.
