OpenAI، Google و Microsoft خواستار قوانینی برای جلوگیری از “خطر انقراض از AI” هستند

نامه سرگشاده جدیدی از صدها محقق و رهبر هوش مصنوعی خواستار مقررات بیشتر برای جلوگیری از انقراض بشریت شده است.

مدیران عامل فناوری، رهبران و بسیاری دیگر بار دیگر با هم متحد شده اند تا خواستار مقررات بیشتر فناوری هوش مصنوعی شوند. با ادامه رونق هوش مصنوعی، این نگرانی در حال افزایش است که هوش مصنوعی می تواند به طور بالقوه برای نسل بشر فاجعه آمیز باشد.

سام آلتمن، مدیر عامل OpenAI پیش از این نامه را به همراه رئیس گوگل دیپ مایند و نماینده ای از مایکروسافت امضا کرده است.

از جمله جفری هینتون است که اخیراً پست خود را در گوگل ترک کرده است. علیرغم گذراندن سالها در هوش مصنوعی، او با هشدارهای خود برای آینده در صورت عدم نظارت بر آن کاملاً باز بوده است.

این نامه از سوی مرکز ایمنی هوش مصنوعی آمده است که در مورد خطرات احتمالی پیرامون هوش مصنوعی تحقیق می کند.

آلتمن اخیراً اشاره کرده است که کارهایی که با هوش مصنوعی انجام می شود نیاز به نگهبانی شبیه به سلاح های هسته ای دارد. این مقایسه دوباره در اینجا مطرح می شود.

به جای یک نامه کامل، در حال حاضر، فقط یک بیانیه وجود دارد:

کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند بیماری های همه گیر و جنگ هسته ای یک اولویت جهانی باشد.

مرکز ایمنی هوش مصنوعی

این نامه با نسخه درخواست “مکث” در توسعه، که ایلان ماسک و استیو وزنیاک، بنیانگذار اپل را دیدند، متفاوت است. این نامه عمدتاً به دلیل عدم پشتیبانی آزمایشگاه‌های هوش مصنوعی نادیده گرفته شد.

رهبران هوش مصنوعی خواهان مقرراتی برای جلوگیری از انقراض هستند

با این حال، جزر و مد تغییر کرده است و شرکت‌هایی که فعالانه هوش مصنوعی را توسعه می‌دهند، اکنون به دنبال مقررات هستند در صورتی که آنها یا شخص دیگری چیزی با هوش فوق‌العاده ایجاد کنند.

خطرات موجود در یک پست وبلاگ قبلی توسط آلتمن به تفصیل بیان شد، جایی که او اشاره می کند که به دلیل طیف گسترده ای از ابزارهای در دسترس عموم، جلوگیری از ایجاد آن غیرممکن است.

OpenAI در خط مقدم این درخواست نظارتی قرار داشته است، که قبلاً توسط کنگره ایالات متحده مورد سؤال قرار گرفته بود و موافقت کرده بود که در واقع به محدودیت‌های بیشتری نیاز دارد.

هوش مصنوعی سریع‌تر از هر کسی که گمان می‌رود در حال پیشرفت است، اما تعداد کمی اشاره کرده‌اند که مدل‌های زبان موجود به اندازه‌ای که تصور می‌شود هوشمند نیستند. در همین حال، دیگران از ابزارهای فعلی برای ساختن ماشین‌های تحقیقاتی برای کاوش در وب تاریک یا نابود کردن خود بشریت استفاده می‌کنند.