On 14 فوریه، کوین روز، نیویورک تایمز ستون نویس فناوری، مکالمه ای دو ساعته با بینگ، موتور جستجوی مایکروسافت ChatGPT داشت. او از این تجربه ظاهراً مردی متحول شد، زیرا چت بات، از جمله، به او گفته بود که دوست دارد انسان باشد، امیال مخربی در سر دارد و عاشق اوست.
متن مکالمه همراه با ظاهر روز روی کاغذ روزانه پادکست، بلافاصله وحشت اخلاقی را در مورد پیامدهای مدل‌های زبانی بزرگ (LLM) مانند GPT-3.5 (که ظاهراً زیربنای بینگ است) و سایر ابزارهای “هوش مصنوعی مولد” که اکنون در جهان بی‌کار هستند، تشدید کرد. این‌ها به‌عنوان مصنوعات غیرقابل اعتماد مزمن، به عنوان نمونه‌هایی از فناوری خارج از کنترل یا به‌عنوان پیش‌آهنگ‌های به اصطلاح هوش عمومی مصنوعی (AGI) – یعنی هوش در سطح انسان – و در نتیجه تهدیدی وجودی برای بشریت دیده می‌شوند.
همراه با این هیستری یک عجله طلای جدید است، زیرا سرمایه گذاران خطرپذیر و سایر سرمایه گذاران تلاش می کنند تا وارد عمل شوند. به نظر می رسد که تمام آن پول سوراخ هایی در جیب های بسیار عمیق می سوزاند. حیف که این جنبه های خنده دار خود را دارد. برای مثال، این نشان می‌دهد که چت‌بات‌ها و LLMها جایگزین کریپتو و وب 3.0 به‌عنوان چیز بزرگ بعدی شده‌اند، که به نوبه‌ی خود تأیید می‌کند که صنعت فناوری مجموعاً دامنه توجه یک نیوتن را دارد.
با این حال، عجیب‌ترین چیز این است که جرقه‌های هیاهو توسط چیزی که یکی از محققان برجسته آن «طوطی‌های تصادفی» نامیده‌اند، برانگیخته شده است – به این معنی که چت‌بات‌های مبتنی بر LLM ماشین‌هایی هستند که به طور مداوم پیش‌بینی می‌کنند کدام کلمه از نظر آماری بیشترین احتمال را دارد که دنبال شود. قبلی و این جادوی سیاه نیست، بلکه یک فرآیند محاسباتی است که به خوبی درک شده است و توسط پروفسور موری شاناهان به وضوح توصیف شده و توسط دانشمند کامپیوتر استفان ولفرم به زیبایی تشریح شده است.
چگونه می توانیم این همه دیوانگی را درک کنیم؟ یک مکان خوب برای شروع این است که مردم را از تمایل درمان ناپذیرشان برای تفسیر ماشین ها به روش های انسان محور دور کنیم. از زمان الیزا جو وایزنبام، به نظر می‌رسد انسان‌هایی که با چت‌بات‌ها در تعامل هستند، می‌خواهند کامپیوتر را انسانی کنند. این امر در مورد Eliza – که صرفاً یک اسکریپت نوشته شده توسط خالقش را اجرا می کرد – پوچ بود – بنابراین شاید قابل درک باشد که انسان هایی که اکنون با ChatGPT در تعامل هستند – که ظاهراً می تواند هوشمندانه به ورودی انسان پاسخ دهد – باید در همان دام بیفتند. اما هنوز هم گنگ است.
تغییر نام مستمر LLM به عنوان “AI” نیز کمکی نمی کند. این ماشین‌ها مطمئناً مصنوعی هستند، اما به نظر من برای در نظر گرفتن آنها به عنوان “هوشمند” نیاز به درک بسیار ضعیفی از هوش است. با این حال، برخی از ناظران، مانند فیلسوف بنجامین براتون و دانشمند کامپیوتر بلیز آگوئرا و آرکاس، کمتر نادیده گرفته می شوند. آنها اذعان می کنند که “ممکن است” این نوع هوش مصنوعی بسته به نحوه تعریف آن عبارات “هوشمند” – و حتی “آگاه” باشند. به روش‌های به شدت انسان‌محور تعریف شده است». آنها استدلال می کنند که ما باید احساس را از هوش و آگاهی تشخیص دهیم و اینکه «درس واقعی برای فلسفه هوش مصنوعی این است که واقعیت برای تجزیه آنچه در حال حاضر در دسترس است از زبان موجود پیشی گرفته است. واژگان دقیق تر ضروری است.»
این است. با این حال، فعلاً ما در هیستری گیر کرده ایم. یک سال زمان بسیار زیادی در این صنعت است. فقط دو سال پیش، به یاد داشته باشید، چیزهای بزرگ بعدی قرار بود کریپتو/وب 3.0 و محاسبات کوانتومی باشد. اولی زیر بار پوچ بودن خود فرو ریخته است، در حالی که دومی، مانند همجوشی هسته ای، هنوز در افق است.
با چت‌بات‌ها و LLMها، محتمل‌ترین نتیجه این است که در نهایت به‌عنوان افزایش قابل‌توجهی از قابلیت‌های انسانی در نظر گرفته می‌شوند (صفحه‌های گسترده در مورد استروئیدها، همانطور که یکی از همکاران بدبین گفت). اگر این اتفاق بیفتد، ذینفعان اصلی (مانند تمام عجله‌های طلای قبلی) ارائه‌دهندگان بیل‌ها و بیل‌ها خواهند بود، که در این مورد منابع محاسبات ابری مورد نیاز فناوری LLM و متعلق به شرکت‌های بزرگ هستند.
با توجه به آن، آیا جالب نیست که تنها چیزی که در حال حاضر هیچ کس در مورد آن صحبت نمی کند، تأثیر محیطی حجم عظیم محاسبات مورد نیاز برای آموزش و راه اندازی LLM است؟ دنیایی که به آنها وابسته است ممکن است برای تجارت خوب باشد، اما مطمئناً برای کره زمین بد خواهد بود. شاید این همان چیزی است که سم آلتمن، مدیر عامل OpenAI، ابزاری که ChatGPT را ایجاد کرد، در نظر داشت وقتی مشاهده کرد که “به احتمال زیاد هوش مصنوعی به پایان جهان منجر خواهد شد، اما در این بین، شرکت های بزرگی وجود خواهند داشت.” .
چیزی که من خوانده ام
پروفایل درد
رسانه‌های اجتماعی عامل اصلی همه‌گیری بیماری‌های روانی در دختران نوجوان هستند، یک نظرسنجی قابل توجه توسط روان‌شناس جاناتان هایت است.
ازدحام خشنودتر
آنچه شاعر، پلی‌بوی و پیامبر حباب‌ها هنوز می‌توانند به ما بیاموزند، مقاله‌ای دوست‌داشتنی از تیم هارفورد در مورد جنون جمعیت است.
حق امتیاز فنی
آنچه مری، ملکه اسکاتلند، می تواند به گیک های امروزی امنیت کامپیوتر آموزش دهد، یک پست جذاب توسط روپرت گودوینز در ثبت نام است.
