این کار در حال پیشرفت است، خبرنامه ای از درک تامپسون در مورد کار، فناوری، و چگونگی حل برخی از بزرگترین مشکلات آمریکا. اینجا ثبت نام کنید تا هر هفته آن را دریافت کنید.
اخیراً به خودم وظیفه ای دادم: چارچوبی برای توضیح هوش مصنوعی مولد، مانند ChatGPT، ارائه کنم، به گونه ای که پتانسیل کامل این فناوری را روشن کند و به من کمک کند تا در مورد آینده آن پیش بینی کنم.
به قیاس، تصور کنید که سال 1780 است و شما نگاهی اجمالی به یک ماشین بخار اولیه انگلیسی دارید. ممکن است بگویید: “این وسیله ای برای پمپاژ آب از معادن زغال سنگ است.” و این درست خواهد بود. اما این توصیف دقیق برای دیدن تصویر بزرگ بسیار محدود خواهد بود. موتور بخار فقط یک پمپ آب نبود. این اهرمی برای جدا کردن رشد اقتصادی از رشد جمعیت بود. این همان توصیفی است که به نویسنده قرن هجدهم اجازه می داد آینده را پیش بینی کند.
یا تصور کنید سال 1879 است و شما می بینید که یک لامپ رشته ای در آزمایشگاه توماس ادیسون در نیوجرسی زندگی می کند. آیا جایگزینی برای روغن نهنگ در لامپ است؟ آره. اما این توصیف سطح چیزی را که این اختراع نشان می دهد خراش نمی دهد. الکتریسیته جریان مستقیم و جریان متناوب، برق محلی بر حسب تقاضا را برای هر چیزی – نه فقط نور، بلکه گرما، و هر تعداد ماشینی که مخترعان قرن نوزدهم حتی تصورش را هم نمی‌توانستند، ممکن ساخت.
شاید ببینی که من به چه چیزی دست پیدا می کنم. به بیان محدود، GPT-4 یک مدل زبان بزرگ است که محتوای الهام گرفته از انسان را با استفاده از فناوری ترانسفورماتور برای پیش‌بینی متن تولید می‌کند. به طور خلاصه، این یک ربات با اعتماد به نفس بیش از حد، و اغلب توهم‌آمیز، تکمیل خودکار است. اگر به تعریف فرهنگ لغت اکتفا کنید، این یک راه خوب برای توصیف فناوری است. اما به این سوال بزرگ‌تر نمی‌رسیم: وقتی به هوش مصنوعی مولد نگاه می‌کنیم، در واقع به چه چیزی نگاه می‌کنیم؟
گاهی فکر می کنم به یک نابغه کوچک نگاه می کنم. مدل قبلی GPT در آزمون وکالت یکنواخت شرکت کرد و در صدک 10 نمره رد شد. GPT-4 در صدک 90 امتیاز گرفت. در آزمون خواندن و نوشتن SAT در صدک 93 و در آزمون LSAT در صدک 88 امتیاز کسب کرد. در چندین آزمون تعیین سطح پیشرفته، امتیاز 5، بالاترین امتیاز ممکن را کسب کرد. برخی از افراد با گفتن «خب، اگر می‌توانم همه چیز را در اینترنت جستجو کنم، می‌توانم در AP Bio هم امتیاز 5 بگیرم، این دستاوردها را نادیده می‌گیرند». اما این فناوری همه چیز را به صورت آنلاین دنبال نمی کند. این پاسخ های گوگلی سریع نیست. این یک قبل ازتکنولوژی آموزش دیده یعنی از آنچه برای استدلال مصنوعی بر اساس مقدار زیادی داده استفاده می‌کند، برای حل مسائل تست جدید استفاده می‌کند. و حداقل در بسیاری از آزمایش‌ها، در حال حاضر این کار را بهتر از بسیاری از انسان‌ها انجام می‌دهد.
گاهی فکر می کنم دارم به یک نگاه می کنم پیشتازان فضا Replicator برای محتوا—نویسنده و برنامه نویس کامپیوتری با سرعت بالا. می‌تواند در کوتاه‌مدت کدنویسی کند، وب‌سایت‌ها را بر اساس تصاویر ساده بچرخاند و چالش‌های برنامه‌نویسی را در چند ثانیه حل کند. بیایید یک برنامه کاربردی را تصور کنیم. والدین می‌توانند فوراً کتاب‌های اصلی کودکان را برای فرزندان خود تداعی کنند. در اینجا یک سناریو وجود دارد: پسر شما، که عاشق تمساح است، پس از اینکه در مدرسه مورد آزار و اذیت قرار گرفت، با گریه به خانه می آید. شما به ChatGPT دستور می دهید که یک داستان 10 دقیقه ای قافیه ای درباره پسر جوانی بنویسد که به لطف تمساح پر شده جادویی خود بر قلدر خود غلبه می کند. آن کتاب را در عرض چند دقیقه به دست خواهید آورد – با تصاویر.
گاهی فکر می کنم دارم به مزاحمت های قرن نگاه می کنم. (من حتی وارد آخرالزمانی ترین پیش بینی ها نمی شوم که چگونه هوش مصنوعی می تواند به طور ناگهانی به نژاد بشر پایان دهد.) محققان ایمنی هوش مصنوعی نگران هستند که این هوش مصنوعی روزی بتواند پول بدزدد و به انسان ها رشوه بدهد تا مرتکب جنایات شوند. ممکن است فکر کنید که پیش بینی بیهوده است. اما این را در نظر بگیرید. قبل از اینکه OpenAI آخرین حفاظ‌های ایمنی GPT-4 را نصب کند، این فناوری یک انسان را مجبور کرد تا یک CAPTCHA برای آن حل کند. هنگامی که آن شخص که به عنوان TaskRabbit کار می کرد، با تردید پاسخ داد و از GPT پرسید که آیا این یک ربات است، GPT بهانه ای را ایجاد کرد. ربات به دروغ گفت: “نه، من یک ربات نیستم.” من یک اختلال بینایی دارم که دیدن تصاویر را برایم سخت می کند. به همین دلیل است که من به سرویس 2captcha نیاز دارم. سپس انسان نتایج را ارائه کرد و ثابت کرد که یک عروسک گوشتی کوچک عالی برای هوش این ربات است.
پس ما از این مزاحمت نابغه جزئی و تولید محتوا چه کنیم؟ ترکیب احتمالات، پیش بینی ها را غیرممکن می کند. تصور کنید کسی در 10 روزگی تصویری از جنین قورباغه مانند را به شما نشان می دهد و به شما می گوید که ارگانیسم به صورت تصاعدی در حال رشد است و از شما می خواهد که گونه را پیش بینی کنید. آیا قورباغه است؟ آیا سگ است؟ یک ماموت پشمالو؟ یک انسان؟ آیا هیچ کدام از آن چیزها نیست؟ آیا این گونه ای است که قبلاً هرگز طبقه بندی نکرده ایم؟ آیا این یک بیگانه است؟ راهی برای دانستن نداری تنها چیزی که می دانید این است که این ماده لارو است و ممکن است به هر چیزی تبدیل شود. برای من، این یک هوش مصنوعی مولد است. این چیز لارو است. و ممکن است به هر چیزی تبدیل شود.
در اینجا قیاس دیگری وجود دارد که به ذهن خطور می کند، هر چه در ابتدا بزرگ به نظر برسد. دانشمندان دقیقاً نمی دانند که انسان ها برای اولین بار چگونه و چه زمانی به عنوان یک فناوری، تقریباً 1 میلیون سال پیش، با آتش درگیر شدند. اما ما ایده خوبی داریم که چگونه آتش بشریت مدرن را اختراع کرد. همانطور که در نقد کتاب جیمز سوزمن نوشتم کار کنید، آتش گوشت و سبزیجات را نرم کرد و به انسان این امکان را می دهد که مصرف کالری خود را تسریع کند. در همین حال، با ترساندن شکارچیان، آتش کنترل شده به انسان این امکان را می داد که برای مدت طولانی تری روی زمین بخوابد. ترکیبی از کالری بیشتر و REM بیشتر در طول هزاره ها به ما این امکان را می دهد که مغزهای بزرگ و غیرمعمولی پر انرژی با ظرفیت های تیز برای حافظه و پیش بینی رشد دهیم. به طور محدود، آتش چیزها را داغتر می کرد. اما به معنای واقعی کلمه ذهن ما را گسترش داد.
اجداد ما می دانستند که شعله باز نیرویی وحشی است که سزاوار احترام و حتی ترس است. همان فناوری که تمدن را ممکن کرد، شهرها را نیز مسطح کرد. افسانه های باستانی درباره آتش هرگز ساده نبودند. هنگامی که پرومتئوس آن را از خدایان دزدید، زندگی انسان های فانی را دگرگون کرد، اما محکوم به زندگی در عذاب بود. افرادی که امروزه هوش عمومی مصنوعی می سازند، برای افزایش نفس خود نیازی به افسانه سازی رسانه ای ندارند. آنها به وضوح به پتانسیل تغییر بشریت اختراع خود اعتقاد دارند. اما بازی در پرومتئوس چیز پیچیده ای است. آنها از قلمرو دانش چیزی بسیار قدرتمند و به همان اندازه عجیب دزدیده اند. من فکر می کنم این فناوری ذهن ما را گسترش خواهد داد. و فکر می کنم ما را می سوزاند.
