وقتی با یک “هوش مصنوعی غول پیکر” مانند ChatGPT کار می کنیم، چه چیزی را از دست می دهیم

اخیراً ChatGPT و «هوش مصنوعی غول‌پیکر» (Bard, Chinchilla, PalM, LaMDA, et al.) یا gAI‌های مشابه آن، سرفصل‌های مختلفی را به خود اختصاص داده‌اند.

ChatGPT یک مدل زبان بزرگ (LLM) است. این یک نوع شبکه عصبی (مبتنی بر ترانسفورماتور) است که در پیش بینی کلمه بعدی در یک دنباله از کلمات عالی است. ChatGPT از GPT4 استفاده می کند – مدلی که بر روی مقدار زیادی متن در اینترنت آموزش داده شده است، که سازنده آن OpenAI می تواند آن را خراش دهد و می تواند به عنوان ایمن و تمیز برای آموزش در آن توجیه کند. GPT4 دارای یک تریلیون پارامتر است که در حال حاضر در خدمات وب سایت OpenAI استفاده می شود و ایجاد “هوش عمومی مصنوعی که به تمام بشریت خدمت می کند” را تضمین می کند.

با این حال gAI ها جایی برای ورودی دموکراتیک باقی نمی گذارند: آنها از بالا به پایین طراحی شده اند، با این فرض که مدل به خودی خود جزئیات کوچکتر را به دست می آورد. موارد استفاده زیادی برای این سیستم ها در نظر گرفته شده است، از جمله خدمات حقوقی، آموزش به دانشجویان، ایجاد پیشنهادات خط مشی و حتی ارائه بینش علمی. بنابراین، gAIها ابزاری هستند که آنچه را که تاکنون غیرممکن فرض می‌شد، خودکار می‌کند: کار دانش.

«مدرنیسم بالا» چیست؟

در کتاب خود در سال 1998 دیدن مانند یک ایالتجیمز سی اسکات، استاد دانشگاه ییل، به پویایی قدرت دولت-ملت، چه دموکراتیک و چه غیر دموکراتیک، و پیامدهای آن برای جامعه می پردازد. دولت‌ها به دنبال بهبود زندگی شهروندان خود هستند، اما وقتی سیاست‌هایی را از بالا به پایین طراحی می‌کنند، اغلب غنا و پیچیدگی تجربیات انسانی را تا حد قابل اندازه‌گیری کاهش می‌دهند.

به گفته پروفسور اسکات، فلسفه محرک کنونی دولت‌ها «مدرنیسم بالا» است – ایمان به نظم و پیشرفت قابل اندازه‌گیری. او استدلال می کند که این ایدئولوژی، که به دروغ ادعا می کند مبانی علمی دارد، اغلب دانش محلی و تجربه زیسته را نادیده می گیرد و منجر به عواقب فاجعه بار می شود. او نمونه ای از مزارع تک محصولی را در مقایسه با کشت چند محصول ذکر می کند تا نشان دهد چگونه برنامه ریزی از بالا به پایین می تواند تنوع منطقه ای در کشاورزی را در نظر نگیرد.

پیامد آن شکست، تخریب خاک و معیشت در دراز مدت است. این همان خطری است که اکنون در مواجهه با GAI ها با کار دانش مواجه است.

چرا مدرنیسم بالا در طراحی هوش مصنوعی یک مشکل است؟ آیا داشتن یک فروشگاه یکپارچه، یک آمازون برای نیازهای فکری ما عالی نیست؟ همانطور که اتفاق می افتد، آمازون یک مثال واضح از مشکلات ناشی از عدم وجود گزینه های متنوع ارائه می دهد. چنین مدل کسب‌وکاری تنها منجر به افزایش استانداردسازی می‌شود و نه پایداری یا صنایع دستی، و در نتیجه همه محصولات ارزان‌قیمت یکسانی دارند، در حالی که مغازه‌های محلی شهرهای کوچک با هزار کلیک با مرگ آهسته می‌میرند.

هوش مصنوعی های غول پیکر چه چیزی را انتزاعی می کنند؟

مانند مرگ فروشگاه های محلی، افزایش gAI ها می تواند منجر به از بین رفتن زبان ها شود که به تنوع افکار ما آسیب می رساند. خطر چنین از دست دادن زبان به دلیل تعصب ناشی از مدل‌هایی است که فقط بر روی زبان‌هایی که قبلاً در اینترنت پر شده‌اند، که انگلیسی زیادی دارد، آموزش دیده‌اند.~60%). راه‌های دیگری نیز وجود دارد که یک مدل به احتمال زیاد مغرضانه است، از جمله در مورد مذهب (وب‌سایت‌های بیشتری نسبت به سایر ادیان مسیحیت را تبلیغ می‌کنند)، جنسیت و نژاد.

در عین حال، LLM ها به طور غیرمنطقی در ارائه پاسخ های قابل فهم مؤثر هستند. تد چیانگ، نویسنده داستان‌های علمی تخیلی، پیشنهاد می‌کند که این درست است، زیرا ChatGPT یک JPEG مبهم اینترنت است، اما یک تشبیه مناسب‌تر ممکن است شبیه اطلس باشد.

اطلس یک راه عالی برای دیدن کل جهان در عکس های فوری است. با این حال، یک اطلس فاقد چند بعدی است. به عنوان مثال، من از ChatGPT پرسیدم که چرا کاشت درختان اکالیپتوس در منطقه مدینیپور غربی ایده بدی است. چندین دلیل برای بد بودن مزارع تک کشت به من ارائه کرد – اما نتوانست دلیل واقعی مخالفت مردم منطقه را ارائه کند: مزرعه تک‌کشتی باعث کاهش غذایی که می‌توانستند جمع‌آوری کنند، شد.

این نوع دانش محلی فقط از تجربه ناشی می شود. ما می توانیم آن را «دانش قلمرو» بنامیم. این دانش توسط gAI ها به نفع دیدگاه اطلس از همه آنچه در اینترنت وجود دارد، انتزاع می شود. این قلمرو فقط توسط افرادی که وظایفی را که gAI ها هستند انجام می دهند، می توانند تصرف کنند تلاش برای جایگزینی.

آیا تنوع می تواند کمک کند؟

بخشی از شکست در تصرف قلمرو در عدم درک gAI ها نشان داده می شود. اگر در مورد آنچه از آنها می‌خواهید مراقب باشید (شاهکاری به نام “مهندسی سریع” – نمونه‌ای از فناوری که اکولوژی رفتار ما را مخدوش می‌کند)، آنها می‌توانند پاسخ‌های چشمگیری را ارائه کنند. اما همین سوال را به روشی متفاوت از آن بپرسید و می توانید کاملاً بی ارزش شوید. این روند دانشمندان کامپیوتر را بر آن داشته تا این سیستم ها را “طوطی های تصادفی” – یعنی سیستم هایی که می توانند زبان را تقلید کنند اما در رفتارشان تصادفی هستند.

جهت های تحقیقاتی مثبت نیز وجود دارد. به عنوان مثال، BLOOM یک LLM منبع باز است که توسط دانشمندان با پول عمومی و با فیلتر گسترده داده های آموزشی توسعه یافته است. این مدل همچنین چند زبانه است، شامل 10 زبان هندی، به علاوه یک تیم اخلاقی فعال که به طور مرتب مجوز را برای استفاده به روز می کند.

راه های متعددی برای خنثی کردن خطرات ناشی از gAI وجود دارد. یکی این است که به طور مصنوعی سرعت پیشرفت در تجاری سازی هوش مصنوعی را کاهش دهید تا زمان برای ورودی های دموکراتیک فراهم شود. (ده ها هزار محقق قبلاً طوماری را در این زمینه امضا کرده اند).

دیگری این است که اطمینان حاصل شود که مدل های متنوعی در حال توسعه هستند. «تنوع» در اینجا متضمن راه‌حل‌های متعددی برای یک سؤال است، مانند نقشه‌نگاران مستقلی که اطلس‌های مختلف را با انگیزه‌های متفاوت آماده می‌کنند: برخی بر روی گیاهان تمرکز می‌کنند در حالی که برخی دیگر بر روی جانوران. تحقیقات در مورد تنوع نشان می دهد که هر چه زمان بیشتری قبل از رسیدن به یک راه حل مشترک بگذرد، نتیجه بهتری خواهد داشت. و هنگام پرداختن به مخاطرات مرتبط با هوش عمومی مصنوعی، یک نتیجه بهتر بسیار مهم است – حوزه ای از مطالعه که در آن یک سوم محققان معتقدند که می تواند به یک فاجعه در سطح هسته ای منجر شود.

چگونه به سادگی “کمک و تقویت” می تواند مضر باشد؟

فقط برای واضح بودن، من این مقاله را نوشتم، نه ChatGPT. ولی میخواستم ببینم چی میگه…

س: پاسخی به متن قبلی به عنوان ChatGPT بنویسید.

پاسخ: به عنوان ChatGPT، من ابزاری هستم که به منظور کمک و تقویت قابلیت‌های انسانی است، نه جایگزین کردن آنها. هدف من درک و پاسخ به درخواست های شماست، نه جایگزینی غنا و تنوع دانش و تجربه بشری.

با این حال، همانطور که جورج زرکاداکیس، نویسنده می گوید، “هر تقویتی نیز یک قطع عضو است”. ChatGPT & Co. ممکن است “کمک کنند و تقویت کنند” اما در عین حال، تنوع افکار، راه حل ها و دانش را کاهش می دهند و در حال حاضر این کار را بدون ورودی های افرادی که قصد استفاده از آنها را دارند انجام می دهند.