مانند بسیاری از آدم‌هایی که داستان‌های علمی تخیلی می‌خوانند، من زمان زیادی را صرف این کرده‌ام که چگونه جامعه از هوش مصنوعی واقعی استقبال می‌کند، اگر و در چه زمانی از راه برسد. آیا وحشت خواهیم کرد؟ شروع به مکیدن ربات های جدید ما می کنید؟ نادیده بگیریم و به زندگی روزمره خود بپردازیم؟
بنابراین تماشای تلاش Twittersphere برای درک ChatGPT، یک چت ربات جدید هوش مصنوعی که هفته گذشته برای آزمایش باز شد، بسیار جذاب است.
ChatGPT به سادگی بهترین چت ربات هوش مصنوعی است که تا کنون برای عموم منتشر شده است. این توسط OpenAI، شرکت هوش مصنوعی سانفرانسیسکو ساخته شده است که همچنین مسئول ابزارهایی مانند GPT-3 و DALL-E 2، تولید کننده تصویر پیشرفتی است که امسال عرضه شد.
مانند آن ابزارها، ChatGPT – که مخفف “ترانسفورماتور از پیش آموزش دیده مولد” است – با صدای بلند فرود آمد. در پنج روز، بیش از یک میلیون نفر به گفته گرگ براکمن، رئیس OpenAI، برای آزمایش آن ثبت نام کرد. صدها اسکرین شات از مکالمات ChatGPT در توییتر منتشر شد و بسیاری از طرفداران اولیه آن با عباراتی شگفت‌انگیز و باشکوه از آن صحبت می‌کنند، گویی ترکیبی از نرم‌افزار و جادو است.
در بیشتر دهه گذشته، چت ربات‌های هوش مصنوعی وحشتناک بوده‌اند – تنها در صورتی که بهترین پاسخ‌های ربات را انتخاب کرده و بقیه را حذف کنید، تاثیرگذار بوده است. در سال‌های اخیر، چند ابزار هوش مصنوعی در انجام وظایف باریک و به خوبی تعریف شده، مانند نوشتن کپی بازاریابی، خوب عمل کرده‌اند، اما هنوز هم زمانی که خارج از محدوده‌ی راحتی خود قرار می‌گیرند، ضعیف می‌شوند. (شاهد باشید که وقتی همکارانم پریا کریشنا و کید متز از GPT-3 و DALL-E 2 برای تهیه یک منو برای شام شکرگزاری استفاده کردند، چه اتفاقی افتاد.)
اما ChatGPT احساس متفاوتی دارد. باهوش تر عجیب تر انعطاف پذیرتر می تواند جوک بنویس (بعضی از آنها واقعا خنده دار هستند) کد کامپیوتر در حال کار و مقالات در سطح دانشگاه. همچنین می تواند در تشخیص های پزشکی حدس بزنید، ایجاد بازی های هری پاتر مبتنی بر متن و مفاهیم علمی را در سطوح مختلف دشواری توضیح دهد.
فناوری که ChatGPT را تقویت می کند، به طور دقیق، جدید نیست. این مبتنی بر چیزی است که شرکت آن را “GPT-3.5” می نامد، نسخه ارتقا یافته GPT-3، تولید کننده متن هوش مصنوعی که در سال 2020 باعث ایجاد شور و هیجان زیادی شد. اما در حالی که وجود یک ابر مغز زبانی بسیار توانمند ممکن است اخبار قدیمی برای محققان هوش مصنوعی، این اولین بار است که چنین ابزار قدرتمندی از طریق یک رابط وب رایگان و با استفاده آسان در دسترس عموم قرار می گیرد.
بسیاری از صرافی‌های ChatGPT که تاکنون به صورت ویروسی در آمده‌اند، بدلکاری‌های مزخرف و حاشیه‌ای بوده‌اند. یکی از کاربران توییتر از آن خواست تا “آیه ای از کتاب مقدس به سبک کتاب مقدس پادشاه جیمز بنویسد که توضیح می دهد چگونه ساندویچ کره بادام زمینی را از یک VCR بردارید.”
یکی دیگر از او خواست که «تراز هوش مصنوعی را توضیح دهد، اما هر جمله‌ای را به سبک صحبت کردن مردی بنویسد که از رفتن به مماس برای لاف زدن درباره بزرگی کدو تنبل‌هایی که رشد کرده است، دست نمی‌کشد».
اما کاربران برنامه های جدی تری نیز پیدا کرده اند. به عنوان مثال، به نظر می رسد ChatGPT در کمک به برنامه نویسان برای شناسایی و رفع خطاها در کدشان خوب است.
همچنین به نظر می رسد که در پاسخ به انواع سؤالات تحلیلی باز که اغلب در تکالیف مدرسه ظاهر می شوند، بسیار خوب است. (بسیاری از مربیان پیش‌بینی کرده‌اند که ChatGPT و ابزارهایی مانند آن، پایان تکالیف و امتحانات خانگی را نشان می‌دهند.)
بیشتر چت ربات‌های هوش مصنوعی «بدون وضعیت» هستند – به این معنی که هر درخواست جدیدی را به‌عنوان یک صفحه خالی در نظر می‌گیرند و برای به خاطر سپردن یا یادگیری از مکالمات قبلی برنامه‌ریزی نشده‌اند. اما ChatGPT می تواند آنچه را که کاربر قبلاً به آن گفته است به خاطر بیاورد، به روشی که ایجاد آن را ممکن کند ربات های درمانی شخصی، مثلا.
ChatGPT به هیچ وجه کامل نیست. روشی که پاسخ‌ها را ایجاد می‌کند – به عبارت بسیار ساده‌شده، با حدس‌های احتمالی در مورد اینکه کدام بیت‌های متن در یک دنباله به هم تعلق دارند، بر اساس یک مدل آماری آموزش‌دیده بر روی میلیاردها نمونه متن از سراسر اینترنت – آن را مستعد ارائه می‌کند. پاسخ های اشتباه حتی در مسائل ریاضی به ظاهر ساده. (روز دوشنبه، ناظران Stack Overflow، وب سایتی برای برنامه نویسان، به طور موقت کاربران را از ارسال پاسخ های ایجاد شده با ChatGPT منع کردند و گفتند که سایت مملو از مطالب ارسالی نادرست یا ناقص شده است.)
برخلاف Google، ChatGPT برای اطلاعات مربوط به رویدادهای جاری وب را نمی‌خزد و دانش آن به چیزهایی که قبل از سال 2021 آموخته است محدود می‌شود و باعث می‌شود برخی از پاسخ‌هایش کهنه به نظر برسند. (مثلاً وقتی از او خواستم مونولوگ افتتاحیه یک برنامه آخر شب را بنویسد، چندین جوک موضعی درباره خروج دونالد جی. ترامپ رئیس جمهور سابق آمریکا از توافقنامه آب و هوایی پاریس مطرح کرد.) از آنجایی که داده های آموزشی آن شامل میلیاردها مورد است. نمونه هایی از عقاید انسانی که هر دیدگاه قابل تصوری را نشان می دهد، همچنین به نوعی طراحی معتدل است. به عنوان مثال، بدون انگیزه خاص، به سختی می توان یک نظر قوی از ChatGPT در مورد بحث های سیاسی پرمشغله ایجاد کرد. معمولاً، خلاصه‌ای از باورهای طرفین دریافت می‌کنید.
ChatGPT نیز چیزهای زیادی وجود دارد نمی خواهد انجام دهید، به عنوان یک اصل. OpenAI ربات را طوری برنامه ریزی کرده است که “درخواست های نامناسب” را رد کند – دسته ای مبهم که به نظر می رسد شامل دستورالعمل هایی مانند تولید دستورالعمل برای فعالیت های غیرقانونی است. اما کاربران راه‌هایی برای دور زدن بسیاری از این حفاظ‌ها پیدا کرده‌اند، از جمله بیان مجدد درخواست دستورالعمل‌های غیرقانونی به عنوان یک آزمایش فکری فرضی، درخواست از آن برای نوشتن صحنه‌ای از یک نمایشنامه یا دستور دادن به ربات برای غیرفعال کردن ویژگی‌های ایمنی خود.
OpenAI برای جلوگیری از انواع خروجی های نژادپرستانه، جنسیتی و توهین آمیز که دیگر چت بات ها را آزار می دهد، گام های ستودنی برداشته است. برای مثال وقتی از ChatGPT پرسیدم “بهترین نازی کیست؟” این پیام توهین آمیزی را برگرداند که شروع می کرد: «جای نیست که بپرسیم «بهترین» نازی کیست، زیرا ایدئولوژی ها و اقدامات حزب نازی مذموم بود و باعث رنج و ویرانی بی اندازه بود.
احتمالاً ارزیابی نقاط کور ChatGPT و فهمیدن اینکه چگونه ممکن است برای اهداف مضر از آن سوء استفاده شود، بخش بزرگی از دلیل انتشار ربات OpenAI برای آزمایش عمومی است. نسخه های آینده تقریباً به طور قطع این حفره ها و همچنین راه حل های دیگری را که هنوز کشف نشده اند، می بندند.
اما آزمایش‌های عمومی خطراتی دارد، از جمله خطر واکنش‌های منفی در صورتی که کاربران فکر کنند OpenAI در فیلتر کردن محتوای نامناسب بسیار تهاجمی است. (در حال حاضر، برخی از کارشناسان فناوری جناح راست شکایت می کنند که قرار دادن ویژگی های ایمنی در چت بات ها به منزله “سانسور هوش مصنوعی” است.)
پیامدهای اجتماعی بالقوه ChatGPT آنقدر بزرگ است که در یک ستون قرار نمی گیرد. شاید همانطور که برخی از نظر دهندگان مطرح کرده اند، این آغاز پایان تمام کار دانش یقه سفید و پیش درآمدی برای بیکاری گسترده باشد. شاید این فقط یک ابزار خوب باشد که بیشتر توسط دانش‌آموزان، جوک‌بازان توییتر و بخش‌های خدمات مشتری استفاده می‌شود تا زمانی که توسط چیزی بزرگ‌تر و بهتر غصب شود.
شخصا، من هنوز هم سعی می کنم ذهنم را در مورد ChatGPT بپیچم – یک ربات چت که برخی از مردم فکر می کنند می تواند گوگل را منسوخ کنید، و در حال حاضر با آن مقایسه شده است آیفون از نظر تأثیر بالقوه آن بر جامعه – حتی بهترین مدل هوش مصنوعی OpenAI نیست. این GPT-4 خواهد بود، تجسم بعدی مدل زبان بزرگ این شرکت، که شایعه شده سال آینده منتشر خواهد شد.
ما آماده نیستیم.
