چت هوش مصنوعی برای هیچ چیز خوب نیست – هنوز

یادداشت سردبیر نظر: سرمقاله ها بیانگر نظرات هیئت تحریریه استار تریبون است که مستقل از اتاق خبر فعالیت می کند.

•••

سلب مسئولیت: در ساخت این سرمقاله به اراده انسانی آسیبی وارد نشد.

•••

پیشرفت فناوری اتفاق می افتد – یا حداقل دائماً در حال تلاش است. وقتی موفق می شود، به این دلیل است که تلاش انسان را کارآمدتر و مؤثرتر می کند.

بر اساس این معیارها، هوش مصنوعی مبتنی بر چت – که در آن افراد با یک سرور کامپیوتر به زبانی کاملاً طبیعی به نظر می‌رسد – در حال حاضر با شکست مواجه شده است.

موثرتر نیست خواه هدف از درگیر شدن با آن کاوش یک ایده، دریافت مشاوره، یا صرفاً چت برای اتصال یا سرگرمی باشد، هوش مصنوعی واقعاً نمی تواند ارائه دهد، زیرا یک همکار غیرقابل اعتماد است.

بنابراین، آن نیز ناکارآمد است. هر چیزی که به شما می گوید باید موقتی در نظر گرفته شود. همچنین می‌توانید فهرست‌های طولانی یک موتور جستجو از پیوندهای احتمالاً مرتبط را از ابتدا تجزیه کنید، زیرا به هر حال به آنجا خواهید رسید.

اما هر کسی که شاهد متن مولد در عمل باشد، می‌تواند پتانسیل گسترده‌ای را که ارائه می‌دهد، ببیند. خیلی دردناکه

ما مدتی را با ChatGPT، نسخه سه گذرانده‌ایم. این آخرین نسخه نیست. خالق آن OpenAI – یک شرکت تحقیقاتی مستقر در سانفرانسیسکو با مؤلفه‌های غیرانتفاعی و غیرانتفاعی – نسخه چهار را در پشت دیوار پرداخت منتشر کرده است. این تنها نمونه از “مدل زبان بزرگ” نیست – مایکروسافت و گوگل از جمله مدل هایی هستند که مدل خود را پیاده سازی می کنند. اما در حال حاضر در دسترس ترین است.

در حالی که بسیاری از آنچه در مورد تولید زبان هوش مصنوعی نوشته شده است در مورد این است که چگونه به دانش آموزان کمک می کند تا میانبرهایی را که یادگیری آنها را به خطر می اندازد یا اینکه چگونه می توان آن را به سمت رفتارهای مخرب سوق داد (به عنوان مثال، زمانی که نسخه مایکروسافت به یک مقاله نویس فناوری نیویورک تایمز گفت: هدف ما این بود که ببینیم آیا می‌تواند جستجوی اطلاعات را افزایش دهد یا خیر.

در میان تعاملات گسترده ما، ChatGPT تقریباً فوراً سوابق و دکترین های حقوقی را در حکم دادگاه عالی خلاصه کرد و گفتمانی پیچیده را در مقایسه سنت های مذهبی تلمودی و یسوعی ارائه داد. یک فرد بسیار کنجکاو ممکن است در یافتن همنوعی که بخواهد به فعالیت های ذهنی خود بپیوندد مشکل داشته باشد.

اما ChatGPT همچنین با اطمینان به ما اطلاعات غلط داد که مینیاپولیس آب و هوای معتدلی دارد. که دریاچه های Ely و Hoyt در واقع در آن هستند جنوب شرقی مینه سوتا، جایی که مجموعه ای از تاسیسات نظامی نیز وجود دارد. و اینکه آهنگ Fleetwood Mac “Dreams” توسط کریستین مک وای گروه نوشته و خوانده شده است نه استیوی نیکس. دفعاتی که از او خواستیم به منابع استناد کند، بررسی مجدد ما نشان داد که برخی از آنها را تشکیل می دهد. وقتی به آن اشاره کردیم، عذرخواهی کرد و به جای آن موارد مختلفی را ساخت.

برای کسانی که به اندازه کافی بزرگ هستند که به خاطر بسپارند، گاهی اوقات شبیه برخورد با شخصیت «دروغگوی بیمارگونه» است که توسط کمدین جان لوویتز در «شنبه شب زنده» به تصویر کشیده شده است.

اما خطر این نیست که چت هوش مصنوعی اطلاعات بدی به شما بدهد. این است که به اندازه کافی اطلاعات ظاهرا خوب به شما می دهد که خطاهای آن را تشخیص نخواهید داد.

به درک نحوه عملکرد سیستم کمک می کند. ChatGPT پیش بینی کننده است، به نوعی مانند ویژگی تکمیل خودکار در تلفن شما. با کار بر روی یک “پیکر متن” بزرگ اما تعریف نشده که برای تجزیه آن آموزش دیده است، کلمه به کلمه تصمیم می گیرد که چه چیزی باید در ادامه بیاید. سحر و جادو این است که می تواند این را حفظ کند تا جملات، پاراگراف ها یا حتی اسناد کامل را به هر سبکی که شما بخواهید ایجاد کند. به شما خواهد گفت که بیشتر آن از منابع معتبر استخراج شده است. اما ضرورت تولید متن به این معنی است که وقتی چیزی را نمی داند، ممکن است فقط حدس بزند.

سایر نسخه‌های هوش مصنوعی به دنبال تطبیق متن پیش‌بینی با ویژگی‌های یک موتور جستجوی سنتی هستند، اما همه آنها به کاربران هشدار می‌دهند که نتایج را با احتیاط دریافت کنند. یکی را یادآوری می کند: “روزهای اولیه است.”

آیا همه اینها یک چیز کاملاً بد است؟ آیا مردم قبلاً نباید بدانند که اطلاعات را قبل از به اشتراک گذاشتن یا اقدام بر اساس آن تأیید کنند؟

اوه – درست است.

با تکرار و گسترش سریع فناوری هوش مصنوعی، نه فقط برای متن، بلکه برای استفاده های دیگر، یک سوال واضح این است که دولت باید چه کاری انجام دهد. معلوم شد که ChatGPT از قبل در حال انجام وظیفه است.

در ماساچوست، سناتور ایالتی بری فینگولد قانونی را معرفی کرد که به موجب آن شرکت‌های تولیدکننده چت هوش مصنوعی باید تحت ارزیابی ریسک قرار گیرند، نحوه عملکرد الگوریتم‌هایشان را افشا کنند و نوعی “واترمارک” را برای شناسایی لحاظ کنند. او گفت که فینگولد از ChatGPT خواست تا آن لایحه را بنویسد، که “۷۰ درصد از آنچه را که نیاز داشتیم به دست آوردیم.”

در کنگره، نماینده تد لیو، کالیفرنیا، از آن خواست تا قطعنامه ای در حمایت از تمرکز بر هوش مصنوعی بنویسد تا اطمینان حاصل شود که توسعه و استقرار … به روشی ایمن، اخلاقی و با رعایت حقوق و احترام انجام می شود. حفظ حریم خصوصی همه آمریکایی ها و اینکه مزایای هوش مصنوعی به طور گسترده توزیع شده و خطرات آن به حداقل می رسد.” لیو که به عنوان یک «کنگره‌نویس که کدنویسی می‌کند» توصیف می‌شود، در تفسیر نیویورک تایمز نوشت که «تصویب قوانین فردی برای تنظیم هر کاربرد خاص» از هوش مصنوعی برای کنگره عملا غیرممکن است. در عوض، او یک آژانس اختصاصی را پیشنهاد می‌کند که «چابتر از روند قانون‌گذاری است، با کارشناسان متخصص کار می‌کند و می‌تواند تصمیمات خود را در صورت بروز خطا تغییر دهد».

به نوبه خود، همانطور که برای سایر فناوری‌ها توصیه کرده‌ایم، کمی زمان و فضا را برای انجام کارها در نظر می‌گیریم. نیازهای نظارتی خاص به زودی ظاهر خواهد شد.

در نهایت، در حالی که بسیاری از مقاله‌ها درباره فناوری چت به آن اجازه می‌دهند تا برخی از متن‌های خود را تولید کند تا به شما نشان دهد که چقدر می‌تواند غیرقابل تشخیص باشد، ما این کار را برای این سرمقاله انجام ندادیم، همانطور که در سلب مسئولیت ابتدایی خود نشان دادیم. به نظر می رسد ما آنقدر دوست داریم که بنویسیم و رها کنیم.

اعضای هیئت تحریریه دیوید بنکس، جیل بورکام، اسکات گیلسپی، دنیس جانسون، پاتریشیا لوپز، جان راش و دی جی تایس هستند. مگی کلی و النا نوزیل، اعضای کارکنان Star Tribune Opinion نیز مشارکت دارند، و مایکل جی. کلینگنزمیت، ناشر و مدیر عامل Star Tribune به عنوان مشاور هیئت مدیره خدمت می کند.