UNIVERSITY PARK، Pa. — ChatGPT، یک ابزار پردازش زبان طبیعی که توسط فناوری هوش مصنوعی (AI) هدایت می شود، از زمان توسعه و انتشار آن توسط OpenAI در نوامبر 2022، سرفصل اخبار را به خود اختصاص داده است. از آن زمان، این فناوری سوالات بسیاری را ایجاد کرده است، از جمله چه پیامدهای ناخواسته ای ممکن است ایجاد شود و چگونه می توان از ChatGPT از نظر اخلاقی استفاده کرد.
اس. شیام ساندار، پروفسور جیمز پی. ChatGPT چیست و برای چه مواردی می توان از آن استفاده کرد.
ChatGPT چیست؟
ویلسون: ChatGPT نتیجه تحقیقات در زمینه ای به نام پردازش زبان طبیعی (NLP) است که شاخه ای از هوش مصنوعی است که تماماً در مورد درک رایانه ها از زبان انسان است. این فناوری برای چندین دهه در اشکال مختلف وجود داشته است اما در سال های اخیر به سرعت رشد کرده است. به عنوان مثال، موتورهای جستجو و دستیاران مجازی مانند دستگاه‌های سیری اپل و آمازون الکسا، همگی از NLP برای درک پرسش‌های شما و استخراج اطلاعات مورد نظرتان استفاده می‌کنند.
ساندار: همین فناوری پشت عملکرد تکمیل خودکار در آیفون‌ها و کلاینت‌های ایمیل قرار دارد. با این حال، ChatGPT به کلاس جدیدی از هوش مصنوعی مولد تعلق دارد، که در آن نه تنها می تواند محتوای موجود را جستجو و تقلید کند، بلکه در واقع محتوای جدید ایجاد می کند. این همان چیزی است که تمام هیجانات در مورد آن است. ChatGPT عضوی از خانواده مدل های زبانی ترانسفورماتور از پیش آموزش دیده (GPT) است که محتوای جدیدی را بر اساس میلیون ها قطعه متن نوشته شده توسط انسان ها در طول تاریخ تولید می کند. ChatGPT رابط چت را به فناوری GPT اضافه کرد و استفاده از آن را برای عموم مردم آسان‌تر کرد.
برخی از کاربردهای اخلاقی ChatGPT چیست؟
ساندار: این یک دستیار پیش نویس خوب است. ChatGPT در پیروی از سنت های عمومی نامه نویسی که میلیون ها انسان در طول زمان از آن پیروی کرده اند، به خوبی آشناست. از فرمول نوشتن حروف پیروی می کند و سپس توسط شخصی که از آن استفاده می کند می تواند سفارشی شود یا به آن اضافه شود. افراد در تبلیغات یا روابط عمومی می توانند از آن برای تولید محتوای پیش نویس مانند نسخه تبلیغاتی و انتشارات مطبوعاتی استفاده کنند، که سپس می توان آنها را ویرایش کرد و به محصولات نهایی تبدیل کرد. اگر در یک ظرفیت حرفه ای استفاده شود، فاش کردن اینکه فناوری GPT به عنوان بخشی از فرآیند استفاده شده است، عمل خوبی است. من فکر می کنم که ما به سمت همکاری انسان و هوش مصنوعی پیش می رویم. اینطور نیست که ماشین‌ها جایگزین ما شوند، بلکه بخشی از خستگی را از بین می‌برند و به ما اجازه می‌دهند بیشتر روی خلاقیت و تزیینات سطح بالا تمرکز کنیم.
چگونه مردم به طور غیراخلاقی از ChatGPT استفاده می کنند؟
ساندار: هیچ فناوری واحدی با طراحی از نظر اجتماعی مسئول یا غیرمسئولانه نیست. بستگی به نحوه استفاده کاربر از آن دارد. به عنوان یک مربی، یکی از نگرانی های اولیه من این بود که دانشجویان در مقالات ترم یا حتی در مقالات درخواست دانشگاه خود تقلب کنند، جایی که به آنها دستور داده می شود و از آنها خواسته می شود تا یک مقاله منسجم بنویسند که کمیته های پذیرش کالج و اساتید از آن برای قضاوت در مورد آن استفاده کنند. دانش آموزان. این نوع کارها را می توان به راحتی به چت بات ها برون سپاری کرد، و هیچ راه آسانی برای تشخیص اینکه آیا دانش آموزی آن را خودش نوشته است یا چت آن را برای او نوشته است وجود ندارد. تشخیص آن بسیار دشوار است. شما نمی توانید فقط نرم افزار سرقت ادبی را اجرا کنید و انتظار داشته باشید که نرم افزار آن را شناسایی کند زیرا GPT هر بار محتوای جدیدی تولید می کند. این نیاز به یک استاد بسیار هوشیار دارد تا زمانی را که معمولاً برای نمره دادن به یک مقاله ندارند، صرف کند.
ویلسون: تهدید امنیت سایبری ناشی از مدل های زبان بزرگ به طور فزاینده ای در حال افزایش است. علاوه بر مواردی مانند تلاش‌های فیشینگ، تحقیقاتی در مورد ایجاد بدافزار با استفاده از ChatGPT برای نوشتن کد برای بدافزار برای یافتن اکسپلویت‌ها انجام شده است. همچنین برای بازیگران بد بالقوه تولید مقالات زیادی در مورد دیدگاه خاصی که می‌خواهند در گفتمان آنلاین پیشرفت کنند، آسان می‌کند. قبلاً مجبور بودید شخصی را برای نوشتن این مقالات یا نظرات استخدام کنید. اکنون، می توان تعداد زیادی از این مقالات را در مدت زمان کوتاهی تولید کرد و احتمالاً آنها را در چندین پلتفرم مختلف پست کرد. بنابراین، اگر کسی افکار عمومی را جستجو کند، تمام این مقالات را می بیند که به نظر می رسد توسط مردم نوشته شده اند اما در واقع اینطور نیستند.
مردم در مورد ChatGPT چه چیزی باید بدانند؟
ساندار: ماشین ها روح ندارند و خلاقیت یا اصالت ندارند به همان شکلی که یک انسان دارد. بنابراین، هر آنچه که توسط ChatGPT ایجاد می‌شود، در واقع ترکیبی از کلمات است که ممکن است درست به نظر برسد، اما ممکن است از نظر واقعی درست نباشد. توانایی این نسل از NLP باعث می شود متن معتبر به نظر برسد زیرا به سبک صحیح نوشته شده است و غریزه ما اعتماد به جملات کاملاً شکل یافته به جای پاسخ های رباتیک است که در دوره قبلی هوش مصنوعی به آن عادت کرده بودیم.
مردم باید درک کنند که ماشین‌ها می‌توانند منبع ارتباط باشند، اما نباید درگیر «اکتشافات ماشینی» یا تمایل به این باور باشند که ماشین‌ها همیشه دقیق، عینی یا بی‌طرف هستند. ماشین ها را می توان به راحتی دستکاری کرد. ماشین‌ها بر مجموعه‌ای از متون زبان انسان تکیه می‌کنند و جملاتی را بر اساس فراوانی تکرار کلمات در گذشته تشکیل می‌دهند بدون اینکه واقعاً معنای پشت آنچه را که تولید می‌کنند بفهمند.
چند چالش با ChatGPT که باید در حرکت رو به جلو برطرف شوند چیست؟
ویلسون: ما نمی‌خواهیم این فناوری‌ها را نابود کنیم یا آنها را غیرقانونی کنیم، اما مناسب است که آنها را از نظر اخلاقی ایجاد کنیم، و این حوزه‌ای است که باید بیشتر بررسی کنیم. همچنین باید درباره نگرانی‌های پیرامون سوگیری و پتانسیل فناوری‌های مبتنی بر مدل زبانی بزرگ برای حذف گروه‌های به حاشیه رانده‌شده که در داده‌های آموزشی کمتر حضور دارند، صحبت کنیم.
اگر می‌خواهیم همه بتوانند از این فناوری‌های زبانی بهره ببرند و از قلم نیفتند، باید به دقت بررسی کنیم که چگونه به متن تولید شده توسط گروه‌های مختلف پاسخ می‌دهند، زیرا ما متفاوت می‌نویسیم. و همچنین باید به تفاوت های متنی که تولید می کنند پاسخ دهند. برای مثال، GPT باید بتواند تشخیص دهد که مهندسان و پزشکان علاوه بر مردان، اغلب زن و افراد غیر دودویی هستند. ما در این زمینه با فناوری‌های زبانی پیشرفت کرده‌ایم، اما هر بار که نسل جدیدی وجود دارد، باید این سؤال‌ها را دوباره بررسی کنیم و مطمئن شویم که هنوز کار درست را انجام می‌دهیم.
