پیامدهای کلاس درس زمانی که هوش مصنوعی سرقت ادبی و جعل می کند (نامه)

به سردبیر:

من از ابتدای سال گفتگوهای مربوط به نسل نویسندگی هوش مصنوعی را با نگرش منتظرانه دنبال می‌کردم، اما اخیراً به دنبال یک حادثه در یکی از کلاس‌های خودم در مورد فوریت این موضوع تجدید نظر کردم. من با مقاله اخیر علی لینکلن “ChatGPT: A Different Kind of Ghostwriting” موافقم که اصول اخلاقی تولید متن با هوش مصنوعی خاکستری است، اما با این فرض که ما در حال حاضر به اندازه کافی می دانیم که ابزار ارزشمندی برای ویرایش و نوشتن است مخالفم. سوالات بیشتری وجود دارد که ابتدا باید به آنها پاسخ داده شود.

ترم بهار گذشته، دانشجویی در یکی از دروس ادبیات من، یک پروژه کتابشناسی مشروح شامل شش مقاله مجله را ارسال کرد که در در نگاه اول ارسالی خوبی به نظر می رسید با این تفاوت که همه استنادهای مقاله دارای URL نبودند و هیچ یک از آنها مقالاتی نبودند که قبلاً با آن مواجه شده بودم – و من با موضوعی که دانش آموز در حال تحقیق بود آشنا هستم. پس از بررسی، متوجه شدم که هر یک از این شش منبع اختراع شده اند و وجود ندارند. دانش‌آموز هنگام مواجهه با آن اعتراف کرد که از یک سرویس هوش مصنوعی برای ایجاد مطلب استفاده کرده است. آنچه در مورد این نمونه از سرقت ادبی هوش مصنوعی قابل توجه است این است که تمام استنادهای موجود در مقاله ارسالی، عناوین مجلات واقعی و باکیفیت را که قبلاً مقالاتی با موضوعات مشابه منتشر کرده اند و اکثر اسامی برای نویسندگان این مقالات تخیلی ذکر شده است. نام علمای ادبی واقعی بود.

پس از این حادثه، دو سوال برای من باقی مانده است: چه مقدار از آنچه که توسط این خدمات تولید می شود، از آثار دارای حق چاپ بدون قدردانی یا جبران خسارت به نویسندگان و ناشران حذف می شود؟ چه اتفاقی می‌افتد وقتی متون پر از اطلاعات اختراعی و نقل‌قول‌های خیالی منتسب به نویسندگان و مجلات واقعی در سراسر وب تکثیر می‌شوند؟

محبوبترین

توضیح سوال اول برای افراد عادی بدون تخصص هوش مصنوعی آسان نیست، اما آنچه من دریافتم پیامدهای جدی برای حقوق مالکیت معنوی دارد. علاوه بر این، هر دو سؤال این احتمال را مطرح می‌کنند که ما وارد دنیایی می‌شویم که در آن مالکیت حقوق مالکیت معنوی برای نویسندگان تا حد بی‌معنی کاهش می‌یابد و شهرت محققان و مجلات حتی بیشتر تنزل می‌یابد و مفاهیم اعتبار را از ذهن مردم پاک می‌کند. مربیانی که از صمیم قلب فناوری هوش مصنوعی را در کلاس درس پذیرفته اند – حتی فقط برای اهداف طوفان فکری و پیش نویس – از دانش آموزان می خواهند که از فناوری استفاده کنند که احتمالاً می تواند ایده های دیگران را بدزدد یا به سادگی چیزهایی را به صورت عمده اختراع کند.

مکالمات پیرامون هوش مصنوعی در کلاس درس باید در مورد پرداختن به ماهیت مبهم فناوری‌هایی مانند Chat GPT صریح‌تر باشد، به‌ویژه در پی افشای نقض داده‌ها در OpenAI. اکثر این سرویس‌های تولید هوش مصنوعی در شرایط خدمات خود بیان می‌کنند که کاربران باید برای کارهایی که از طریق این سرویس ایجاد می‌شود نسبت به هوش مصنوعی ارجاع دهند، اما خود این سرویس‌ها برای بسیاری از منابع در سراسر وب که برای تولید این متون استفاده می‌شوند، ارجاع واضحی ارائه نمی‌دهند. آنها به وضوح مواد اختراع شده را نشان نمی دهند. سؤال من در اینجا این است که ما این سؤالات را در خط مقدم مطرح می کنیم زیرا شکلی را که استفاده مسئولانه از هوش مصنوعی در کلاس های دانشگاهی باید داشته باشد در نظر می گیریم.

–مری نستور
استاد ارشد
گروه زبان انگلیسی
دانشگاه کلمسون