بر اساس اعلامیه جدید کمیته بین المللی ویراستاران مجلات پزشکی (ICMJE) محققان ممکن است از مدل های زبانی هوش مصنوعی (AI) مانند ChatGPT برای نوشتن و اصلاح نسخه های خطی علمی استفاده کنند. به گفته کمیته، این ابزارها نباید به عنوان نویسندگان فهرست شوند و محققان باید نحوه استفاده از فناوری های به کمک هوش مصنوعی را مشخص کنند.
این دستورالعمل‌های جدید آخرین تلاش مجلات پزشکی برای تعریف سیاست‌هایی برای استفاده از این مدل‌های زبانی در مقیاس بزرگ (LLM) در انتشارات علمی است. کیسی گرین، دکترا، استاد انفورماتیک زیست پزشکی در دانشکده پزشکی دانشگاه کلرادو، خاطرنشان کرد: در حالی که این ابزارهای به کمک هوش مصنوعی می‌توانند به کارهایی مانند نوشتن، تجزیه و تحلیل داده‌ها، گرفتن اشتباهات و موارد دیگر کمک کنند، اما مستعد خطا نیز هستند. در آرورا، کلرادو. وی خاطرنشان کرد: همچنین کاملاً مشخص نیست که اطلاعات چگونه در این نوع ابزارها ذخیره و پردازش می شود و چه کسی به آن اطلاعات دسترسی دارد.
دکتر کیسی گرین
در عین حال، کارشناسان استدلال می‌کنند که این ابزارهای هوش مصنوعی می‌توانند با محدود کردن برخی از تفاوت‌های زبانی در انتشارات علمی و همچنین کاهش بار برخی وظایف یکنواخت یا مکانیکی که همراه با نوشتن دستنوشته است، تأثیر مثبتی بر این حوزه داشته باشند.
با این حال، آنچه کارشناسان می توانند در مورد آن توافق کنند، این است که استفاده از ابزارهای هوش مصنوعی اینجا باقی مانده است. گرین گفت: «این به یک ابزار رایج تبدیل خواهد شد. فکر نمی‌کنم در این مرحله راهی برای خروج از آن وجود داشته باشد.»
تغییر در انتشارات پزشکی
OpenAI ChatGPT را در نوامبر 2022 منتشر کرد. به قول خودش، ChatGPT “یک مدل یادگیری عمیق است که بر روی حجم عظیمی از داده های متنی برای درک و تولید متنی شبیه انسان آموزش دیده است.” سوال یا درخواستی را وارد کنید و پاسخ خواهد داد. به عنوان مثال، هنگامی که از او پرسیده شد که چگونه می توان از ابزار هوش مصنوعی در انتشارات علمی استفاده کرد، ChatGPT پاسخ داد:
«ChatGPT می‌تواند با تولید ایده‌ها، شفاف‌سازی مفاهیم، انجام بررسی‌های مقدماتی ادبیات، ارائه پیشنهادات تصحیح و ویرایش، و کمک به ترسیم و سازمان‌دهی مقالات علمی به انتشارات علمی کمک کند. با این حال، باید از آن به عنوان یک ابزار حمایتی در کنار تخصص حوزه و تأیید اعتبار از موارد مورد اعتماد استفاده شود. منابع علمی.”
تنها چند ماه پس از در دسترس قرار گرفتن ChatGPT، محققان شروع به استفاده از این ابزار در کار خود کردند. طبق گزارش ها، یک فرد به نام Som Biswas، MD، رادیولوژیست در مرکز علوم بهداشتی دانشگاه تنسی در ممفیس، از ChatGPT برای نوشتن 16 مقاله علمی تنها در 4 ماه استفاده کرد. را دیلی بیست. پنج مورد از این مقالات در چهار مجله مختلف به چاپ رسیده است. بیسواس از مصاحبه برای این مقاله خودداری کرد.
همچنین گزارش‌هایی از مقالاتی با ChatGPT به‌عنوان یکی از نویسندگان فهرست‌شده وجود داشت که باعث واکنش‌های شدید شد. در پاسخ، جاما، طبیعت، و علوم پایه همه سرمقاله‌های منتشر شده در ژانویه که خط مشی‌های خود را برای استفاده از ChatGPT و دیگر مدل‌های زبان بزرگ در فرآیند تألیف علمی بیان می‌کنند. ویراستاران مجلات کالج آمریکایی قلب و کالج آمریکایی روماتولوژی (ACR) نیز سیاست های خود را به روز کردند تا تأثیر ابزارهای نویسندگی هوش مصنوعی را منعکس کنند.
اتفاق نظر این است که هوش مصنوعی جایی در خط نویسنده ندارد.
دکتر دانیل سلیمان
دانیل سولومون گفت: “ما فکر می کنیم این مناسب نیست، زیرا هم نویسندگی به این معنی است که شما مسئولیت تجزیه و تحلیل و تولید داده هایی را که در یک نسخه خطی گنجانده شده است را بر عهده می گیرید. ماشینی که توسط هوش مصنوعی دیکته می شود نمی تواند مسئولیتی را بر عهده بگیرد.” MD، MPH، روماتولوژیست در بیمارستان بریگهام و زنان، بوستون، و سردبیر مجله ACR آرتریت و روماتولوژی.
مشکلات هوش مصنوعی
یکی از نگرانی‌های بزرگ در مورد استفاده از هوش مصنوعی در نوشتن این است که می‌تواند متنی را تولید کند که قابل قبول به نظر می‌رسد اما نادرست است یا توسط داده‌ها پشتیبانی نمی‌شود. برای مثال، گرین و همکارش میلتون پیویدوری، دکترا، همچنین از دانشکده پزشکی دانشگاه کلرادو، در حال نوشتن مقاله‌ای در ژورنال در مورد نرم‌افزار جدیدی بودند که توسعه داده‌اند و از یک مدل زبان بزرگ برای اصلاح نسخه‌های خطی علمی استفاده می‌کند.
دکتر میلتون پیویدوری
“ما از همان نرم‌افزار برای اصلاح آن مقاله استفاده کردیم و در یک نقطه، خطی اضافه کرد که اشاره می‌کرد که مدل زبان بزرگ روی مجموعه داده‌ای از نسخه‌های خطی از داخل همان زمینه تنظیم شده است. این بسیار منطقی است. و کاملاً کاری است که شما می‌توانید انجام دهید، اما کاری نبود که ما انجام دهیم.» بدون بررسی دقیق محتوا، اختراع چیزهایی که واقعاً انجام نشده اند ممکن می شود.»
در مورد دیگری، ChatGPT به دروغ اظهار داشت که یک استاد برجسته حقوق به تجاوز جنسی متهم شده است. واشنگتن پست مقاله ای که وجود نداشت
پیویدوری افزود: «ما در جامعه‌ای زندگی می‌کنیم که در آن به شدت نگران اخبار جعلی هستیم [these kinds of errors] مطمئناً می تواند آن را در جامعه علمی تشدید کند، که بسیار نگران کننده است زیرا علم به سیاست های عمومی اطلاع می دهد.”
مسئله دیگر عدم شفافیت در مورد نحوه پردازش و ذخیره سازی داده های مورد استفاده در مدل های زبانی بزرگ مانند ChatGPT است.
Pividori گفت: “ما هیچ ایده ای نداریم که آنها چگونه تمام دستورات و چیزهایی را که ما در ChatGPT و سیستم های آنها وارد می کنیم ضبط می کنند.”
OpenAI اخیراً برخی از نگرانی‌های مربوط به حریم خصوصی را برطرف کرده و به کاربران اجازه می‌دهد تاریخچه چت خود را با چت ربات هوش مصنوعی خاموش کنند، بنابراین نمی‌توان از مکالمات برای آموزش یا بهبود مدل‌های شرکت استفاده کرد. اما گرین خاطرنشان کرد که شرایط خدمات “هنوز بسیار مبهم باقی مانده است.”
Solomon همچنین نگران محققانی است که از این ابزارهای هوش مصنوعی در نوشتن استفاده می کنند بدون اینکه بدانند چگونه کار می کنند. “چیزی که ما واقعاً نگران آن هستیم این واقعیت است که [LLMs] کمی جعبه سیاه هستند – مردم واقعاً روش‌ها را درک نمی‌کنند.»
یک ابزار مثبت؟
اما علیرغم این نگرانی ها، بسیاری فکر می کنند که این نوع ابزارهای به کمک هوش مصنوعی می توانند تأثیر مثبتی بر انتشارات پزشکی داشته باشند، به ویژه برای محققانی که انگلیسی برای آنها زبان اصلی آنها نیست. دانشکده پزشکی دانشگاه فاینبرگ در شیکاگو. او اخیراً تحقیقاتی را در مورد مقایسه خلاصه‌های علمی نوشته شده توسط ChatGPT و خلاصه‌های واقعی انجام داد و متوجه شد که داوران تشخیص این دو را «به‌طور شگفت‌آوری دشوار» می‌دانند.
او در ایمیلی گفت: اکثر تحقیقات به زبان انگلیسی منتشر شده است. “استفاده مسئولانه از LLM به طور بالقوه می تواند بار نوشتن را برای دانشمندان پرمشغله کاهش دهد و عدالت را برای کسانی که انگلیسی زبان مادری نیستند بهبود بخشد.”
پیویدوری با این موضوع موافقت کرد و افزود که به عنوان یک انگلیسی زبان غیر بومی، در مقایسه با افرادی که انگلیسی را به عنوان زبان اول صحبت می کنند، زمان بیشتری را صرف کار بر روی ساختار و دستور زبان جملات هنگام نوشتن نسخه خطی می کند. او خاطرنشان کرد که این ابزارها همچنین می‌توانند برای خودکار کردن برخی از کارهای یکنواخت‌تر که همراه با نوشتن دست‌نوشته‌ها هستند استفاده شوند و به محققان اجازه می‌دهند تا بر جنبه‌های خلاقانه‌تر تمرکز کنند.
او گفت: «من می‌خواهم در آینده بیشتر روی کارهایی تمرکز کنم که فقط یک انسان می‌تواند انجام دهد و بگذارم این ابزارها بقیه کارها را انجام دهند.
قوانین جدید
اما علیرغم اینکه پژوهشگران فردی نسبت به LLM چه احساسی دارند، آنها موافق هستند که این ابزارهای هوش مصنوعی اینجا هستند.
سولومون گفت: «من فکر می‌کنم که باید پیش‌بینی کنیم که آنها به مرور زمان به بخشی از مؤسسه تحقیقات پزشکی تبدیل شوند، زمانی که نحوه استفاده مناسب از آنها را بیابیم.
در حالی که بحث در مورد چگونگی بهترین استفاده از هوش مصنوعی در نشریات پزشکی ادامه خواهد داشت، سردبیران مجلات توافق دارند که همه نویسندگان یک نسخه خطی تنها مسئول محتوای مقالاتی هستند که از فناوری به کمک هوش مصنوعی استفاده می کنند.
دستورالعمل‌های ICMJE می‌گوید: «نویسندگان باید نتیجه را با دقت بررسی و ویرایش کنند، زیرا هوش مصنوعی می‌تواند خروجی‌هایی با صدای معتبر تولید کند که می‌تواند نادرست، ناقص یا مغرضانه باشد». نویسندگان باید بتوانند ادعا کنند که هیچ سرقت ادبی در مقاله آنها، از جمله در متن و تصاویر تولید شده توسط هوش مصنوعی وجود ندارد.» این شامل انتساب مناسب همه مطالب ذکر شده است.
این کمیته همچنین توصیه می‌کند که نویسندگان هم در جلد نامه و هم در آثار ارسالی بنویسند که چگونه هوش مصنوعی در فرآیند نوشتن دستنوشته استفاده شده است. دستورالعمل‌های به‌روزرسانی‌شده اخیر از سوی انجمن جهانی ویراستاران پزشکی توصیه می‌کند که همه اعلان‌های مورد استفاده برای تولید متن جدید یا کار تحلیلی باید در کار ارسالی ارائه شود. گرین همچنین خاطرنشان کرد که اگر نویسندگان از ابزار هوش مصنوعی برای اصلاح آثار خود استفاده کنند، می توانند نسخه ای از نسخه دست نویس دست نخورده توسط LLM ها را وارد کنند.
او گفت که این شبیه به یک پیش چاپ است، اما به جای انتشار نسخه ای از مقاله قبل از بررسی همتایان، شخصی نسخه ای از نسخه خطی را قبل از بازبینی و بازبینی توسط هوش مصنوعی نشان می دهد. او گفت: «این نوع تمرین می‌تواند مسیری باشد که به ما امکان می‌دهد از این مدل‌ها بهره ببریم، بدون اینکه ایراداتی داشته باشیم که بسیاری نگران آن هستند.»
Solomon روابط مالی با AbbVie، Amgen، Janssen، CorEvitas و Moderna دارد. گرین و پیویدوری هر دو مخترعان درخواست ثبت اختراع موقت ایالات متحده به شماره 63/486706 هستند که دانشگاه کلرادو برای اختراع “زیرساخت انتشار برای نگارش دانشگاهی با کمک هوش مصنوعی” در اداره ثبت اختراع و علائم تجاری ایالات متحده ثبت کرده است. گرین و پیویدوری همچنین از بنیاد آلفرد پی اسلون کمک مالی دریافت کردند تا ابزار ویرایش دستنوشته مبتنی بر هوش مصنوعی خود را بهبود بخشند. گائو هیچ رابطه مالی مرتبطی را گزارش نکرد.
برای اخبار بیشتر، Medscape را در فیس بوک دنبال کنید، توییتر، اینستاگرام و یوتیوب.
