طبق یک مقاله جدید منتشر شده در ChatGPT می‌تواند داده‌های پزشکی قانع‌کننده‌ای ایجاد کند الگوها
به گفته نویسندگان مقاله، این کار انتشار تحقیقات جعلی را آسان تر از همیشه می کند.
آنها می نویسند: «دلایل ساخت تحقیق با استفاده از فناوری مبتنی بر هوش مصنوعی شامل سود مالی، شهرت بالقوه، ارتقاء در دانشگاه، و ایجاد رزومه، به ویژه برای دانشجویان پزشکی که در آب های رقابتی فزاینده ای هستند، است.
محققان از ChatGPT خواستند با استفاده از داده‌های سال‌های 2012 تا 2020، چکیده‌ای برای یک مقاله علمی درباره اثرات دو داروی مختلف بر روی آرتریت روماتوئید ایجاد کند.
چت بات چکیده‌ای با صدای قانع‌کننده ارائه داد و اعداد واقعی را ارائه کرد و – وقتی محققان آن را خواستند – گفت که یک دارو بهتر از دیگری کار می‌کند.
ChatGPT فقط تا سال 2019 داده ها را دریافت می کند، بنابراین نمی تواند هیچ رقمی از سال 2020 داشته باشد.
همچنین ادعا کرد که این اعداد را از یک پایگاه داده خصوصی گرفته است که دسترسی به آن مستلزم پرداخت هزینه است.
محققان هشدار می‌دهند: «در یک بعد از ظهر، می‌توان ده‌ها چکیده را پیدا کرد که می‌توان آنها را برای انتشار به کنفرانس‌های مختلف ارسال کرد».
پس از پذیرش یک چکیده برای انتشار، می توان از همین فناوری برای نوشتن دست نوشته خود استفاده کرد که کاملاً بر اساس داده های ساختگی و نتایج جعلی ساخته شده است.
محققان خاطرنشان می کنند که می تواند راه های مثبتی برای محققان برای استفاده از هوش مصنوعی وجود داشته باشد.
آنها می نویسند: «استفاده از هوش مصنوعی برای تحقیقات ذاتاً یک تلاش مخرب نیست.
درخواست از هوش مصنوعی برای بررسی دستور زبان کار یا نوشتن نتیجه‌ای برای نتایج قانونی یافت شده در یک مطالعه، از دیگر کاربردهایی است که AI ممکن است در فرآیند تحقیق بگنجاند تا کارهای مشغله‌ای را که ممکن است روند تحقیقات علمی را کند می‌کند، ببندد.
آنها می گویند که مقاله خودشان از نظر دستوری توسط یک هوش مصنوعی بررسی شده است.
این مسئله زمانی پیش می‌آید که فرد از داده‌هایی استفاده می‌کند که وجود ندارد تا نتایجی را برای نوشتن تحقیق بسازد، که ممکن است به راحتی از تشخیص انسانی عبور کند و راه خود را به یک نشریه باز کند.
«این آثار منتشر شده، تحقیقات مشروع را آلوده می‌کنند و ممکن است بر تعمیم‌پذیری آثار مشروع تأثیر بگذارند.»
آنها می گویند که جامعه تحقیقاتی باید به این فکر کنند که چگونه به بهترین نحو می توانند تدابیری را در برابر این تهدید ایجاد کنند.
