ChatGPT نگرانی‌هایی را درباره بیماری‌های اطلاعاتی مبتنی بر هوش مصنوعی در سلامت عمومی ایجاد می‌کند

OpenAI یک شرکت تحقیق و توسعه مبتنی بر هوش مصنوعی (AI) است که اخیرا ChatGPT، یک مدل زبان بزرگ (LLM) را توسعه داده است. اگرچه LLM های توسعه یافته قبلی می توانند وظایف مختلف پردازش زبان طبیعی (NLP) را انجام دهند، ChatGPT به طور متفاوتی پردازش می کند. ChatGPT یک ربات چت هوش مصنوعی است که می تواند در یک مکالمه شبیه انسان تعامل داشته باشد.

جالب اینجاست که تنها 5 روز پس از انتشار ChatGPT، بیش از یک میلیون کاربر داشت. اکثر کاربران ChatGPT را برای پاسخ دادن به سوالات پیچیده یا تولید متن کوتاه امتحان کردند. در مقایسه با متن توسعه یافته دستی، تشخیص سرقت ادبی در متن تولید شده توسط ابزار ChatGPT آسان نخواهد بود.

اخیرا مرزها در بهداشت عمومی مجله مطالعه بر روی تکامل LLM متمرکز شده است. همچنین ارزیابی کرد که ChatGPT چگونه می تواند بر تحقیقات آینده و سلامت عمومی تأثیر بگذارد. این مطالعه با هدف ترویج بحث در مورد عملکرد ChatGPT در تحقیقات پزشکی، با در نظر گرفتن مفهوم “اطلاعات اطلاعاتی مبتنی بر هوش مصنوعی” انجام شد.

چشم انداز: ChatGPT و ظهور مدل های زبان بزرگ: تهدید جدید اطلاعاتی مبتنی بر هوش مصنوعی در سلامت عمومی. اعتبار تصویر: میلا سوپینسکایا گلاچنکو / شاتر استوک

تکامل LLMs

در پنج سال گذشته، رشد تصاعدی در LLM مشاهده شده است که امکان اجرای وظایف متنوع را فراهم می کند. با این حال، قبل از سال 2017، اکثر مدل های NLP برای یک کار خاص آموزش دیده بودند. این اشکال از طریق توسعه معماری شبکه توجه به خود، که به عنوان Transformer نیز شناخته می شود، برطرف شد. در سال 2018، این مفهوم برای توسعه دو مدل انقلابی به نام‌های ترانسفورماتور پیش‌آموزش‌شده (GPT) و نمایش‌های رمزگذار دوطرفه از ترانسفورماتورها (BERT) مورد استفاده قرار گرفت.

برای دستیابی به قابلیت های تعمیم در BERT و GPT، ترکیبی از تنظیم دقیق نظارت شده و پیش آموزش بدون نظارت استفاده شد. این رویکرد استفاده از بازنمایی های زبانی از پیش آموزش دیده را برای اجرای وظایف پایین دستی امکان پذیر کرد.

مدل‌های GPT به سرعت تکامل یافتند و نسخه‌های بسیاری عرضه شدند. نسخه های بهبودیافته حاوی داده ها و پارامترهای متنی بزرگی هستند. به عنوان مثال، نسخه سوم GPT (GPT-3) 100 برابر بزرگتر از GPT-2 است و شامل 175 میلیارد پارامتر است. اگرچه GPT-3 می‌تواند متن‌هایی را تولید کند که طیف وسیعی از دامنه‌ها را پوشش می‌دهند، اغلب متن مغرضانه‌ای را ارائه می‌کند که حاوی حقایق غیرواقعی است. این به این دلیل است که بسیاری از LLM ها، از جمله GPT-3، سوگیری ها را تکرار می کنند زیرا برای پیش بینی عنصر متن بعدی بر اساس داده های موجود در اینترنت طراحی شده اند. مشکل اصلی طراحی LLM هایی بود که با ارزش های انسانی و اصول اخلاقی همسو باشد.

با پرداختن به مشکل فوق، OpenAI ChatGPT را با ترکیب 1.3 میلیارد پارامتر آموزش دیده با استفاده از یادگیری تقویتی از بازخورد انسانی (RLHF) توسعه داد. ChatGPT 2021 به دلیل عدم توانایی در بررسی واقعیت متن نادرستی تولید کرد که با ادغام GPT-4 در ChatGPT اصلاح شد. اگرچه آخرین ChatGPT داده‌های قابل اعتمادی را تولید می‌کند، باید تمام محدودیت‌های این ابزار را در نظر گرفت، به‌ویژه هنگام استفاده از آن در تحقیقات پزشکی.

ارزیابی تهدیدات ChatGPT در سلامت عمومی با در نظر گرفتن Infodemic مبتنی بر هوش مصنوعی

ChatGPT می تواند توسط محققان برای ایجاد مقالات علمی مهم استفاده شود. به عنوان مثال، از این ابزار می توان برای پیشنهاد عناوین مرتبط برای مقالات پژوهشی، نوشتن پیش نویس و بیان مفاهیم علمی پیچیده به زبان انگلیسی ساده و از نظر گرامری صحیح استفاده کرد. علاقه زیاد به ChatGPT در جامعه علمی را می توان از طریق افزایش سریع تعداد مقالات تحقیقاتی در مورد این ابزار سنجید.

بسیاری از نویسندگان قبلاً از ChatGPT برای نوشتن بخشی از مقالات علمی خود استفاده کرده اند. این امر بر این واقعیت تأکید می کند که این ابزار قبلاً در فرآیندهای تحقیقاتی گنجانده شده است، حتی قبل از پرداختن به نگرانی های اخلاقی و ایجاد قوانین استاندارد برای کاربرد آن.

LLM ها را می توان فریب داد تا متن مرتبط با موضوعات بحث برانگیز یا محتوای نادرست تولید کنند. LLM ها می توانند متنی شبیه به نوشته های انسان تولید کنند. از این توانایی می توان برای ایجاد مقالات خبری جعلی و محتوای ساختگی یا گمراه کننده بدون اینکه کاربر متوجه شود که محتوا توسط هوش مصنوعی تولید شده است، سوء استفاده کرد.

اخیراً، برخی از نویسندگان بر نیاز به آشکارسازهای LLM که می توانند اخبار جعلی را شناسایی کنند، تاکید کرده اند. آشکارسازهای GPT-2 حاضر در تشخیص متن نوشته شده توسط هوش مصنوعی زمانی که توسط ChatGPT تولید می شوند قابل اعتماد نیستند. نیاز مستمر به بهبود آشکارسازها مطابق با پیشرفت سریع LLMها برای مهار اهداف مخرب وجود دارد.

به دلیل عدم وجود آشکارسازهای دقیق، برخی از اقدامات پیشگیرانه باید رعایت شود. به عنوان مثال، کنفرانس بین المللی یادگیری ماشین (ICML) برای سال 2023 استفاده از LLM ها را در پیش نویس های ارسال شده ممنوع کرد. با این حال، هیچ ابزاری برای تأیید انطباق با این قانون در دسترس نیست.

بسیاری از مجلات علمی دستورالعمل های نویسنده را به روز کرده اند. به عنوان مثال، مجلات Springer Nature اضافه کردند که LLM ها را نمی توان به عنوان نویسنده فهرست کرد و استفاده از آن باید در روش ها یا بخش های تقدیرنامه ذکر شود. این دستورالعمل های به روز شده نیز توسط الزویر اجرا شده است.

از ChatGPT می توان برای تولید چکیده ها، مقالات و کتابشناسی های علمی جعلی استفاده کرد. در اینجا، یک سیستم شناسایی دیجیتال شی (DOI) می تواند برای تشخیص دقیق مراجع جعلی استفاده شود. دانشمندان خاطرنشان کردند که برای تأیید یک یافته در پزشکی قبل از استفاده بالینی به سالها تحقیق نیاز است. بنابراین، اطلاعات جعلی تولید شده توسط ابزارهای هوش مصنوعی می تواند امنیت افراد را به خطر بیندازد.

بیماری همه گیر کروناویروس 2019 (COVID-19) به شدت بر تحقیقات سلامت تأثیر گذاشته است. این در درجه اول به دلیل انتشار سریع اطلاعات، از سرورهای پیش چاپ، از طریق رسانه های اجتماعی است که بر انتخاب های سلامتی افراد تأثیر می گذارد. اطلاعات COVID-19 بیشتر از طریق رسانه های اجتماعی منتشر می شد که منجر به پدیده ای به نام infodemic شد. مشاهده شد که یک infodemic می تواند به طور قابل توجهی بر تصمیم گیری پزشکی در استراتژی های پیشگیری یا درمان تأثیر بگذارد. نویسندگان تهدیدات سلامت عمومی قابل توجهی را در آینده به دلیل تولید بیماری‌های اطلاعاتی مبتنی بر هوش مصنوعی پیش‌بینی می‌کنند.