تصویر بازنمایی
(Nanostockk، Getty Images/ via Canva)
سازمان جهانی بهداشت (WHO) روز سه‌شنبه اعلام کرد که بررسی دقیق خطرات در هنگام استفاده از ابزارهای هوش مصنوعی (AI) مانند ChatGPT، Bard و Bert در مراقبت‌های بهداشتی ضروری است.
در حالی که WHO مشتاق استفاده مناسب از فناوری‌ها، از جمله ابزارهای هوش مصنوعی تولید شده برای حمایت از متخصصان مراقبت‌های بهداشتی، بیماران، محققان و دانشمندان است، «نگرانی وجود دارد که احتیاط‌هایی که معمولاً برای هر فناوری جدید اعمال می‌شود، به‌طور مداوم در مورد فناوری‌های بزرگ اعمال نمی‌شود. ابزارهای مدل زبان (LLM)»، در این بیانیه آمده است.
LLM ها شامل ChatGPT، Bard، Bert و دیگران هستند که درک، پردازش و تولید ارتباطات انسانی را تقلید می کنند.
سازمان جهانی بهداشت گفت: «این شامل پایبندی گسترده به ارزش‌های کلیدی شفافیت، شمول، مشارکت عمومی، نظارت متخصص و ارزیابی دقیق است».
وی افزود: «ضروری است که هنگام استفاده از LLM برای بهبود دسترسی به اطلاعات سلامت، به عنوان یک ابزار پشتیبانی تصمیم، یا حتی برای افزایش ظرفیت تشخیصی در محیط‌های کم منابع برای محافظت از سلامت مردم و کاهش نابرابری، خطرات به دقت بررسی شود.»
WHO گفت که “پذیرش سریع سیستم های آزمایش نشده می تواند منجر به اشتباهات کارکنان مراقبت های بهداشتی، آسیب رساندن به بیماران، کاهش اعتماد به هوش مصنوعی و در نتیجه تضعیف (یا تأخیر) مزایای بالقوه و استفاده طولانی مدت از چنین فناوری هایی شود.”
نگرانی‌های WHO در مورد ابزارهای هوش مصنوعی شامل این است که داده‌های مورد استفاده برای آموزش مدل‌های هوش مصنوعی ممکن است مغرضانه باشد، بنابراین اطلاعات گمراه‌کننده یا نادرست تولید می‌کند که می‌تواند خطراتی برای سلامت، برابری و فراگیر بودن ایجاد کند.
LLMها همچنین احتمالاً پاسخ‌هایی تولید می‌کنند که می‌توانند برای کاربر نهایی معتبر و قابل قبول به نظر برسند، و این پاسخ‌ها همچنین ممکن است کاملاً نادرست یا حاوی خطاهای جدی باشند، به‌ویژه برای پاسخ‌های مرتبط با سلامت.
علاوه بر این، WHO گفت که هوش مصنوعی ممکن است از داده های حساس (از جمله داده های بهداشتی) محافظت نکند. می‌تواند از داده‌ها برای تولید و انتشار اطلاعات نادرست بسیار مؤثر در قالب محتوای متنی، صوتی یا ویدیویی که تشخیص آن از محتوای سلامت قابل اعتماد برای عموم دشوار است، سوء استفاده کند.
در بیانیه آمده است: «سازمان بهداشت جهانی پیشنهاد می‌کند که به این نگرانی‌ها رسیدگی شود و شواهد واضحی از سود قبل از استفاده گسترده از آن‌ها در مراقبت‌های بهداشتی و پزشکی معمول – چه توسط افراد، چه ارائه‌دهندگان مراقبت‌ها یا مدیران سیستم سلامت و سیاست‌گذاران، اندازه‌گیری شود.»
**
مقاله فوق از منبع سیمی با کمترین تغییرات در تیتر و متن منتشر شده است.
