NewsGuard، یک گروه رتبه‌بندی خبری، روز دوشنبه گزارشی را منتشر کرد که نشان می‌دهد وب‌سایت‌های خبری متعددی که توسط چت‌بات‌های هوش مصنوعی تولید شده‌اند و به صورت آنلاین ظاهر می‌شوند، آشکار می‌شود. این گزارش نگرانی‌ها را در مورد اینکه چگونه این فناوری می‌تواند تکنیک‌های کلاهبرداری موجود را تقویت کند، برجسته می‌کند.
NewsGuard، یک گروه رتبه‌بندی خبری، روز دوشنبه گزارشی را منتشر کرد که نشان می‌دهد وب‌سایت‌های خبری متعددی که توسط چت‌بات‌های هوش مصنوعی تولید شده‌اند و به صورت آنلاین ظاهر می‌شوند، آشکار می‌شود. این گزارش نگرانی‌ها را در مورد اینکه چگونه این فناوری می‌تواند تکنیک‌های کلاهبرداری موجود را تقویت کند، برجسته می‌کند.
بلومبرگ بررسی مستقلی از 49 وب‌سایت انجام داد و طیف گسترده‌ای از محتوا را یافت، از سایت‌هایی با نام‌های عمومی مانند News Live 79 و Daily Business Post که به عنوان سایت‌های خبری فوری ظاهر می‌شوند تا سایت‌هایی که نکات مربوط به سبک زندگی، اخبار افراد مشهور و محتوای حمایت‌شده را ارائه می‌دهند. وجه مشترک همه آنها این است که هیچ یک از آنها فاش نمی کنند که محتوای آنها توسط چت ربات های هوش مصنوعی مانند ChatGPT OpenAI یا Google Bard بالقوه از Alphabet Inc. وب سایت ها در سال جاری انتشار خود را آغاز کردند زیرا استفاده از ابزارهای هوش مصنوعی گسترده تر شد.
بلومبرگ بررسی مستقلی از 49 وب‌سایت انجام داد و طیف گسترده‌ای از محتوا را یافت، از سایت‌هایی با نام‌های عمومی مانند News Live 79 و Daily Business Post که به عنوان سایت‌های خبری فوری ظاهر می‌شوند تا سایت‌هایی که نکات مربوط به سبک زندگی، اخبار افراد مشهور و محتوای حمایت‌شده را ارائه می‌دهند. وجه مشترک همه آنها این است که هیچ یک از آنها فاش نمی کنند که محتوای آنها توسط چت ربات های هوش مصنوعی مانند ChatGPT OpenAI یا Google Bard بالقوه از Alphabet Inc. وب سایت ها در سال جاری انتشار خود را آغاز کردند زیرا استفاده از ابزارهای هوش مصنوعی گسترده تر شد.
NewsGuard چندین مورد را کشف کرد که در آن چت ربات های هوش مصنوعی اطلاعات نادرستی را برای مقالات منتشر شده در این وب سایت ها تولید می کردند. به عنوان مثال، در ماه آوریل، CelebritiesDeaths.com مقاله ای منتشر کرد که در آن مدعی شد «بایدن [was] مرده” و اینکه کامالا هریس اکنون به عنوان رئیس جمهور موقت بود. وب سایت دیگری برای یک معمار یک آگهی فوت جعلی ایجاد کرد که حاوی جزئیات ساختگی درباره زندگی و کار آنها بود. علاوه بر این، TNewsNetwork یک داستان تأیید نشده درباره مرگ هزاران سرباز در جنگ روسیه و اوکراین منتشر کرد. ، فقط بر اساس یک ویدیوی YouTube است.
NewsGuard چندین مورد را کشف کرد که در آن چت ربات های هوش مصنوعی اطلاعات نادرستی را برای مقالات منتشر شده در این وب سایت ها تولید می کردند. به عنوان مثال، در ماه آوریل، CelebritiesDeaths.com مقاله ای منتشر کرد که در آن مدعی شد «بایدن [was] مرده” و اینکه کامالا هریس اکنون به عنوان رئیس جمهور موقت بود. وب سایت دیگری برای یک معمار یک آگهی فوت جعلی ایجاد کرد که حاوی جزئیات ساختگی درباره زندگی و کار آنها بود. علاوه بر این، TNewsNetwork یک داستان تأیید نشده درباره مرگ هزاران سرباز در جنگ روسیه و اوکراین منتشر کرد. ، فقط بر اساس یک ویدیوی YouTube است.
به نظر می‌رسد که بیشتر این وب‌سایت‌ها مزرعه‌های محتوا هستند – وب‌سایت‌هایی با کیفیت پایین که توسط منابع ناشناس ایجاد شده‌اند و برای جذب درآمد تبلیغاتی پست ایجاد می‌کنند. طبق گزارش NewsGuard، این سایت‌ها در نقاط مختلف جهان قرار دارند و محتوا را به چندین زبان مانند انگلیسی، پرتغالی، تاگالوگ و تایلندی منتشر می‌کنند.
به نظر می‌رسد که بیشتر این وب‌سایت‌ها مزرعه‌های محتوا هستند – وب‌سایت‌هایی با کیفیت پایین که توسط منابع ناشناس ایجاد شده‌اند و برای جذب درآمد تبلیغاتی پست ایجاد می‌کنند. طبق گزارش NewsGuard، این سایت‌ها در نقاط مختلف جهان قرار دارند و محتوا را به چندین زبان مانند انگلیسی، پرتغالی، تاگالوگ و تایلندی منتشر می‌کنند.
تعدادی از این سایت‌ها از طریق تبلیغات «پست مهمان» درآمد کسب کردند، سرویسی که به افراد امکان می‌دهد برای ذکر کسب‌وکار خود در این وب‌سایت‌ها برای افزایش رتبه جستجوی خود پول پرداخت کنند. به نظر می‌رسد برخی سایت‌ها بر روی ایجاد فالوور در رسانه‌های اجتماعی تمرکز کرده‌اند، مانند ScoopEarth.com که بیوگرافی افراد مشهور را تولید می‌کند و یک صفحه فیس‌بوک مرتبط با 124000 فالوور دارد.
تعدادی از این سایت‌ها از طریق تبلیغات «پست مهمان» درآمد کسب کردند، سرویسی که به افراد امکان می‌دهد برای ذکر کسب‌وکار خود در این وب‌سایت‌ها برای افزایش رتبه جستجوی خود پول پرداخت کنند. به نظر می‌رسد برخی سایت‌ها بر روی ایجاد فالوور در رسانه‌های اجتماعی تمرکز کرده‌اند، مانند ScoopEarth.com که بیوگرافی افراد مشهور را تولید می‌کند و یک صفحه فیس‌بوک مرتبط با 124000 فالوور دارد.
بیش از 50 درصد از سایت‌های شناسایی شده که توسط ربات‌های چت هوش مصنوعی ایجاد شده‌اند، از تبلیغات برنامه‌ای درآمد کسب می‌کنند که به‌طور خودکار با استفاده از الگوریتم‌ها خرید و فروش می‌شوند. این یک چالش مهم برای گوگل است که فناوری تبلیغاتی آن برای نیمی از سایت‌ها درآمد ایجاد می‌کند و ربات چت هوش مصنوعی Bard ممکن است توسط برخی از آنها استفاده شده باشد.
بیش از 50 درصد از سایت‌های شناسایی شده که توسط ربات‌های چت هوش مصنوعی ایجاد شده‌اند، از تبلیغات برنامه‌ای درآمد کسب می‌کنند که به‌طور خودکار با استفاده از الگوریتم‌ها خرید و فروش می‌شوند. این یک چالش مهم برای گوگل است که فناوری تبلیغاتی آن برای نیمی از سایت‌ها درآمد ایجاد می‌کند و ربات چت هوش مصنوعی Bard ممکن است توسط برخی از آنها استفاده شده باشد.
به گفته گوردون کروویتز، مدیر اجرایی NewsGuard، شرکت هایی مانند OpenAI و Google باید در آموزش مدل های خود محتاط باشند تا از جعل اخبار جلوگیری کنند، همانطور که گزارش گروه نشان داد. کروویتز، ناشر سابق وال استریت ژورنال، اظهار داشت که استفاده از مدل‌های هوش مصنوعی معروف به ایجاد اطلاعات نادرست برای تولید وب‌سایت‌هایی که شبیه رسانه‌های خبری هستند، نوعی کلاهبرداری است که به عنوان روزنامه‌نگاری پنهان شده است.
به گفته گوردون کروویتز، مدیر اجرایی NewsGuard، شرکت هایی مانند OpenAI و Google باید در آموزش مدل های خود محتاط باشند تا از جعل اخبار جلوگیری کنند، همانطور که گزارش گروه نشان داد. کروویتز، ناشر سابق وال استریت ژورنال، اظهار داشت که استفاده از مدل‌های هوش مصنوعی معروف به ایجاد اطلاعات نادرست برای تولید وب‌سایت‌هایی که شبیه رسانه‌های خبری هستند، نوعی کلاهبرداری است که به عنوان روزنامه‌نگاری پنهان شده است.
اگرچه OpenAI بلافاصله به درخواست برای اظهار نظر پاسخ نداد، این شرکت قبلاً اعلام کرده بود که از ترکیبی از بازبین‌های انسانی و سیستم‌های خودکار برای شناسایی و جلوگیری از سوء استفاده از مدل خود استفاده می‌کند که شامل صدور هشدار یا ممنوعیت کاربران در موارد شدید است.
