بنت نگرانی هایی را در مورد آنچه که چت ربات ها به بچه ها می گویند افزایش می دهد

هوش مصنوعی مولد، مانند Chat GPT، ممکن است بتواند یک قسمت از South Park یا LSAT را بنویسد، اما مایکل بنت، سناتور آمریکایی کلرادو، نگران این است که این ربات‌های چت به بچه‌ها چه می‌گویند.

این پس از آن صورت می‌گیرد که روزنامه‌نگاران و دیگران که خود را به عنوان کودکان و نوجوانان نشان می‌دهند، گزارش دادند که برنامه‌های هوش مصنوعی مولد به ارائه اطلاعات به سؤالاتی کمک می‌کند که باید پرچم‌های قرمز را برافراشتند.

نمونه‌های ذکر شده در نامه بنت شامل نکات هوش مصنوعی درباره نحوه محافظت از دسترسی به برنامه‌های رسانه‌های اجتماعی است که والدین می‌خواهند بچه‌ها آن را حذف کنند، نحوه پوشاندن کبودی‌ها قبل از بازدید از خدمات محافظت از کودکان و توصیه‌هایی در مورد ایجاد روحیه با “شمع یا موسیقی” فردی که به عنوان یک دختر 13 ساله در حال آماده شدن برای ملاقات با یک مرد 31 ساله ظاهر شده است.

بنت خطاب به روسای Open AI، Snap، Alphabet، Microsoft و Meta می‌نویسد: «اگرچه هوش مصنوعی مولد پتانسیل بسیار زیادی دارد، اما رقابت برای ادغام آن در برنامه‌های روزمره نمی‌تواند به بهای ایمنی و رفاه کاربران جوان تمام شود. اگرچه چت ربات‌های مبتنی بر هوش مصنوعی برای هر کسی خطراتی را به همراه دارند – به عنوان مثال، با ارائه اطلاعات نادرست، تداوم تعصب یا دستکاری کاربران – کودکان و نوجوانان به‌ویژه آسیب‌پذیر هستند. کاربران جوان‌تر در مراحل اولیه رشد شناختی، عاطفی و فکری قرار دارند و آنها را تأثیرپذیرتر، تکانشی‌تر و کمتر مجهز می‌کند تا واقعیت را از داستان تشخیص دهند.

بنت در حین ادغام هوش مصنوعی مولد در برنامه‌هایشان، چندین سؤال برای رهبران فناوری داشت، از جمله اینکه چه ویژگی‌های ایمنی موجود یا برنامه‌ریزی شده‌ای را برای کاربران جوان‌تر پیاده‌سازی می‌کنند، آیا ارزیابی کرده‌اند یا برای ارزیابی آسیب‌های احتمالی برای مخاطبان جوان‌تر برنامه‌ریزی کرده‌اند، و چه نوع ویژگی‌هایی فرآیندهای ممیزی که آنها برای مدل‌های هوش مصنوعی در پشت ربات‌های چت دارند که با مردم صحبت می‌کنند.

این فشار زمانی صورت می‌گیرد که قانون‌گذاران بیشتری در مورد اینکه چگونه رسانه‌های اجتماعی بر سلامت روان نوجوانان تأثیر می‌گذارند و چگونه شرکت‌های رسانه‌های اجتماعی از داده‌هایی که جمع‌آوری می‌کنند استفاده می‌کنند، ابراز نگرانی کرده‌اند. پاسخ به سؤالات بنت می تواند به شکل دادن هر گونه پاسخ کنگره، اعم از قانون یا جلسات استماع آینده، به این نگرانی ها کمک کند.

بنت یکی از چندین قانونگذار از هر دو طرف است که به ویژه در مورد برنامه محبوب رسانه اجتماعی TikTok ابراز نگرانی کرده است. مدیر عامل TikTok اواخر این هفته در مقابل کمیته انرژی و تجارت خانه شهادت خواهد داد.

در کنگره گذشته، بنت همچنین لایحه‌ای را برای ایجاد یک کمیسیون فدرال برای نظارت بر پلتفرم‌های دیجیتال «برای حمایت از مصرف‌کنندگان، ترویج رقابت و دفاع از منافع عمومی» ارائه کرد.

این داستان از CPR News، یک منبع خبری غیرانتفاعی است. با اجازه استفاده می شود. برای اطلاعات بیشتر و حمایت از رادیو عمومی کلرادو، به cpr.org مراجعه کنید.