روهیت چوپرا، مدیر آژانس، روز سه‌شنبه گفت که دفتر حمایت مالی از مصرف‌کننده به دقت نظارت می‌کند که چگونه هوش مصنوعی مولد و فناوری‌های مشابه ChatGPT، زمانی که توسط بانک‌ها استفاده می‌شود، می‌تواند باعث تضعیف یا ایجاد خطر در مراقبت از مشتری شود.
چوپرا روز سه‌شنبه گفت: «CFPB به آینده بانکداری فکر می‌کند – چه در متاورس یا در نوعی زمینه واقعیت افزوده باشد – و ما شروع به بررسی برخی از بلوک‌های سازنده‌ای که در آنجا وجود دارد، کرده‌ایم. ما در حال حاضر در حال انجام برخی کارها در مورد چگونگی آن هستیم [generative AI] ممکن است خطراتی را در مراقبت سفارشی مشتری تضعیف یا ایجاد کند، تا حدی که سوگیری ها معرفی شوند، یا صادقانه بگویم، حتی اطلاعات اشتباه.
اظهارات چوپرا در آستانه یک ابتکار بین سازمانی بود که دفتر روز سه شنبه در کنار وزارت دادگستری، کمیسیون تجارت فدرال و کمیسیون فرصت های شغلی برابر اعلام کرد. این اقدام با هدف سرکوب “هوش مصنوعی کنترل نشده” در وام، مسکن و اشتغال است.
در یک بیانیه مشترکآژانس‌ها گفتند که متعهد می‌شوند قوانین و مقررات مربوطه خود را برای مهار اقدامات تبعیض‌آمیز غیرقانونی که توسط شرکت‌هایی که فناوری‌های هوش مصنوعی را به کار می‌گیرند، اجرا کنند.
چوپرا گفت: «هوش مصنوعی کنترل نشده ما و حقوق شهروندی ما را تهدید می‌کند که قبلاً احساس می‌شود. شرکت‌های فناوری و موسسات مالی حجم عظیمی از داده‌ها را جمع‌آوری می‌کنند و از آن برای تصمیم‌گیری بیشتر و بیشتر در مورد زندگی‌مان استفاده می‌کنند، از جمله اینکه آیا وام می‌گیریم یا اینکه چه تبلیغاتی می‌بینیم.
بیانیه بین سازمانی در حالی منتشر می شود که رشد یادگیری ماشینی، هوش مصنوعی مولد و توجه پیرامون تولید کننده متن ChatGPT سوالاتی را در مورد امنیت و سوگیری در طیف گسترده ای از صنایع ایجاد کرده است.
چوپرا گفت که CFPB بر نحوه استفاده شرکت های مالی از هوش مصنوعی مولد نظارت می کند و راه هایی را که شرکت ها می توانند این فناوری را در آینده پیاده سازی کنند، بررسی می کند.
او گفت: «من فکر می‌کنم که می‌دانیم هوش مصنوعی مولد اساساً بر نحوه اعتماد افراد به انواع خاصی از پیام‌ها تأثیر می‌گذارد. این چیزی است که ما به‌عنوان مجری حقوق مدنی و مصرف‌کننده بسیار فعالانه برای آن آماده می‌شویم.»
CFPB در تلاش است تا به افشاگران فناوری آموزش دهد تا در صورت نقض فناوری خود، به آژانس هشدار دهند.
پیتر یان ون دی ون، معاون بانکداری دیجیتال جهانی در مشاور دیجیتال Mobiquity گفت، مانند سایر بخش ها، صنعت بانکداری به مزایای بالقوه استفاده از فناوری هوش مصنوعی مولد در تعاملات خود با مشتریان چشم دوخته است.
او گفت که این فناوری پتانسیل تغییر اساسی بانکداری دیجیتال را با ایجاد یک تجربه کاربری شخصی تر که پشتیبانی بهتری را ارائه می دهد، دارد.
Van de Venn گفت: “ارائه تجربیات شخصی به مشتریان به طور قابل توجهی مهم تر شده است زیرا بانک ها تمرکز خود را در ابتدا به دیجیتال تغییر می دهند.” موارد استفاده اصلی در ابتدا در مورد خدمات مشتری با چت بات ها و عوامل مجازی خواهد بود که به روشی انسانی تر و متناسب با موقعیت آنها به مشتریان خدمات ارائه می دهند.
به عنوان مثال، بانک آمریکا است کار برای گسترش دستیار دیجیتالی مجهز به هوش مصنوعی، توانایی های اریکا شامل بانکداری شخصی، سرمایه گذاری، اعتبار و مشاوره برنامه ریزی بازنشستگی را شامل می شود.
بانک مستقر در شارلوت، کارولینای شمالی، که اریکا را در سال 2018 راه اندازی کرد، سال گذشته برنامه هایی را برای استفاده از اریکا برای اتصال مشتریان به نمایندگی های بانکی در رابطه با محصولات و خدمات جدید، مانند وام مسکن، کارت های اعتباری و حساب های سپرده ارائه کرد.
با این حال، زمانی که در مورد چشم انداز بانک آمریکا برای این ابزار با توجه به محبوبیت روزافزون ChatGPT سؤال شد، برایان موینیهان، مدیر عامل شرکت، گفت که وام دهنده رویکرد محتاطانه خود را حفظ خواهد کرد.
«ارزش زیادی وجود دارد [in generative AI]اما سوال کلیدی این است که چه زمانی می‌توانیم بدون ترس از سوگیری از آن استفاده کنیم و این اطلاعات از کجا آمده است؟ موینیهان در جریان تماس با سود سه ماهه اول بانک در هفته گذشته به تحلیلگران گفت. ما باید درک کنیم که چگونه تصمیمات مبتنی بر هوش مصنوعی گرفته می‌شود تا در مقابل خواسته‌های مشتریانمان برای منصفانه بودن و پیروی از قوانین و مقررات پیرامون مواردی مانند وام دادن بایستیم.»
ون دی ون گفت، در عین حال، تنظیم‌کننده‌ها باید دستورالعمل‌های بیشتری در مورد چگونگی استفاده از هوش مصنوعی مولد در خدمات مالی ارائه کنند.
“سوال بزرگ همچنین این است که تنظیم کننده ها چه اجازه ای خواهند داد. پشتیبانی خط اول در مورد سؤالات ساده در مورد محصولات قابل قبول است، اما ارائه مشاوره مالی معمولاً به وظیفه مراقبت و سایر اشکال مقررات برای محافظت از مصرف کنندگان در برابر توصیه های نامناسب است. “این به تنظیم کننده ها بستگی دارد که سریع عمل کنند و شفافیت را ارائه دهند.”
تام کرامر، مدیر عامل Protiviti Digital گفت: بانک‌هایی که کنجکاو در مورد استفاده از هوش مصنوعی مولد مانند ChatGPT هستند، باید احتیاط کنند و آن را فقط در موارد استفاده غیرحساس که به اطلاعات مشتری یا داده‌های بانک اشاره نمی‌کنند، به کار ببرند.
او گفت: “با این حال، می توان از آن برای اهداف آموزشی، ایجاد ورودی های سطح بالا و عمومی برای پایان نامه های سرمایه گذاری و در حمایت از توسعه زبان بازاریابی استفاده کرد.” بانک ها برای مدیریت ریسک فعالیت ها به شیوه های نظارتی و حکمرانی خوب نیاز دارند.
