دیوید واکر به خوبی می داند که مدل های زبان بزرگ مانند ChatGPT که در کل اینترنت آموزش داده شده است، می تواند توهم داشتن. آنها حتی می توانند وقایع تاریخی را که هرگز اتفاق نیفتاده است بسازد.
واکر که مدیر ارشد فناوری Westpac است در مصاحبه ای گفت: «آنها می توانند دروغ بگویند، می توانند اطلاعات بسازند. “آنها فوق العاده قدرتمند هستند.”
این بانک که در سیدنی مستقر است و بیش از 12 میلیون مشتری دارد، نمی تواند اجازه دهد نسخه عمومی ChatGPT برای مشتریان یا کارمندانی که از دستیار مجازی استفاده می کنند، پاسخ های توهم ایجاد کند. مدل‌های GPT (مدل‌های ترانسفورماتور از پیش آموزش‌دیده مولد) شبکه‌های عصبی مصنوعی هستند که روی مجموعه داده‌های بزرگی از متن بدون برچسب از قبل آموزش داده شده‌اند و قادر به تولید محتوای انسان‌مانند هستند.
اما واکر می‌خواهد به کارمندان و مشتریان تجربه ChatGPT از پاسخ‌های انسان‌مانند به سؤالاتشان را بدهد – اگر بتوان آن را با خیال راحت انجام داد، با اطمینان از دقیق بودن پاسخ‌ها.
این بانک با Kasisto کار می کند تا Kai-GPT خود را آزمایش کند، یک مدل زبان بزرگ که فقط بر روی مکالمات و داده ها در صنعت بانکداری آموزش داده شده است.
زور گورلوف، مدیرعامل Kasisto در مصاحبه ای گفت: “توهم در مدل های هوش مصنوعی عمومی اجتناب ناپذیر است و می تواند بسیار بد شود.” او گفت که به همین دلیل است که GPT های بانکی به دقت، شفافیت، اعتماد و قابلیت سفارشی سازی نیاز دارند.
گورلوف گفت، همچنین به همین دلیل است که بانک‌هایی مانند Westpac روی موارد استفاده داخلی برای هوش مصنوعی مولد تمرکز می‌کنند – آن را به بانکداران خط مقدم، نمایندگان مرکز تماس و کارگران وام مسکن می‌دهند. گورلوف گفت که Westpac Kai-GPT را بر اساس محتوای اختصاصی خود آموزش خواهد داد و در نتیجه خطر ایجاد توهم در سیستم را به طور چشمگیری کاهش می دهد.
واکر امیدوار است که به مشتریان و کارکنان، به عنوان مثال، در فرآیند وام مسکن کمک کامل‌تر و محاوره‌ای‌تری ارائه کند.
واکر گفت: «وقتی مردم برای وام مسکن درخواست می‌کنند، باید فرم‌های زیادی را پر کنند. “ما باید بدانیم شما کی هستید، ما باید همه چیز را در مورد شما بدانیم. این به ما در بررسی کیفیت اطلاعات دریافتی کمک می کند، بنابراین ما را از رفتن به عقب و جلو به سمت مشتریان خود باز می دارد. این روند را ساده‌تر می‌کند. به مشتریان ما کمک می‌کند، به کارکنان وام‌دهی ما کمک می‌کند، و همه چیز را بسیار ساده‌تر و یکپارچه‌تر می‌کند.”
به گفته پیتر وانماچر، تحلیلگر اصلی بانکداری دیجیتال در Forrester، بانک‌های دیگر احتمالاً آزمایش‌های مشابهی را در دو سال آینده انجام خواهند داد.
Wannemacher گفت: “ابزارهای تخصصی ساخته شده بر روی یک مدل زبان بزرگ توسط فروشندگان، موسسات مالی سنتی و فین تک ها راه اندازی خواهند شد.” بیشتر موسسات مالی سنتی به جای نمایش یک ربات چت که بر روی یک مدل زبان بزرگ ساخته شده است، با تمرکز بر ابزارهای مولد کارمندان شروع می کنند.
اما او همچنین فکر می کند که بانک ها با احتیاط عمل خواهند کرد.
Wannemacher می‌گوید: «مدل‌های زبان‌های بزرگ ناگهان بهتر شده‌اند و به طور گسترده مورد استفاده قرار می‌گیرند، اما همچنان به طرز شگفت‌انگیزی شکست می‌خورند و حتی می‌توانند خروجی‌های کاملاً اشتباه و حتی جعلی ایجاد کنند. پول بخش بسیار حساسی از زندگی مردم است و بانک‌های سنتی به درستی در برابر راه‌اندازی هر چیزی که مشتری با آن مواجه می‌شود، مقاومت می‌کنند تا زمانی که درک بهتری از مشکلات پیش آمده و نحوه رسیدگی به آن نداشته باشند.»
برای جلوگیری از پاسخ Kai-GPT به سؤالی بر اساس اطلاعات بانک دیگری که مربوط به Westpac نیست، واکر از چیزی استفاده می کند که او لایه بندی می نامد. یک لایه از مدل بر روی داده ها و مکالمات بسیاری از بانک ها آموزش داده شده است. لایه دیگری در مورد اطلاعات خاص Westpac مانند اسناد خط مشی، فرم ها و وب سایت ها و ضبط مکالمات در مراکز تماس بانک آموزش داده شده است.
واکر گفت: “همانطور که پاسخی را فرموله می کند، برای تعیین هدف سوال، از آن لایه صنعت استفاده می کند.” “این دانش از تمام آن مکالمات از همه آن بانک ها دریافت کرده است و به همین دلیل هوشمندتر خواهد بود. اما زمانی که در مورد شرایط وام مسکن یا وام مسکن صحبت می کنید، این موضوع حتی بیشتر به مدل خاص Westpac کشیده می شود. نرخ سود سپرده. این لایه‌ها با هم کار می‌کنند تا این پاسخ‌های واقعاً غنی و شگفت‌انگیز را فرموله کنند، اما به روشی دقیق و مختصر.”
واکر گفت: استفاده از داده‌های هر چه بیشتر غنا و دقت را به پاسخ‌ها می‌دهد، واکر می‌گوید: «هنوز این موضوع است که می‌خواهید روی چه چیزی تمرین کنید و برای درک چه دانشی از موتور GPT نیاز دارید.»
واکر گفت: این بانک در حال حاضر به کندی در حال حرکت است تا اطمینان حاصل کند که فناوری جدید با خط مشی هوش مصنوعی مسئول آن و “چگونه در مورد محافظت از کارکنان و مشتریان خود به لحاظ اخلاقی فکر می کنیم” مطابقت دارد. ما می‌خواهیم مطمئن شویم که خیلی سریع جلو نرویم و چیزی را بیرون پرتاب نکنیم که می‌تواند ضرر داشته باشد. این یک جور اساسی است.”
اولین بار از Kai-GPT در Westpac در عملیات وام مسکن خواهد بود. طی چند ماه آینده، بانک استفاده از این فناوری را در فرآیند درخواست وام کارگاهی خواهد کرد تا به وام گیرندگان کمک کند تا بدانند از چه فرم هایی باید استفاده کنند و بانک باید چه اطلاعاتی را دریافت کند، که باید به سرعت بخشیدن به روند بانک کمک کند.
هنگامی که تیم واکر نسبت به توانایی Kai-GPT برای کمک به کارمندان و مشتریان و آسیب رساندن به آنها اطمینان پیدا کرد، او فکر می‌کند که می‌تواند به سرعت آن را در سایر مناطق بانک مستقر کند.
واکر گفت، مزیت اصلی یک مدل زبان بزرگ نسبت به نسل‌های قبلی چت‌بات‌های مورد استفاده در Westpac، غنی بودن پاسخ‌هایی است که می‌تواند ارائه کند.
او گفت: “این پاسخ را به گونه ای ارائه می دهد که بیشتر شبیه صحبت یک انسان با یک انسان است، بنابراین مشتریان یا کارمندان احساس می کنند اطلاعات مورد نیاز خود را دریافت می کنند نه فقط یک خط تیز.” ما فکر می کنیم که این یک تغییر کامل بازی در مورد نسل بعدی کار با هوش مصنوعی است.
Westpac در حال حاضر از نرم افزار Kasisto’s Kai به عنوان هماهنگ کننده ربات های گفتگوی دیگر استفاده می کند این بانک در زمینه هایی مانند مدیریت خدمات، منابع انسانی و مدیریت ریسک استفاده می کند. اگر کارمندی به خاطر نمی آورد که برای کسب اطلاعات به کدام ربات مراجعه کند، می تواند به ارکستراتور مراجعه کند و به چت ربات مناسب هدایت شود.
واکر می‌گوید: «ما فکر می‌کردیم که این یک راه بسیار قدرتمند برای مدیریت مکالمه است و متوجه شدیم که واقعاً مفید است. “این یک نقطه ورود یک مرحله ای است.”
Kai-GPT بر اساس داده‌های خود Kasisto، داده‌های سایر بانک‌هایی که Kasisto با آنها کار می‌کند و اطلاعات جمع‌آوری شده از وب‌سایت‌های مالی، پرونده‌های SEC و سایر منابع آموزش دیده است.
گورلوف گفت: «هدف ما ایجاد بهترین مدل زبان بزرگ در جهان است که برای خدمات بانکی و مالی طراحی شده است و به چیزی که ما آن را هوش مالی مصنوعی می‌نامیم، دست یابیم. ما احساس می کنیم که وظیفه ما این است که به مشتریان خود در هر اندازه کمک کنیم تا بهترین مدل زبان بزرگ را داشته باشند که برای بانکداری طراحی و ساخته شده است که پاسخ های دقیقی را ارائه می دهد و اطلاعات بیشتری در مورد بانکداری نسبت به اکثر بانکداران دارد.
گورلوف گفت که Kai-GPT از نظر داده ها و روش استفاده شده برای آموزش آن شفاف است.
او گفت: «این قابل اعتماد است، زیرا ما در 10 سال گذشته با بانک ها کار کرده ایم. ما می دانیم که آنها چقدر دقیق هستند، وقتی صحبت از اطلاعات قابل شناسایی شخصی و محتوای اختصاصی به میان می آید، چقدر خواستار هستند.”
این برنامه همچنین قابل تنظیم است، بنابراین بانک ها می توانند محتوای خود را تزریق کنند و آن را در مجموعه داده های خود بهتر کار کنند.
هرچه مجموعه داده‌ها بزرگ‌تر باشد و یک مدل زبان بزرگ بتواند به سؤالات بیشتری پاسخ دهد، اجرای نرده‌های محافظ مهم‌تر و دشوارتر می‌شود.
گورلوف گفت: «جهان از هوش مصنوعی تجویزی، جایی که هر هدف، هر پاسخی باید به صورت دستی طراحی می‌شد، به هوش مصنوعی مولد تبدیل شد، جایی که دیگر نیازی به پیش‌بینی سؤالات هر کاربر و آموزش مجدد مدل زمانی که چیزی جدید به وجود آمد، نیست». “این دنیای متفاوتی است که ما در آن زندگی می کنیم و در مورد آن بسیار هیجان زده هستیم. اما نرده های محافظ و حفاظت از هوش مصنوعی، شفافیت، قابل مشاهده بودن منابع، این مسائل بیشتر و بیشتر مهم می شوند.”
