طبق گفته گارتنر، رهبران حقوقی و انطباق باید به مواجهه سازمان خود با شش خطر خاص ChatGPT و اینکه چه نرده هایی برای اطمینان از استفاده مسئولانه از ابزارهای هوش مصنوعی مولد ایجاد کنند، بپردازند.
ران فریدمن، تحلیلگر مدیر ارشد در گارتنر Legal & Compliance Practice گفت: خروجی تولید شده توسط ChatGPT و دیگر ابزارهای مدل زبان بزرگ (LLM) مستعد خطرات متعددی است. «رهبران حقوقی و انطباق باید ارزیابی کنند که آیا این مسائل برای شرکت آنها خطر مادی ایجاد می کند یا خیر و چه کنترل هایی لازم است، هم در داخل شرکت و هم در شرکت توسعه یافته آن از طرف سوم و نهم. عدم انجام این کار می تواند شرکت ها را در معرض عواقب قانونی، اعتباری و مالی قرار دهد.»
شش خطر ChatGPT که رهبران قانونی و انطباق باید ارزیابی کنند عبارتند از:
ریسک 1 – پاسخ های ساختگی و نادرست
شاید رایج ترین مشکل ChatGPT و سایر ابزارهای LLM تمایل به ارائه اطلاعات نادرست – هرچند به طور سطحی قابل قبول – باشد.
فریدمن گفت: “ChatGPT همچنین مستعد “توهمات” است، از جمله پاسخ های ساختگی که اشتباه هستند و استنادهای قانونی یا علمی وجود ندارد. رهبران حقوقی و انطباق باید راهنمایی‌هایی را صادر کنند که کارکنان را ملزم می‌کند تا هر خروجی تولید شده توسط ChatGPT را از نظر دقت، تناسب و سودمندی واقعی قبل از پذیرش بررسی کنند.
ریسک 2 – حریم خصوصی و محرمانه بودن داده ها
رهبران حقوقی و انطباق باید بدانند که هرگونه اطلاعات وارد شده به ChatGPT، اگر سابقه چت غیرفعال نباشد، ممکن است بخشی از مجموعه داده آموزشی آن شود.
فریدمن گفت: «اطلاعات حساس، اختصاصی یا محرمانه مورد استفاده در درخواست‌ها ممکن است در پاسخ‌های کاربران خارج از شرکت گنجانده شود. “قانونی و انطباق باید یک چارچوب انطباق برای استفاده از ChatGPT ایجاد کند و به وضوح ورود داده های سازمانی یا شخصی حساس به ابزارهای عمومی LLM را ممنوع کند.”
ریسک 3 – تعصب مدل و خروجی
علیرغم تلاش های OpenAI برای به حداقل رساندن سوگیری و تبعیض در ChatGPT، موارد شناخته شده ای از این مسائل قبلاً رخ داده است و احتمالاً علی رغم تلاش های فعال و مداوم OpenAI همچنان ادامه خواهد داشت. و دیگران برای به حداقل رساندن این خطرات.
فریدمن می‌گوید: «حذف کامل سوگیری احتمالاً غیرممکن است، اما قوانین و انطباق باید در راس قوانین حاکم بر تعصب هوش مصنوعی باشد و اطمینان حاصل شود که راهنمایی‌های آنها مطابقت دارد.» “این ممکن است شامل کار با کارشناسان موضوع برای اطمینان از قابل اعتماد بودن خروجی و ممیزی و عملکردهای فناوری برای تنظیم کنترل‌های کیفیت داده باشد.”
ریسک 4 – خطرات مالکیت معنوی (IP) و حق چاپ
ChatGPT به طور خاص بر روی حجم زیادی از داده های اینترنتی که احتمالاً شامل مطالب دارای حق چاپ است آموزش داده شده است. بنابراین، خروجی های آن پتانسیل نقض حق چاپ یا حفاظت IP را دارند.
فریدمن گفت: «ChatGPT ارجاعات منبع یا توضیحی در مورد نحوه تولید خروجی ارائه نمی دهد. رهبران حقوقی و انطباق باید مراقب هرگونه تغییر در قانون حق نسخه‌برداری که در خروجی ChatGPT اعمال می‌شود، باشند و از کاربران بخواهند که خروجی‌هایی را که تولید می‌کنند بررسی کنند تا اطمینان حاصل کنند که حق چاپ یا حقوق IP را نقض نمی‌کند.»
ریسک 5 – خطرات کلاهبرداری سایبری
بازیگران بد در حال حاضر از ChatGPT برای تولید اطلاعات نادرست در مقیاس (مثلاً نظرات جعلی) سوء استفاده می کنند. علاوه بر این، برنامه‌هایی که از مدل‌های LLM استفاده می‌کنند، از جمله ChatGPT، نیز مستعد تزریق سریع هستند، یک تکنیک هک که در آن از اعلان‌های مخرب متخاصم برای فریب مدل برای انجام کارهایی مانند نوشتن کدهای بدافزار یا توسعه فیشینگ استفاده می‌شود که برای آنها در نظر گرفته نشده است. سایت هایی که شبیه سایت های معروف هستند.
فریدمن گفت: “رهبران حقوقی و انطباق باید با صاحبان خطرات سایبری هماهنگ کنند تا بررسی کنند که آیا یا چه زمانی باید یادداشت هایی را برای پرسنل امنیت سایبری شرکت در مورد این موضوع صادر کنند.” آنها همچنین باید یک ممیزی از منابع دقت لازم را برای تأیید کیفیت اطلاعات خود انجام دهند.»
ریسک 6 – خطرات حمایت از مصرف کننده
کسب‌وکارهایی که نمی‌توانند استفاده از ChatGPT را برای مصرف‌کنندگان افشا کنند (مثلاً در قالب یک چت ربات پشتیبانی مشتری) در معرض خطر از دست دادن اعتماد مشتریان خود و اتهام اعمال ناعادلانه تحت قوانین مختلف قرار می‌گیرند. به عنوان مثال، قانون ربات چت کالیفرنیا الزام می کند که در برخی از تعاملات مصرف کننده، سازمان ها باید به وضوح و آشکارا افشا کنند که یک مصرف کننده با یک ربات در ارتباط است.
فریدمن گفت: “رهبران حقوقی و انطباق باید اطمینان حاصل کنند که استفاده از ChatGPT سازمان آنها با تمام مقررات و قوانین مربوطه مطابقت دارد و افشای اطلاعات مناسب به مشتریان ارائه شده است.”
مشتریان گارتنر می‌توانند در پاسخ سریع: رهبران حقوقی و انطباق چه چیزی درباره خطرات ChatGPT بدانند؟
افراد غیرمشتری می توانند در 5 روند حاکمیت شرکتی که بر نقش نظارتی هیئت مدیره در سال 2023 تأثیر می گذارد بیشتر بیاموزند.
درباره Gartner for Legal, Risk & Compliance Leaders
Gartner برای رهبران حقوقی، ریسک و انطباق، راهنمایی و ابزارهای متخصص را برای کمک به رهبران در بخش‌های قانونی، ریسک، حسابرسی و انطباق ارائه می‌کند تا به طور مؤثرتر یک چشم‌انداز ریسک پیچیده‌تر را مدیریت کنند و عملکردهای نسل بعدی را ایجاد کنند. اطلاعات بیشتر در gartner.com/en/audit-risk و gartner.com/en/legal-compliance موجود است. اخبار و به روز رسانی ها را در لینکدین و توییتر. برای اطلاعات و اطلاعات بیشتر به اتاق خبر حقوقی و سازگاری گارتنر مراجعه کنید.
