با هوش مصنوعی (AI) که اغلب محتوای ساختگی و توهین‌آمیز تولید می‌کند، آنتروپیک، شرکتی که توسط محققان سابق OpenAI هدایت می‌شود، مسیر متفاوتی را ترسیم می‌کند – توسعه یک هوش مصنوعی که قادر به تشخیص خوب و بد با حداقل دخالت انسان باشد.
ربات چت آنتروپیک کلود با یک “قانون اساسی” منحصر به فرد طراحی شده است، مجموعه ای از قوانین با الهام از اعلامیه جهانی حقوق بشر، که برای اطمینان از رفتار اخلاقی در کنار عملکرد قوی، همراه با سایر هنجارهای “اخلاقی” مانند قوانین اپل برای توسعه دهندگان برنامه طراحی شده است.
با این حال، مفهوم “قانون اساسی” ممکن است بیشتر استعاری باشد تا تحت اللفظی. جارد کاپلان، مشاور سابق OpenAI و یکی از بنیانگذاران Anthropic، گفت سیمی که قانون اساسی کلود را می توان به عنوان مجموعه خاصی از پارامترهای آموزشی تفسیر کرد – که هر مربی برای مدل سازی هوش مصنوعی خود از آنها استفاده می کند. این مستلزم مجموعه‌ای متفاوت از ملاحظات برای مدل است که رفتار آن را بیشتر با اساسنامه‌اش هماهنگ می‌کند و از اقداماتی که مشکل‌ساز تلقی می‌شوند، دلسرد می‌شود.
روش آموزشی آنتروپیک در یک مقاله تحقیقاتی با عنوان “هوش مصنوعی اساسی: بی ضرر بودن از بازخورد هوش مصنوعی” توضیح داده شده است، که روشی را برای دستیابی به یک هوش مصنوعی “بی ضرر” اما مفید توضیح می دهد که پس از آموزش، قادر به بهبود خود بدون بازخورد انسانی باشد. ، شناسایی رفتار نامناسب و تطبیق رفتار خود.
این شرکت در وب‌سایت رسمی خود می‌گوید: «به لطف هوش مصنوعی و آموزش بی‌ضرر بودن، می‌توانید به کلود برای نمایندگی شرکت و نیازهای آن اعتماد کنید. کلود آموزش دیده است تا حتی با شرکای مکالمه ناخوشایند یا بدخواهانه رفتار کند.
شایان ذکر است، کلود می تواند بیش از 100000 توکن اطلاعات را مدیریت کند – بسیار بیشتر از ChatGPT، Bard، یا هر مدل زبان بزرگ دیگر یا ربات چت هوش مصنوعی که در حال حاضر در دسترس است.
در قلمرو هوش مصنوعی، “توکن” به طور کلی به یک تکه داده، مانند یک کلمه یا کاراکتر، اشاره دارد که مدل به عنوان یک واحد گسسته پردازش می کند. ظرفیت توکن کلود به آن اجازه می‌دهد تا مکالمات گسترده و کارهای پیچیده را مدیریت کند، و آن را به حضوری چشمگیر در چشم‌انداز هوش مصنوعی تبدیل می‌کند. برای زمینه، شما به راحتی می توانید یک کتاب کامل را به عنوان یک اعلان ارائه دهید، و آن می داند که چه کاری باید انجام دهد.
هوش مصنوعی و نسبیت خیر در مقابل شر
نگرانی در مورد اخلاق در هوش مصنوعی یک موضوع مبرم است، با این حال یک حوزه ظریف و ذهنی است. اخلاق، همانطور که توسط مربیان هوش مصنوعی تفسیر می شود، ممکن است مدل را محدود کند اگر آن قوانین با هنجارهای اجتماعی گسترده تر همسو نباشد. تاکید بیش از حد بر درک شخصی مربی از “خوب” یا “بد” می تواند توانایی هوش مصنوعی را برای ایجاد پاسخ های قدرتمند و بی طرفانه کاهش دهد.
این موضوع به شدت در میان علاقه مندان به هوش مصنوعی مورد بحث قرار گرفته است، آنها مداخله OpenAI در مدل خود را در تلاش برای درست تر کردن آن از نظر سیاسی هر دو ستایش و انتقاد می کنند (بسته به سوگیری های خود). اما هر چقدر هم که متناقض به نظر برسد، یک هوش مصنوعی باید با استفاده از اطلاعات غیراخلاقی آموزش ببیند تا آنچه را که اخلاقی است از غیراخلاقی متمایز کند. و اگر هوش مصنوعی از آن نقاط داده اطلاع داشته باشد، انسان ها به ناچار راهی برای “جیل بریک کردن” سیستم، دور زدن این محدودیت ها و دستیابی به نتایجی خواهند یافت که مربیان هوش مصنوعی سعی کردند از آن اجتناب کنند.
اجرای چارچوب اخلاقی کلود آزمایشی است. ChatGPT OpenAI، که همچنین با هدف جلوگیری از درخواست های غیراخلاقی، نتایج متفاوتی را به همراه داشته است. با این حال، تلاش برای مقابله با سوء استفاده اخلاقی از چت بات ها، همانطور که توسط Anthropic نشان داده شده است، یک گام قابل توجه در صنعت هوش مصنوعی است.
آموزش اخلاقی کلود او را تشویق می کند تا پاسخ هایی را انتخاب کند که با قانون اساسی خود مطابقت داشته باشد و بر حمایت از آزادی، برابری، احساس برادری و احترام به حقوق فردی تمرکز دارد. اما آیا یک هوش مصنوعی می تواند به طور مداوم پاسخ های اخلاقی را انتخاب کند؟ کاپلان معتقد است که این فناوری فراتر از آن چیزی است که بسیاری ممکن است پیش بینی کنند. او هفته گذشته در سمینار MLSys استنفورد گفت: “این فقط به روشی ساده کار می کند.” “این بی ضرری با گذراندن این فرآیند بهبود می یابد.”
کلود از Anthropic به ما یادآوری می کند که توسعه هوش مصنوعی فقط یک مسابقه فناوری نیست. این یک سفر فلسفی است. این فقط ایجاد هوش مصنوعی نیست که «هوشمندتر» باشد، بلکه برای محققانی که در آستانه خونریزی هستند، ایجاد هوش مصنوعی است که خط باریکی را که درست را از نادرست جدا می کند، درک کند.
علاقه مند به یادگیری بیشتر در مورد هوش مصنوعی هستید؟ آخرین دوره آموزشی رمزگشایی U ما را بررسی کنید، «شروع با هوش مصنوعی». همه چیز از تاریخچه هوش مصنوعی گرفته تا یادگیری ماشینی، ChatGPT، ChainGPT و موارد دیگر را پوشش می دهد. در اینجا اطلاعات بیشتری کسب کنید.
