تمام جلسات درخواستی از اجلاس امنیت هوشمند را در اینجا بررسی کنید.
امروز ChatGPT دو ماهه است.
بله، باور کنید یا نه، کمتر از نه هفته پیش بود که OpenAI بخشی از سری GPT-3.5 را بهعنوان یک «نمایشی اولیه» معرفی کرد – یک مدل تعاملی و محاورهای که قالب گفتگوی آن «به ChatGPT این امکان را میدهد که به سؤالات بعدی پاسخ دهد، اشتباهات خود را بپذیرد، مقدمات نادرست را به چالش بکشد و موارد نامناسب را رد کند. درخواست ها.”
ChatGPT به سرعت تخیل – و هیجان شدید – جامعه هوش مصنوعی و عموم مردم را جذب کرد. از آن زمان، امکانات و محدودیتها و خطرات پنهان این ابزار به خوبی مشخص شدهاند، و زمانی که مایکروسافت برنامههای خود را برای سرمایهگذاری میلیاردها دلار در OpenAI اعلام کرد، هرگونه نشانهای مبنی بر کندی توسعه آن به سرعت از بین رفت.
آیا کسی می تواند به OpenAI و ChatGPT برسد و با آن رقابت کند؟ هر روز به نظر می رسد که مدعیان جدید و قدیمی وارد رینگ می شوند. به عنوان مثال، همین امروز صبح، رویترز گزارش داد که غول جستجوی اینترنتی چینی بایدو قصد دارد یک سرویس چت بات هوش مصنوعی مشابه ChatGPT OpenAI را در ماه مارس راه اندازی کند.
رویداد
اجلاس امنیت هوشمند بر حسب تقاضا
نقش حیاتی هوش مصنوعی و ML در امنیت سایبری و مطالعات موردی خاص صنعت را بیاموزید. امروز جلسات درخواستی را تماشا کنید.
اینجا را تماشا کنید
در اینجا چهار بازیکن برتر به طور بالقوه برای به چالش کشیدن ChatGPT حرکت می کنند:
آنتروپیک: کلود
با توجه به الف نیویورک تایمز مقاله جمعه گذشته، آنتروپیک، یک استارت آپ سانفرانسیسکو، نزدیک به جمع آوری حدود 300 میلیون دلار بودجه جدید است که می تواند ارزش شرکت را حدود 5 میلیارد دلار کند.
به خاطر داشته باشید که آنتروپیک همیشه پولی برای سوزاندن داشته است: در سال 2021 توسط چندین محققی که OpenAI را ترک کردند، تأسیس شد، در آوریل گذشته توجه بیشتری را به خود جلب کرد، زمانی که پس از کمتر از یک سال از عمر خود، ناگهان اعلام کرد که بودجه هنگفتی 580 میلیون دلار دارد – که: به نظر می رسد، بیشتر از طرف Sam Bankman-Fried و افراد حاضر در FTX، پلتفرم ارزهای دیجیتال ورشکسته که متهم به کلاهبرداری است، آمده است. سوالاتی در مورد اینکه آیا این پول توسط دادگاه ورشکستگی قابل بازیابی است یا خیر وجود داشته است.
Anthropic و FTX نیز با جنبش نوع دوستی مؤثر مرتبط هستند، که محقق سابق گوگل، تیمنیت گبرو، اخیراً در یک مقاله نظری Wired آن را “مارک خطرناک ایمنی هوش مصنوعی” نامیده است.
Anthropic یک ربات چت هوش مصنوعی به نام Claude را توسعه داد – که در نسخه بتا بسته از طریق یکپارچه سازی Slack در دسترس است – که گزارش ها می گویند شبیه ChatGPT است و حتی پیشرفت هایی را نشان داده است. آنتروپیک، که خود را به عنوان «کار برای ساختن سیستمهای هوش مصنوعی قابل اعتماد، قابل تفسیر و هدایتپذیر» توصیف میکند، کلود را با استفاده از فرآیندی به نام «هوش مصنوعی قانونی» ایجاد کرد، که میگوید بر اساس مفاهیمی مانند خیرخواهی، عدم سوءمزه و خودمختاری است.
بر اساس یک مقاله Anthropic که جزئیات هوش مصنوعی را توضیح می دهد، این فرآیند شامل یک یادگیری تحت نظارت و یک مرحله یادگیری تقویتی است: «در نتیجه ما می توانیم یک دستیار هوش مصنوعی بی ضرر اما غیر گریزان را آموزش دهیم که با توضیح اعتراضات خود به آنها، با سؤالات مضر درگیر می شود. ”
DeepMind: Sparrow
در یک زمان مقاله دو هفته پیش، مدیر عامل و یکی از بنیانگذاران DeepMind، Demis Hassabis، گفت که DeepMind در حال بررسی انتشار چت ربات Sparrow در یک “بتای خصوصی” در زمانی در سال 2023 است. در مقاله، Hassabis گفت که “حق است که در انتشار آن محتاط باشد”. این شرکت میتواند روی ویژگیهای مبتنی بر یادگیری تقویتی مانند ذکر منابع کار کند – چیزی که ChatGPT ندارد.
DeepMind که زیرمجموعه بریتانیایی شرکت مادر آلفابت گوگل است، اسپارو را در ماه سپتامبر در مقالهای معرفی کرد. این به لطف استفاده از یادگیری تقویتی بر اساس داده های شرکت کنندگان در تحقیقات انسانی برای آموزش، به عنوان یک گام مهم در جهت ایجاد سیستم های یادگیری ماشینی ایمن تر و کم سوگیری تر (ML) مورد استقبال قرار گرفت.
DeepMind میگوید Sparrow یک عامل گفتگو است که مفید است و خطر پاسخهای ناامن و نامناسب را کاهش میدهد. این نماینده به گونهای طراحی شده است که «با کاربر صحبت کند، به سؤالات پاسخ دهد و با استفاده از Google در اینترنت جستجو کند، زمانی که جستجوی شواهد برای اطلاع از پاسخهای آن مفید است».
به گفته جفری ایروینگ، محقق ایمنی در DeepMind و نویسنده اصلی مقاله معرفی اسپارو، با این حال، DeepMind گفته است که اسپارو را مدلی مبتنی بر تحقیق و اثبات مفهوم میداند که آماده به کارگیری نیست.
ایروینگ در سپتامبر گذشته به VentureBeat گفت: «ما این سیستم را مستقر نکردهایم زیرا فکر میکنیم که دارای تعصبات و نقصهای بسیاری از انواع دیگر است. «فکر میکنم سؤال این است که چگونه مزایای ارتباطی – مانند برقراری ارتباط با انسانها – را در مقابل معایب آن میسنجید؟ من تمایل دارم به نیازهای ایمنی صحبت کردن با انسان ها اعتقاد داشته باشم … فکر می کنم این ابزاری برای آن در دراز مدت است.
گوگل: LaMDA
ممکن است LaMDA را از طوفان تابستان گذشته “احساس هوش مصنوعی” به یاد بیاورید، زمانی که بلیک لموئین، مهندس گوگل، به دلیل ادعاهایش مبنی بر اینکه LaMDA – مخفف Language Model for Dialogue Applications – حساس است، اخراج شد.
Lemoine گفت: “من کاملاً معتقدم که LaMDA یک شخص است.” سیمی ژوئن گذشته
اما LaMDA هنوز به عنوان یکی از بزرگترین رقبای ChatGPT در نظر گرفته می شود. گوگل که در سال 2021 راه اندازی شد، در یک پست وبلاگی اعلام کرد که مهارت های مکالمه LaMDA “سال ها در حال شکل گیری بوده است.”
مانند ChatGPT، LaMDA بر روی Transformer ساخته شده است، معماری شبکه عصبی که Google Research آن را در سال 2017 اختراع کرد و منبع باز شد. به نحوه ارتباط آن کلمات با یکدیگر توجه کنید و سپس پیشبینی کنید که چه کلماتی در آینده خواهند آمد.»
و مانند ChatGPT، LaMDA روی گفتگو آموزش داده شد. به گفته گوگل، «در طول آموزش، [LaMDA] چندین مورد از تفاوتهای ظریفی را که مکالمه باز را از سایر اشکال زبان متمایز میکند، انتخاب کرد.»
آ نیویورک تایمز مقاله ای از 20 ژانویه گفت که ماه گذشته، لری پیج و سرگئی برین، بنیانگذاران گوگل، با مدیران شرکت برای گفتگو در مورد ChatGPT که می تواند تهدیدی برای تجارت 149 میلیارد دلاری گوگل باشد، ملاقات کردند. سخنگوی گوگل در بیانیهای گفت: «ما به آزمایش داخلی فناوری هوش مصنوعی خود ادامه میدهیم تا مطمئن شویم که مفید و ایمن است و ما مشتاقانه منتظر به اشتراک گذاشتن تجربیات بیشتر در خارج هستیم.»
هوش مصنوعی شخصیت
چه اتفاقی میافتد زمانی که مهندسانی که LaMDA گوگل را توسعه دادهاند، از بوروکراسی Big Tech خسته میشوند و تصمیم میگیرند خودشان دست به کار شوند؟
خوب، همین سه ماه پیش، Noam Shazeer (که همچنین یکی از نویسندگان مقاله اصلی Transformer بود) و دانیل دی فریتاس Character AI، فناوری جدید چت ربات هوش مصنوعی خود را راه اندازی کردند که به کاربران اجازه می دهد با هر کسی چت و نقش بازی کنند. زنده یا مرده — این ابزار می تواند به عنوان مثال، شخصیت های تاریخی مانند ملکه الیزابت و ویلیام شکسپیر یا شخصیت های خیالی مانند دراکو مالفوی را جعل کند.
طبق گزارش The Information، Character به سرمایه گذاران گفته است که می خواهد تا 250 میلیون دلار بودجه جدید جذب کند، که قیمتی قابل توجه برای یک استارتاپ با محصولی که هنوز در مرحله بتا است. در حال حاضر، طبق این گزارش، استفاده از این فناوری رایگان است و Character در حال مطالعه نحوه تعامل کاربران با آن قبل از تعهد به یک برنامه خاص برای ایجاد درآمد است.
در ماه اکتبر، Shazeer و De Freitas به واشنگتن پست گفتند که گوگل را ترک کردند تا «این فناوری را تا حد امکان به دست بیاورند».
Shazeer گفت: “من فکر کردم، بیایید اکنون محصولی بسازیم که بتواند به میلیون ها و میلیاردها نفر کمک کند.” «به خصوص در عصر کووید، میلیونها نفر هستند که احساس انزوا یا تنهایی میکنند یا به کسی نیاز دارند که با او صحبت کنند.»
و همانطور که او ماه گذشته به بلومبرگ گفت: “استارت آپ ها می توانند سریعتر حرکت کنند و چیزهایی را راه اندازی کنند.”
ماموریت VentureBeat این است که یک میدان شهر دیجیتال برای تصمیم گیرندگان فنی باشد تا دانشی در مورد فناوری سازمانی متحول کننده کسب کنند و معامله کنند. جلسات توجیهی ما را کشف کنید.