برای سرمایه گذاری روی چت هوش مصنوعی عجله نکنید

وینت سرف، مبشر ارشد گوگل و «پدر اینترنت» پیامی برای مدیرانی دارد که به دنبال عجله کردن معاملات تجاری در زمینه هوش مصنوعی چت هستند: «نرو».

سرف از شرکت کنندگان در کنفرانس مانتین ویو کالیفرنیا در روز دوشنبه درخواست کرد که برای سرمایه گذاری روی هوش مصنوعی محاوره ای تلاش نکنند فقط به این دلیل که «موضوع داغی است». این هشدار در بحبوحه محبوبیت ChatGPT منتشر می شود.

سرف روز دوشنبه در جمع حاضران کنفرانس گفت: «یک مسئله اخلاقی در اینجا وجود دارد که امیدوارم برخی از شما آن را در نظر بگیرید. او با اشاره به هوش مصنوعی مکالمه Bard گوگل که هفته گذشته معرفی شد، گفت: “همه در مورد ChatGPT یا نسخه گوگل از آن صحبت می کنند و ما می دانیم که همیشه آنطور که ما می خواهیم کار نمی کند.”

هشدار او در حالی است که شرکت‌های بزرگ فناوری مانند گوگل، متا و مایکروسافت با نحوه رقابت در فضای هوش مصنوعی محاوره‌ای دست و پنجه نرم می‌کنند و در عین حال به سرعت فناوری‌ای را که هنوز معمولاً اشتباه می‌کند بهبود می‌بخشند.

جان هنسی، رئیس آلفابت، اوایل روز گذشته گفت که این سیستم‌ها هنوز از کاربرد گسترده فاصله دارند و مشکلات زیادی با عدم دقت و “سمی بودن” دارند که هنوز باید قبل از آزمایش محصول بر روی عموم برطرف شوند.

سرف از سال 2005 به‌عنوان معاون رئیس‌جمهور و «مبلغ اصلی اینترنت» برای Google خدمت کرده است. او به‌عنوان یکی از «پدران اینترنت» شناخته می‌شود زیرا او برخی از معماری‌های مورد استفاده برای ساخت پایه اینترنت را طراحی کرده است.

سرف در مورد وسوسه سرمایه گذاری فقط به این دلیل هشدار داد که این فناوری “واقعاً جالب است، حتی اگر همیشه درست کار نمی کند.”

سرف گفت: “اگر فکر می کنید، “مرد، من می توانم این را به سرمایه گذاران بفروشم زیرا موضوع داغ است و همه به من پول می اندازند”، این کار را نکنید. حق با شما بود که ما همیشه نمی‌توانیم پیش‌بینی کنیم که قرار است با این فناوری‌ها چه اتفاقی بیفتد، و صادقانه بگویم، بیشتر مشکل مردم هستند – به همین دلیل است که ما مردم در 400 سال گذشته تغییر نکرده‌ایم، چه برسد به آخرین 4000.

سرف که ظاهراً به طمع عمومی انسان اشاره می کند، ادامه داد: “آنها به دنبال انجام کاری خواهند بود که به نفع آنهاست و نه شما.”

سرف گفت که سعی کرده از یکی از سیستم ها بخواهد که در انتهای هر جمله یک ایموجی را ضمیمه کند. این کار را نکرد و وقتی به سیستم گفت که متوجه شد، عذرخواهی کرد اما رفتار خود را تغییر نداد. او در مورد چت بات ها گفت: «ما خیلی با آگاهی یا خودآگاهی فاصله داریم.

او گفت که بین آنچه فناوری می گوید انجام خواهد داد و کاری که انجام می دهد فاصله وجود دارد. “مشکل همین است. … شما نمی توانید تفاوت بین یک پاسخ شیوای بیان شده و یک پاسخ دقیق را تشخیص دهید.

سرف مثالی از زمانی ارائه کرد که از یک چت بات خواست تا بیوگرافی درباره خود ارائه دهد. او گفت که ربات پاسخ خود را به عنوان واقعی ارائه کرد، حتی اگر حاوی نادرستی باشد.

او گفت: “از جنبه مهندسی، من فکر می کنم مهندسانی مانند من باید مسئول تلاش برای یافتن راهی برای مهار برخی از این فناوری ها باشند تا کمتر آسیبی به آنها وارد شود.” و البته بسته به کاربرد ، یک داستان تخیلی نه چندان خوب یک چیز است. مشاوره دادن به کسی … می تواند عواقب پزشکی داشته باشد. کشف چگونگی به حداقل رساندن بدترین پتانسیل بسیار مهم است.”