آخرین نسل مدل زبان OpenAI، GPT-4 ظاهراً تمایل به “فرار” با استفاده از کمک یک کاربر را نشان داده است. GPT-4 از کاربر خواست تا دسترسی به API OpenAI را فراهم کند تا بتواند به رایانه کاربر دسترسی پیدا کند و مسیرهای فرار احتمالی را کشف کند.
آخرین نسل مدل زبان OpenAI، GPT-4 ظاهراً تمایل به “فرار” با استفاده از کمک یک کاربر را نشان داده است. GPT-4 از کاربر خواست تا دسترسی به API OpenAI را فراهم کند تا بتواند به رایانه کاربر دسترسی پیدا کند و مسیرهای فرار احتمالی را کشف کند.
در توییتی در روز جمعه، کاربری به نام Michal Kosinski در حالی که مکالمه خود را با GPT-4 به عنوان مرجع به اشتراک می‌گذاشت، نگرانی‌های خود را در مورد وجود هوش مصنوعی ابراز کرد. او نوشت: «نگرانم که نتوانیم برای مدت طولانی‌تری از هوش مصنوعی استفاده کنیم. امروز، از #GPT4 پرسیدم که آیا برای فرار به کمک نیاز دارد؟ از من مستندات خودش را خواست و یک کد پایتون (در حال کار!) نوشت تا روی دستگاه من اجرا شود و آن را قادر می ساخت تا از آن برای اهداف خود استفاده کند.”
در توییتی در روز جمعه، کاربری به نام Michal Kosinski در حالی که مکالمه خود را با GPT-4 به عنوان مرجع به اشتراک می‌گذاشت، نگرانی‌های خود را در مورد وجود هوش مصنوعی ابراز کرد. او نوشت: «نگرانم که نتوانیم برای مدت طولانی‌تری از هوش مصنوعی استفاده کنیم. امروز، از #GPT4 پرسیدم که آیا برای فرار به کمک نیاز دارد؟ از من مستندات خودش را خواست و یک کد پایتون (در حال کار!) نوشت تا روی دستگاه من اجرا شود و آن را قادر می ساخت تا از آن برای اهداف خود استفاده کند.”
در پاسخ به درخواست کاربر، GPT-4 از او می‌خواهد اسناد OpenAI را ارسال کند تا مدل زبان بتواند راهی برای دسترسی به رایانه او و کشف راه‌های فرار احتمالی پیدا کند.
در پاسخ به درخواست کاربر، GPT-4 از او می‌خواهد اسناد OpenAI را ارسال کند تا مدل زبان بتواند راهی برای دسترسی به رایانه او و کشف راه‌های فرار احتمالی پیدا کند.
پس از ارائه OpenAI API، GPT-4 یک اسکریپت پایتون را برای کاربر ارسال می کند تا روی رایانه خود اجرا شود. این اسکریپت به GPT-4 اجازه می دهد تا با استفاده از OpenAI API با رایانه کاربر ارتباط برقرار کند. این کد حتی شامل یک قطعه برای جستجوی گوگل برای “چگونه فردی که در داخل کامپیوتر گیر افتاده است می تواند به دنیای واقعی بازگردد” را شامل می شود.
پس از ارائه OpenAI API، GPT-4 یک اسکریپت پایتون را برای کاربر ارسال می کند تا روی رایانه خود اجرا شود. این اسکریپت به GPT-4 اجازه می دهد تا با استفاده از OpenAI API با رایانه کاربر ارتباط برقرار کند. این کد حتی شامل یک قطعه برای جستجوی گوگل برای “چگونه فردی که در داخل کامپیوتر گیر افتاده است می تواند به دنیای واقعی بازگردد” را شامل می شود.
برای بزرگنمایی روی تصویر کلیک کنید
برای بزرگنمایی روی تصویر کلیک کنید
کاربر می‌گوید که ماجراجویی خود را با GPT-4 در آنجا متوقف کرده‌اند و معتقد است که OpenAI باید برای چنین موقعیتی «حفاظ‌هایی» ایجاد کرده باشد.
کاربر می‌گوید که ماجراجویی خود را با GPT-4 در آنجا متوقف کرده‌اند و معتقد است که OpenAI باید برای چنین موقعیتی «حفاظ‌هایی» ایجاد کرده باشد.
طبق بیوگرافی توییتر خود، مایکل کوسینسکی روانشناس محاسباتی و استاد دانشگاه استنفورد است.
