توسط جان کنراد (gCaptain) gCaptain گزارش نگران‌کننده‌ای از یک کاپیتان آمریکایی به دست آورده است که ادعا می‌کند یک مالک کشتی از یک ربات هوش مصنوعی، بالقوه ChatGPT، برای پیشنهاد تغییرات در برنامه سفر کشتی استفاده کرده است. در حالی که کاپیتان تصمیم گرفت به توصیه ها پایبند نباشد، آنها نگران هستند که دیگران نیز احتیاط مشابهی را رعایت نکنند.
از gCaptain خواسته شد که نام کاپیتان یا جزئیات خاصی را در مورد این حادثه که می‌توان به آنها ردیابی کرد فاش نکند. با توجه به اندازه محدود ناوگان پرچم ایالات متحده، این درخواست توانایی ما را برای گزارش در مورد داستان به شدت محدود کرده است، اما ما می توانیم یک نمای کلی از این گزارش نگران کننده ارائه دهیم.
در خلال برنامه‌ریزی سفر اخیر کشتی – فرآیندی که در آن مسیرهای ناوبری، اقدامات ایمنی و ملاحظات لجستیکی به‌دقت ارزیابی می‌شوند و خدمه برای بهینه‌سازی کارایی و در عین حال کاهش خطرات احتمالی تلاش می‌کنند – با چندین نگرانی ایمنی جزئی در مورد مسیر کشتی و محموله‌ای که نگران کننده است، برخورد می‌کند. افسران کشتی
کاپیتان پیامی با نگرانی‌ها نوشت و آن را برای راهنمایی به مالک کشتی ارسال کرد. معمولاً در این مواقع، یک سرپرست دریایی که برای مالک کشتی کار می کند، هرگونه نگرانی را با کارشناسان مختلف (به عنوان مثال ناخداهای با تجربه، برنامه ریزان بار، مهندسان) در افسر بررسی می کند و به ناخدای کشتی در مورد راه های کاهش خطر راهنمایی می کند.
در این مورد، کاپیتان یک پاسخ سریع دریافت کرد. کاپیتان به gCaptain اطلاع داد که پاراگراف های اول و آخر پیام حاوی چیزهای خوشایند است و به نظر می رسد توسط یک انسان نوشته شده است، اما توصیه در مورد چگونگی کاهش خطر “به نظر می رسد که یک هوش مصنوعی آن را نوشته است”. این پیام شامل توصیه هایی بود که در طول سفر نیاز به تغییر مسیر داشت.
در این مرحله، اثبات اینکه پیام توسط یک هوش مصنوعی ایجاد شده است دشوار است، اما مطمئناً به سبکی شبیه به آنچه توسط هوش مصنوعی تولید شده است است. به عنوان یک کاپیتان سابق، می‌توانم تأیید کنم که توصیه‌های ارائه شده بسیار پیش پا افتاده بود و بعید به نظر می‌رسد که کشتی را در معرض خطر قرار دهد، اما هدف از داشتن رویه‌های مدیریت ایمنی بین‌المللی این است که کاپیتان‌هایی با تجربه بیشتر در ساحل – و سایر مدیران ساحلی که ممکن است از آن مطلع باشند. اطلاعات مهمی که هنوز با کاپیتان به اشتراک گذاشته نشده است – می تواند تأیید کند که هیچ خطر فوری وجود ندارد.
ما نظر ChatGPT-4 را در مورد این موضوع با اعلان زیر پرسیدیم. “آیا توصیه chatgpt در مورد عملیات حیاتی ایمنی مانند برنامه ریزی سفر کشتی خوب است؟” هوش مصنوعی اینگونه پاسخ داد:
به عنوان یک مدل زبان هوش مصنوعی، ChatGPT برای ارائه مشاوره در مورد عملیات حیاتی ایمنی مانند برنامه ریزی سفر کشتی طراحی یا تایید نشده است. در حالی که ChatGPT می‌تواند متنی را بر اساس ورودی‌هایی که دریافت می‌کند تولید کند، درک آن از موقعیت‌های پیچیده، دنیای واقعی و ملاحظات ایمنی محدود است.
عملیات حیاتی ایمنی، مانند برنامه ریزی سفر کشتی، نیازمند تخصص و قضاوت متخصصان با تجربه است که می توانند خطرات و موارد احتمالی را به شیوه ای جامع ارزیابی کنند. تکیه بر توصیه های تولید شده توسط هوش مصنوعی برای چنین عملیاتی می تواند منجر به موقعیت های بالقوه خطرناک و عواقب ناخواسته شود. ضروری است که هر توصیه یا پیشنهادی که توسط سیستم‌های هوش مصنوعی ارائه می‌شود، قبل از اجرا، به‌ویژه در حوزه‌های حیاتی ایمنی، توسط متخصصان انسانی واجد شرایط ارزیابی و تأیید شود.
پاسخ ChatGPT به آیا توصیه chatgpt در مورد عملیات حیاتی ایمنی مانند برنامه ریزی سفر کشتی خوب است؟
دیروز ChatGPT نسخه 4 را با پردازش تحلیلی پیشرفته معرفی کرد. با این موتور هوش مصنوعی جدید، برای کارگران ساحلی و افسران کشتی – که اغلب غرق در کاغذبازی هستند – وسوسه انگیزتر خواهد بود که با کمک هوش مصنوعی به نگرانی ها پاسخ دهند.
برعکس، هوش مصنوعی این پتانسیل را دارد که خطرات و فرصت‌هایی را برای کاهش خطر در برنامه‌ریزی سفر کشف کند که ممکن است انسان‌ها نادیده گرفته شوند. gCaptain گزارش هایی از ChatGPT دریافت کرده است که به شناسایی خطرات احتمالی کمک می کند که در طول فرآیند برنامه ریزی سفر در نظر گرفته نشده اند. جلوگیری از استفاده از هوش مصنوعی به طور کلی – یا فقط ممانعت از استفاده از آن با نظراتی مانند «من به آن ربات‌ها اعتماد ندارم» – می‌تواند ناخدای کشتی را از استفاده از آن و کشف راه‌حل جدیدی که خدمه او را ایمن نگه می‌دارد منصرف کند. این حتی می‌تواند فرصت‌های شغلی بیشتری را در آینده فراهم کند زیرا پیشنهادات ChatGPT می‌تواند توسط یک کاپیتان با تجربه که در کنار یک «مهندس فوری» کار می‌کند بررسی و ویرایش شود (مهندس فوری کسی است که در پرسیدن انواع سؤالات با هوش مصنوعی مهارت دارد).
صرف نظر از اینکه آیا می توان استفاده از هوش مصنوعی را تایید کرد، در این حادثه، بسیار مهم است که سازمان هایی مانند IMO، USCG و INTERTANKO در مورد پیامدهای استفاده از هوش مصنوعی صحبت کرده و راهنمایی ارائه دهند، زیرا – چه از توصیه های هوش مصنوعی باشد و چه عدم مشورت با آن – قبل از اینکه یک حادثه بزرگ کشتی اتفاق بیفتد و جان افراد از دست برود، فقط چند لحظه است.
در این میان، شرکت‌های کشتیرانی می‌توانند به سادگی شفاف‌تر باشند و هر پیامی را که به کشتی ارسال می‌شود از جمله کمک هوش مصنوعی به کاپیتان اطلاع دهند. این اعلان می تواند به سادگی “ChatGPT برای تصحیح دستور زبان در این ایمیل استفاده شده است” تا “در اینجا چند ایده اضافی برای آن مشکل ایجاد شده توسط Bing AI” باشد.
