ChatGPT و اخلاق: چرا ربات ها می خواهند ما را در مسیر درست ببرند | نظر

این خبر مانند یک کف زدن قوی از رعد و برق بلند شد. آخرین نسخه از “ربات مکالمه” ChatGPT که توسط شرکت OpenIA ساخته شده است، دارای چنان قدرت گفتاری پیچیده ای است که شبیه به یک انسان است.

در این رابطه، شایان ذکر است که آنچه بلافاصله توجه ما را به خود جلب کرد این است که چگونه این روبات ها می توانند متون را با کیفیت نحو و چنان انسجام بنویسند که دانش آموزان دبیرستانی ممکن است وسوسه شوند از آنها برای تکالیف خود استفاده کنند یا فشار دهند. دپارتمان ها برای تولید مقالات – به ذکر چند نمونه مرتبط.

با این حال، از آنجا که محبت های ما وارد بازی می شود، این دیدگاه ها باعث شده است که موضوع اصلی را پنهان کنیم. این برنامه‌ها فراتر از نوشتن متن‌های درخواستی، مستقیماً با ما صحبت می‌کنند که به نظر می‌رسد راهی مستقل و طبیعی است. و این، با در نظر گرفتن یک هدف صنعتی بزرگ: هدایت مداوم ما در مسیر درست.

این وضعیت ناشی از تحولات ناگهانی در هوش مصنوعی از اواخر دهه 2010 است که امکان توسعه سیستم‌هایی را فراهم کرد که می‌توانند انواع موقعیت‌ها را با سرعتی بسیار بالاتر از توانایی‌های شناختی خود ارزیابی کنند. اما همچنین، در نتیجه آن، توصیه هایی ارائه کنید. برای مثال، مانند اپلیکیشن Waze، که وضعیت ترافیک جاده‌ای را در زمان واقعی ارزیابی می‌کند و بهترین مسیرها را پیشنهاد می‌کند.

این معماری باعث شده است که یک مدل اقتصادی جدید ظهور کند، مدلی با سپرده های بی پایان ثروت: تفسیر و هدایت خودکار رفتار ما. در حدود 15 سال گذشته، این فناوری‌ها برای هدایت حرکات ما با نور دانای کل خود طراحی شده‌اند – بیشتر برای اهداف تجاری.

بنابراین یک پیوند ناف ایجاد می شود که صدای دستگاه با فرمی آشنا و روان است. زیرا این فقط یک مسئله زمان است که همه چیز شروع به صحبت کند. بعد از بلندگوهای متصل که در سال 2016 وارد بازار شدند، گوشی هوشمند ما، داخل ماشین، آشپزخانه ما… آزمایشگاه ها که اکثریت قریب به اتفاق آنها خصوصی هستند، بی وقفه برای روبات سازی زبان به عنوان گامی قبل از در دسترس قرار دادن محصولات خود کار می کنند. همه، به ظاهر یک شبه و چگونه از وجود این اعجوبه تکنولوژیکی مطلع شدیم؟ از طریق مقالات خبری. به عبارت دیگر، پس از واقعیت.

این یک مسئله تکراری است که باید به ما مکث کند: عدم هماهنگی بین جامعه‌ای که از یک سو خود را با یک واقعیت انجام‌شده می‌بیند و در نهایت کاری جز واکنش به آن انجام نمی‌دهد. و از سوی دیگر، صنعتی قدرتمند که تا به حال هژمونیک شده است و در دو دهه اخیر، از کار خود برای وابسته کردن وجود ما به دستاوردهایش دست برنداشته است.

از این نظر، ما اغلب از افرادی که از کل این مکانیسم حمایت می‌کنند غافل می‌شویم: مهندسان – که اکثر آنها در یک مسابقه دیوانه‌وار به سمت به اصطلاح «نوآوری» گرفتار شده‌اند و به دلیل تابعیت از صنعت دیجیتال، هیچ کاری انجام نمی‌دهند. بیش از ارائه به بیانیه های محدوده تعریف شده با هدف تنها ایجاد سود.

چیزی که آنها را مشخص می کند این واقعیت است که آنها به طور فعال در طراحی دستگاه هایی شرکت می کنند که تعداد فزاینده ای از سؤالات را در آگاهی عمومی ایجاد می کند. این باعث می شود آنها در موقعیت نامناسبی قرار بگیرند که گاهی باعث می شود نسبت به خودشان احساس بدی داشته باشند.

و بنابراین، برای ایجاد یک تأثیر خوب، یک کمپین ماهرانه برای تولید رضایت برای مدت طولانی انجام شده است، بنابراین به ما این امکان را می دهد که هم کیک خود را داشته باشیم و هم آن را بخوریم. این کار از طریق استفاده مداوم از مفهومی با هوای معجون جادویی یا دود و آینه انجام شده است که به منظور اطمینان دادن به خیل عظیم است: «اخلاق».

در سال‌های اخیر چند بار شاهد برگزاری سمپوزیوم‌های شرکتی بوده‌ایم، بگذریم از آثار بی‌شماری که توسط برخی از اعضای آن نوشته شده‌اند و همگی تکراری مشابه دارند؟ بدون شک، همه ما از این پیشرفت‌های تکنولوژیکی مستمر بهره خواهیم برد، اگرچه در هر صورت، توصیه می‌شود در برابر انحرافات احتمالی محافظت شود. بسیاری از سخنرانی ها در یک حلقه توسط افرادی تکرار می شود که علاوه بر این، قاضی و هیئت منصفه هستند.

حقیقت این است که ماهیت این دیدگاه این است که فقط چیزها را تأیید می کند، تا جایی که آنچه معمولاً با این مفهوم درک می شود فقط به دیوارهای آتش نظارتی یا قانونی مبهم اشاره دارد – بدون در نظر گرفتن دامنه تمدنی و انسان شناختی جهش هایی که اکنون در حال انجام است. یعنی، نابودی تدریجی توانایی‌های ما توسط اتوماسیون فزاینده امور انسانی به وجود آمده است.

اینجاست که توصیه می‌شود کارها را کمی بالا ببریم و از اخلاق – که این روزها نسبتاً مبتذل استفاده می‌شود – به بُعدی برویم که می‌توان آن را برتر دانست: اخلاق. اولین مورد از اعمال چند قانون رفتار خوب فرضی در موارد خاص ناشی می شود. دومی به عنوان احترام بی قید و شرط به اصول اساسی ما درک می شود. در این میان، یکی وجود دارد که دائماً توسط دیجیتالی شدن زندگی ما فرسوده شده است و به همین دلیل، باید بیش از هر زمان دیگری از آن دفاع کرد: بهترین بیان توانایی های ما، که پیشرفت ما به عنوان فردی به آن بستگی دارد.

زیرا، پس از کاهش استقلال قضاوت ما به دلیل پذیرش عمومی سیستم‌هایی که مسیر زندگی روزمره ما را برای اهداف مختلف هدایت می‌کنند، دست کشیدن از قدرت گفتار ما است که اکنون در راه است.

به همین دلیل است که به ما بستگی دارد که اخلاقی را که در واقع ناشی از نفرت از نوع بشر است و صرفاً هدف آن جایگزین کردن بدن و ذهن ما – بالفعل ناقص – با فناوری‌هایی است که برای اطمینان از کامل بودن تصور شده است، مسدود کنیم. و بهداشتی، سازماندهی عمومی و خاص جهان.

زمان آن فرا رسیده است که صدای خود را بلند کنیم – صدای خودمان – و این خط را از آلبر کامو بگیریم شورشی، جایی که او می نویسد “این خیلی طولانی شده است (…)، شما خیلی دور می شوید (…) محدودیت های خاصی وجود دارد که شما نباید فراتر بروید.”

این یک انسان گرایی واقعی زمان ما خواهد بود. نه اینکه در هر نوبت، قلب در دست و همیشه به روشی بسیار مبهم – مانند گوروهای سیلیکون ولی یا انبوهی از مهندسان – اعلام کنیم که همه چیز برای قرار دادن “مردم در مرکز” است، بلکه باید به تجلی کافی احساسات حساس خود توجه کنیم. و دارایی های فکری به عنوان یک شرط ضروری برای جوامع کاملاً آزاد و متکثر.

اریک سادین یک فیلسوف و متخصص در دنیای دیجیتال است. آثار او به انگلیسی، اسپانیایی و ایتالیایی ترجمه شده است. این مقاله در ابتدا به زبان فرانسوی در فیگارو در 6 فوریه 2023 منتشر شد.

برای ما ثبت نام کنید خبرنامه هفتگی برای دریافت پوشش خبری بیشتر به زبان انگلیسی از EL PAÍS USA Edition