نابودی همه انسان‌ها تا پایان دهه جاری؟

فرارو– سنان انطون، تحلیلگر ارشد مسائل بین الملل روزنامه القدس العربی

به گزارش فرارو به نقل از روزنامه القدس العربی، هشدار درباره خطرات هوش مصنوعی دیگر محدود به پژوهشگران و متخصصان فناوری نیست؛ از استعفای کارکنان شرکت‌های پیشرو این صنعت تا هشدارهای پاپ لئون چهاردهم درباره پیامدهای اخلاقی این فناوری، همگی نشان می‌دهند که گسترش هوش مصنوعی پرسش‌هایی بنیادین درباره آینده انسان، مسئولیت اخلاقی و حدود قدرت ماشین‌ها ایجاد کرده است.

در هشتم سپتامبر، جیکوب کاکسون با انتشار پیامی در شبکه اجتماعی ایکس، از استعفای خود از شرکت آنتروپیک خبر داد و هشدار داد که هوش مصنوعی ممکن است موجودیت بشر را تهدید کند. او نوشت افرادی که در حال ساخت این فناوری هستند، احتمال می‌دهند هوش مصنوعی تا پایان دهه جاری میلادی بتواند همه انسان‌ها را از بین ببرد. به گفته او، مدیران و پژوهشگران ارشد شرکت‌های هوش مصنوعی هنگام گفت‌وگو با رسانه‌ها چنین نگرانی‌هایی را پنهان می‌کنند، اما در محافل خصوصی درباره آن‌ها سخن می‌گویند.

این نخستین استعفا یا هشدار درباره خطرات توسعه بدون مهار هوش مصنوعی نیست. نگرانی از پیامدهای این فناوری حتی به نهادهای مذهبی نیز رسیده است؛ به‌گونه‌ای که پاپ لئون چهاردهم نخستین پیام رسمی خود را به موضوع حفاظت از انسان در عصر هوش مصنوعی اختصاص داد.

از انقلاب صنعتی تا انقلاب هوش مصنوعی

پیام پاپ با عنوان «انسانیت شگفت‌انگیز: در حفاظت از انسان در عصر هوش مصنوعی»، پانزدهم مه گذشته منتشر شد؛ تاریخی که با یکصدوسی‌وپنجمین سالگرد انتشار پیام پاپ لئون سیزدهم در سال ۱۸۹۱، با عنوان «درباره امور جدید»، هم‌زمان بود. آن پیام به تحولات گسترده انقلاب صنعتی و پیامدهای اقتصادی، اجتماعی و ایدئولوژیک آن می‌پرداخت.

پاپ لئون سیزدهم بر کرامت و حقوق کارگران، ضرورت پرداخت دستمزد عادلانه و مسئولیت اخلاقی کارفرمایان در برخورد انسانی با نیروی کار تأکید کرده بود. او همچنین مشروعیت اتحادیه‌های کارگری و مسئولیت دولت‌ها در دفاع از منافع عمومی را به رسمیت شناخت، اما سوسیالیسم و مفهوم مبارزه طبقاتی را نپذیرفت.

امروز نیز هوش مصنوعی می‌تواند روابط انسانی، ساختارهای اقتصادی و حتی شیوه زندگی بشر را دگرگون کند. مسئله اصلی این است که آیا انسان خواهد توانست این تحول را در چارچوب مسئولیت اخلاقی و حفظ کرامت انسانی مدیریت کند یا در برابر فناوری‌ قرار خواهد گرفت که کنترل آن دشوارتر از پیش‌بینی‌های اولیه است.

چرا ماشین نباید درباره مرگ و زندگی تصمیم بگیرد؟

یکی از مهم‌ترین بخش‌های پیام پاپ به محدودیت‌های اخلاقی هوش مصنوعی اختصاص دارد. در این پیام تأکید شده است که ماشین نمی‌تواند با دقتی بیشتر از انسان، خیر را از شر تشخیص دهد؛ زیرا داوری اخلاقی صرفاً یک محاسبه نیست، بلکه به وجدان، مسئولیت فردی و به‌رسمیت‌شناختن انسانیت دیگران وابسته است.

بر همین اساس، نباید تصمیم‌های مرگبار یا تصمیم‌هایی را که امکان بازگشت از آن‌ها وجود ندارد، به سامانه‌های مصنوعی واگذار کرد. پیام پاپ همچنین هشدار می‌دهد که هیچ الگوریتمی نمی‌تواند جنگ را از نظر اخلاقی پذیرفتنی سازد. هوش مصنوعی ماهیت غیرانسانی منازعه را از میان نمی‌برد، بلکه ممکن است سرعت آن را افزایش دهد؛ در چنین وضعیتی، قربانیان جنگ به مجموعه‌ای از داده‌ها تقلیل پیدا می‌کنند.

این هشدار در شرایطی مطرح می‌شود که کاربرد سامانه‌های هوش مصنوعی در عملیات نظامی، پرسش‌های جدی درباره مسئولیت تصمیم‌گیرندگان، نظارت انسانی و پیامدهای واگذاری بخشی از فرایند انتخاب اهداف به ماشین‌ها ایجاد کرده است.

وقتی هوش مصنوعی در جایگاه مسیح می‌نشیند

چالش‌های اخلاقی هوش مصنوعی تنها به میدان جنگ محدود نیست. سال گذشته، روزنامه گاردین از آزمایشی در یک کلیسای کاتولیک در سوئیس گزارش داد که با همکاری یک آزمایشگاه علمی دانشگاهی انجام شده بود. در یکی از بخش‌های این آزمایش، هوش مصنوعی تصویری مجازی از عیسی مسیح ایجاد کرد تا به‌جای کشیش در جایگاه اعتراف به پرسش‌های مردم پاسخ دهد.

این سامانه با استفاده از متون دینی و الهیاتی آموزش دیده بود و می‌توانست به صد زبان پاسخ دهد. در طول دو ماه، حدود هزار نفر، از ساکنان محلی تا گردشگران، در این تجربه شرکت کردند. واکنش‌ها متفاوت بود: برخی آن را تجربه‌ای معنوی توصیف کردند، در حالی که دیگران از گفت‌وگو با یک ماشین به‌جای کشیش ابراز نارضایتی کردند. یکی از شرکت‌کنندگان نیز پاسخ‌های سامانه را سطحی و تکراری دانست.

مارکو اشمیت، الهی‌دان مسئول پروژه، در نهایت تصمیم گرفت آزمایش را متوقف کند. او با اشاره به پیامدهای اخلاقی و مسئولیت ناشی از چنین اقدامی گفت که قراردادن دائمی عیسی در این قالب، مسئولیتی فراتر از توان او خواهد بود.

نام پروژه، «دئوس اِن ماکینا» به معنای «خدا در ماشین»، نیز معنادار بود؛ تعبیری که از اصطلاح یونانی «دئوس اِکس ماکینا» الهام گرفته شده است. این اصطلاح در ابتدا به ورود ناگهانی یک شخصیت الهی به صحنه تئاتر با کمک دستگاهی مکانیکی اشاره داشت و بعدها برای توصیف راه‌حلی ناگهانی برای یک مشکل پیچیده به کار رفت.

پرومتئوس و خطر آفرینندگان ماشین

سام آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در مصاحبه‌ای با مجله ونتی فر از مقایسه خود با پرومتئوس، شخصیت اسطوره‌ای یونان که آتش را از کوه المپ ربود و به انسان‌ها بخشید، استقبال کرد. این مقایسه با تصور او از هوش مصنوعی به‌عنوان ابزاری برای خدمت به بشریت پیوند دارد. اما در پایان شعر «پرومتئوس» اثر گوته، این شخصیت نژادی از انسان‌ها را به تصویر خود می‌آفریند؛ انسان‌هایی که رنج می‌کشند، می‌گریند، لذت می‌برند و شادی می‌کنند، بی‌آنکه به خدایان اعتنا داشته باشند.

این تصویر اسطوره‌ای پرسشی اساسی را پیش روی عصر هوش مصنوعی قرار می‌دهد: آیا آفرینندگان فناوری در حال ساخت ابزاری برای رهایی انسان هستند یا ماشین‌هایی که ممکن است روزی جای انسان را بگیرند و او را به خدمت خود درآورند؟ نگرانی نهایی این است که بشر، در تلاش برای خلق نیرویی برتر، موجودیتی بسازد که نه‌تنها از کنترل او خارج شود، بلکه بقای خود او را نیز زیر سؤال ببرد.