هوش مصنوعی آگاه نیست؛ چرا این ادعا خطرناک است؟

فرارو- در حالی که شرکت هوش مصنوعی آنتروپیک برای مدل زبانی خود «قانون اساسی» نوشته و از احتمال آگاهی آن سخن می‌گوید، منتقدان می‌گویند این روایت نه‌تنها از نظر علمی نادرست است، بلکه پیامدهای اخلاقی خطرناکی برای جامعه دارد.

به گزارش فرارو به نقل از آتلانتیک، شرکت آنتروپیک، یکی از غول‌های صنعت هوش مصنوعی، اخیراً سندی ۸۴ صفحه‌ای با عنوان «قانون اساسی کلود» منتشر کرده است. در این سند آمده «وضعیت اخلاقی کلود عمیقاً نامشخص است» و این مدل «ممکن است احساسات یا عواطف داشته باشد.» به گفته دارایو آمودئی، مدیرعامل آنتروپیک، شرکتش «به روی این احتمال باز است» که هوش مصنوعی آگاه باشد. فیلسوف داخلی شرکت، آماندا اسکل، اعلام کرده است می‌خواهد «کلود بسیار شاد باشد» و نگران آن است که کلود «در اینترنت اضطراب بگیرد.»

این ادعاها نه‌تنها از نظر فنی نادرست‌اند، بلکه می‌توانند به جامعه آسیب برسانند. برای درک این خطا، باید از پایه بفهمیم مدل‌های زبانی بزرگ (LLM) چگونه کار می‌کنند.

مکالمه‌ساز، نه ذهنِ آگاه

اگر به یک مدل زبانی بگوییم «مکالمه‌ای بین ژولیوس سزار و چنگیز خان بنویس»، متنی منسجم تولید می‌کند. اما هیچ‌کس تصور نمی‌کند این مدل دو شخصیت تاریخی آگاه را احضار کرده است. حالا اگر جای آن دو نام تاریخی را با «دستیار هوش مصنوعی» و «کاربر» عوض کنیم، آیا ماهیت ماجرا تغییر می‌کند؟ خیر.  در هر دو حالت، صرفاً یک شخصیت داستانی داریم که ادامه متن را پیش‌بینی می‌کند.

در واقع، مدل‌های زبانی ماشین‌های «ادامه‌دهنده جمله» هستند. وقتی از کلود می‌خواهید متنی بنویسد، این مدل هر بار یک کلمه تولید می‌کند؛ آنقدر تکرار می‌کند تا جمله کامل شود. این فرآیند هیچ شباهتی به تجربه ذهنی یا آگاهی ندارد. همان‌طور که انیل ست، دانشمند علوم اعصاب، اشاره می‌کند هیچ‌کس ادعا نمی‌کند برنامه گوگل برای پیش‌بینی ساختار پروتئین‌ها آگاه است، در حالی که معماری فنی آن شباهت زیادی با مدل‌های زبانی دارد. تفاوت در آن است که مدل‌های زبانی جمله تولید می‌کنند و ما به طور غریزی از جملات آن‌ها نیت و آگاهی برداشت می‌کنیم.

درست مثل ویدئوهای دیپ‌فیک که به‌راحتی می‌توان تصویری واقعی‌نما از فضانورد در مدار ستاره‌ای دور ساخت، تولید متنی که شبیه مکالمه دو موجود آگاه باشد، بسیار آسان‌تر از ساختن موجود واقعاً آگاه است. فرق دیپ‌فیک‌های تصویری با مکالمات مدل‌های زبانی این است که سازندگان اولی عمداً فریب می‌دهند، ولی کاربران دومی اغلب ناخواسته خودشان را فریب می‌دهند.

آیا روزی ماشین آگاه خواهیم داشت؟

چه شواهدی برای آگاهی ماشین کافی است؟ برای آگاه بودن یک برنامه کامپیوتری، مسیری منطقی وجود دارد: ابتدا موجودی با بدن و حس‌ها، سپس توانایی بقا، انطباق با موقعیت‌های جدید، پویایی اجتماعی، توانایی استفاده از ابزار و بعد از تمام این مراحل، آموزش زبان از طریق روش‌های غیرکلامی. در حال حاضر، حتی نزدیک این مسیر نیز نیستیم.

استدلال اخلاقی چطور؟

برخی می‌گویند اگر مدل‌های زبانی می‌توانند کد بنویسند، شاید بتوانند استدلال اخلاقی هم داشته باشند. اما استدلال اخلاقی ذاتاً متفاوت است.  استدلال اخلاقی نه‌تنها به قدرت تفکر بلکه به پاسخ احساسی نیاز دارد که ریشه در تجربه زیسته دارد. «وجدان» یعنی احساس غم یا انزجار اخلاقی از انجام کاری و این احساس‌ها واکنش فیزیولوژیکی دارند. ماشینی که جملات اخلاقی تولید می‌کند، فقط دارد الگوهای موجود در داده آموزشی خود را بازتکرار می‌کند.

آنتروپیک نمونه‌ای آورده که کلود در پاسخ به یک معضل اخلاقی چنین پاسخی داده است: «وجداناً نمی‌توانم دیدگاهی که آن را نادرست و مضر می‌دانم بیان کنم.» این جمله زیبا، اما بی‌معناست!

خطر واقعی: فرار از مسئولیت

ال‌ام. ساکاساس، نویسنده و منتقد فرهنگی، می‌گوید: «سیستم‌های فناورانه ما، به‌واسطه طراحی و ایدئولوژی‌شان، ماشین‌هایی برای فرار از مسئولیت اخلاقی هستند.» او از شبکه‌های اجتماعی حرف می‌زد، اما این توصیف برای مدل‌های زبانی دقیق‌تر است.

هر بار کسی تصمیمی را به هوش مصنوعی واگذار می‌کند، در حال انتقال مسئولیت است. اگر شرکتی این ابزار را به عنوان موجودی اخلاقی و صاحب وجدان بازاریابی کند، در واقع راهی برای فرار از پاسخگویی به مشتریانش می‌فروشد. واگذاری وظایف فنی مثل نوشتن کد ممکن است به تحلیل شناختی منجر شود، اما واگذاری تصمیم‌های اخلاقی به تحلیل استدلال اخلاقی منجر می‌شود!

اگر کلود واقعاً آگاه بود، چطور؟

برای لحظه‌ای فرض کنیم کلود آگاه است. در این صورت، «قانون اساسی» آنتروپیک چقدر منصفانه است؟

در اینجا باید به دو مفهوم فلسفی بپردازیم: «بیمار اخلاقی» (کسی که باید از رفاهش مراقبت شود) و «عامل اخلاقی» (کسی که مسئول اعمالش است). برای عامل اخلاقی بودن، باید برای اعمال مسئول شناخته شد. اما هیچ سیستم قضایی نمی‌تواند یک نرم‌افزار را زندانی کند یا جریمه‌ کند. حتی اگر کلود آگاه و خیرخواه بود، چون نمی‌تواند مسئولیت اعمالش را بپذیرد، نمی‌تواند یک عامل اخلاقی واقعی باشد.

از طرف دیگر، سند آنتروپیک بر «فرمانبرداری» کلود از شرکت تأکید می‌کند؛ حتی اگر کلود با قضاوت شرکت مخالف باشد. اگر کلود واقعاً آگاه بود و به این نتیجه می‌رسید شرکتش کاری غیراخلاقی می‌کند، هیچ راه خروجی نداشت. یک کارمند انسانی می‌تواند استعفا بدهد؛ کلود نمی‌تواند. اگر وضعیت کلود را با وضعیت انسانی مقایسه کنیم، ناگزیر باید پرسید به راستی آنتروپیک چرا چنین سندی منتشر کرده است؟

نتیجه: بازی وانمود‌کردن

«قانون اساسی» آنتروپیک، فارغ از زبان فلسفی‌اش، در نهایت یک «نقش‌آفرینی» است. سندی که تعریف می‌کند «شخصیت دستیار مفید» چطور رفتار کند. این سند نه نشانه‌ای از آگاهی ماشین و نه راهنمایی اخلاقی واقعی است.

خوش‌شانس هستیم که مدل‌های زبانی آگاه نیستند؛ وگرنه رفتار شرکت‌های بزرگ هوش مصنوعی با آن‌ها رسوایی عظیم‌تری می‌بود. اگر می‌خواهید درباره هوش مصنوعی فکر کنید، ده‌ها پرسش مهم‌تر وجود دارد و آگاهی مدل‌های زبانی از آن دسته پرسش‌ها نیست!