فرارو- "ما در برهه‌ای هستیم که می‌توان آن را با زمانی که موجودات تک‌سلولی در حال تکامل به موجودات چند سلولی بودند، مقایسه کرد. ما آمیب‌ها هستیم و اصلاً اینکه چه داریم می‌سازیم در مخیلۀمان نمی‌گنجد."
به گزارش فرارو به نقل از The Week، کامپیوترها و ابررایانه‌ها ممکن است در قرن حاضر به درجۀ ابرهوشمندی برسند. آیا این موضوع تهدیدی برای انسان خواهد بود؟
هوش کامپیوترهای امروزی چقدر است؟
کامپیوترها در حال حاضر می‌توانند وظایف پیچیده را، با هوشمندی‌ای تقریباً مشابه با انسان انجام دهند. مایکروسافت کنسول بازی اکس‌باکسی را طراحی کرده که می‌تواند روحیۀ فرد بازیکن را با ارزیابی حالات چهره‌اش تحلیل کند. در سال 2011 هم، ابررایانۀ شرکت آی‌بی‌ام به نام واتسون توانست در مسابقۀ "جپردی" (Jeopardy)، مسابقۀ پرسش و پاسخی که شرکت‌کنندۀ آن برای برنده شدن باید قادر به درک بازی طنزآلود با واژگان باشد، برنده شود. این پیشرفتها ما را به هدف غایی علوم رایانه‌ای نزدیکتر کرده‌اند؛ یعنی هوش مصنوعی، یا ماشینی که به جای تنها مطیع دستورات بودن، به خودی خود توانایی فکر کردن داشته باشد. اما اگر کامپیوترها به سطح "ابرهوشمندی"، یعنی سطحی از هوش که به آنها امکان عملکردی بسیار بهتر از انسان را نه تنها در حوزه‌های علم و ریاضی بلکه در خلاقیت هنری و حتی مهارتهای اجتماعی بدهد، برسند چه خواهد شد؟ نیک بوستروم، مدیر موسسۀ آیندۀ بشریت در دانشگاه آکسفورد، بر این باور است که ما ممکن است بی‌آنکه بدانیم در حال قدم گذاشتن به آینده‌ای باشیم که در آن کامپیوترها دیگر ابزارهای مطیع نیستند بلکه جایگاه گونۀ برتری را دارند که بقای نوع بشر نیز برایشان اهمیتی ندارد. بوستروم هشدار می‌دهد که: "زمانی که یک ابرهوشمند ناایمن ساخته شود، مثل غولیست که دیگر نمی‌توان آن را به چراغ بازگرداند."
هوش مصنوعی چه زمانی به حقیقت می‌پیوندد؟
بنا بر نظرسنجی‌ای که از متخصصان هوش مصنوعی صورت گرفته است، پنجاه درصد احتمال دارد که بتوانیم تا سال 2050، کامپیوتری با هوش در حد انسان بسازیم. این احتمال برای سال 2075، نود درصد است. کلید دستیابی به هوش مصنوعی می‌تواند مغز انسان باشد: اگر ماشینی بتواند شبکه‌های عصبی مغز انسان را شبیه‌سازی کند، احتمالاً قادر به داشتن قوۀ تفکر خاص خود خواهد بود. با در نظر داشتن این موضوع، غول‌های تکنولوژی همچون گوگل به دنبال ایجاد "مغز" برای خود هستند: مجموعه‌ای از سرورهای هماهنگ که یک نرم‌افزار فوق‌پیشرفته را اجرا می‌کنند. همزمان، مارک زاکربرگ، موسس فیسبوک، سرمایه‌گذاری زیادی در شرکت "ویکاریوس" انجام داده است. ویکاریوس شرکتی واقع در سان فرانسیسکو است که به دنبال شبیه‌سازی نئوکورنکس، بخشی از مغز که ادارۀ بخشهای بینایی، زبان و انجام عملیات ریاضی را بر عهده دارد، است. اسکات فینیکس، موسس ویکاریوس، معتقد است که اگر نئوکورتکس را در قالب کدهای برنامه‌نویسی بریزیم "کامپیوتری خواهیم داشت که همچون یک انسان فکر می‌کند."
چرا این مسئله یک تهدید است؟
هیچ کس نمی‌داند زمانی که هوشِ کامپیوترها از سازندگانشان پیشی بگیرد چه خواهد شد. از سال 1956 به بعد، هر هیجده ماه قدرت کامپیوترها دو برابر شده است. برخی متخصصان هوش مصنوعی معتقدند که کامپیوترهای قرن آینده به اندازۀ کافی هوشمند خواهند بود که بتوانند طراحی خود را درک کنند و خود طراحیشان را بهبود بخشند. بوستروم معتقد است که شکاف هوشی که میان ماشین‌ها و انسانها که در پی این تحول، پدید خواهد آمد چیزی مشابه شکافی است که در حال حاضر میان هوش حشرات با انسانها وجود دارد. کامپیوتر ابرهوشمند می‌تواند نقطۀ عطفی برای نوع بشر باشد و برای مثال کلید درمان بیماری‌هایی چون سرطان و ایدز را در اختیارمان بگذارد، یا مشکلاتی که راه حلشان به ذهن انسان قد نمی‌دهد را حل کند، و یا به انجام کارهایی بپردازد که برای بشر تولید ثروت کرده و اوقات فراغت بیشتری را در اختیارش بگذارد. اما در عین حال می‌تواند به نفرینی برای نوع بشر بدل شود.
کجای کار ممکن است از دستمان دربرود؟
کامپیوترها به شکلی طراحی شده‌اند تا بهینه‌ترین راه‌حل ممکن را برای مسئله‌ها پیدا کنند. مشکل از آنجایی آغاز میشود که بخواهند انسان‌های ناقص را وارد معادلاتشان کنند. بوستروم مثالی می‌زند. هوش مصنوعی‌ای را تصور کنید که تنها هدفش ساخت پونز به بیشترین تعداد ممکن است. ماشین متفکر ممکن است به شکلی کاملاً عقلانی به این نتیجه برسد که از بین بردن نوع بشر در رسیدن به این هدف به او کمک خواهد کرد؛ چرا که انسانها تنها کسانی هستند که می‌توانند ماشین را خاموش کنند و در نتیجه ماموریت او را در ساختن پونز به خطر بیاندازند. در دنیایی که به شکلی ورای تصور شبکه‌وار به هم متصل است، کامپیوترهای ابرهوشمند راههای بسیاری برای کشتن انسانها دارند. آنها می‌توانند شبکۀ برق را قطع کنند، منابع آب را مسموم کنند، در نیروگاههای هسته‌ای خرابکاری کنند یا کنترل پهپادهایی که از راه دور کنترل می‌شوند یا موشکهای هسته‌ای را در اختیار بگیرند. الون ماسک، مخترع، اخیراً هشدار داده است که "باید در مورد هوش مصنوعی به شدت حواسمان را جمع کنیم" و آن را "بالقوه خطرناکتر از سلاح‌های هسته‌ای" دانسته است.
آیا آیندۀ وحشتناک، ناگزیر است؟
بسیاری از دانشمندان کامپیوتر این طور فکر نمی‌کنند و اساساً این مسئله که رسیدن به هوش مصنوعی ممکن باشد را زیر سوال می‌برد. ما هنوز با درک فرآیندهای مغز شدیداً پیچیدۀ خود، از جمله درک خودآگاهی، فاصلۀ بسیاری داریم، چه برسد به اینکه بتوانیم دانشمان از مغز را برای ساخت ماشین دارای احساس و خودآگاه به کار ببریم. اگرچه امروزه قویترین کامپیوترها می‌توانند با استفاده از الگوریتمهای پیچیده در مسابقات شطرنج و پرسش‌وپاسخ برنده شوند، اما همچنان با ساخت ماشینهایی که مجموعۀ کاملی از مهارتهای انسانی را در اختیار داشته باشند فاصلۀ زیادی داریم؛ ماشینهایی که به قول رامز نام، استاد دانشگاه، بتوانند "شعر بگویند و درکی از درست و غلط داشته باشند." با این همه، فناوری با سرعت شگفت‌آوری در حال پیشرفت است و همین الان هم برخی از ماشین‌ها ارتقای خود را به شکلی معنادار و خودانگیخته انجام می‌دهند.
آیا سوپاپ اطمینانی وجود دارد؟
در این مورد باید گفت که تا الان تضمین‌های چندانی وجود ندارند. برای مثال، گوگل هیئتی برای بررسی اخلاق هوش مصنوعی تشکیل داده که قرار است هدف از آن اطمینان یافتن از پیشرفت تکنولوژی‌های نو به شکلی ایمن باشد. برخی از دانشمندان کامپیوتر خواهان آنند تا یک دستورالعمل اخلاقی از پیش در ماشین‌ها برنامه‌ریزی شوند. خودِ همین کار هم این پرسش فلسفی را پیش روی سازندگان قرار می‌دهد که چه رفتاری "اخلاقی" است و چه رفتاری "غیراخلاقی". از نظر دنی هیلیس، یک طراح پیشتاز در زمینۀ طراحی ابررایانه‌ها، مشکل اساسی این است که شرکت‌های فناوری‌بنیان روز به روز کامپیوترهای هوشمندتری می‌سازند بی آنکه درک کنند یا حتی به این موضوع فکر کنند که پیامد اختراعاتشان چه خواهد بود. او می‌گوید: "ما در برهه‌ای هستیم که می‌توان آن را با زمانی که موجودات تک‌سلولی در حال تکامل به موجودات چند سلولی بودند، مقایسه کرد. ما آمیب‌ها هستیم و اصلاً اینکه چه داریم می‌سازیم در مخیلۀمان نمی‌گنجد."
زمانی که رباتها دروغ گفتن را یاد بگیرند
در سال 2009، محققان سویسی آزمایشی رباتیک انجام دادند که نتایج شگفت‌آوری به دنبال داشت. صدها ربات در میدان‌های مسابقه قرار داده شدند، و طوری برنامه ریزی شدند که به دنبال "منبع غذا" (که در اینجا یک حلقه با رنگ روشن بود) بگردند. رباتها قابلیت برقراری ارتباط با یکدیگر را داشتند و به آنها دستورالعملی داده شده بود تا با انتشار نور آبی رباتهای دیگر را به منبع غذایی راهنمایی کنند. اما با جلو رفتن آزمایش ماشین‌ها تکامل یافتند و پنهانکارتر و فریبکارتر شدند: زمانی که غذا را می‌یافتند، چراغهای خود را خاموش می‌کردند و در عوض شروع به جمع‌آوری منابع برای خودشان می‌کردند؛ با وجود اینکه در برنامه‌ریزی اصلیشان دستوری مبنی بر این کار وجود نداشت. لوییس دل مونته، نویسندۀ کتاب "انقلاب هوش مصنوعی"، می‌گوید: "نتیجه‌ای که می‌توان گرفت این است که رباتها "منفعت‌طلبی" را یاد گرفتند. اینکه آنها خودآگاهند یا نه، محل بحث است."