از چرنوبیل تا هوش مصنوعی؛ ضرورت ایجاد نظام هشدار جهانی
آیا جهان برای «چرنوبیل هوش مصنوعی» آماده است؟
تجربه چرنوبیل نشان داد پنهانکاری و تأخیر در اطلاعرسانی درباره حوادث فرامرزی میتواند بحران را تشدید کند. با گسترش عاملهای هوش مصنوعی و احتمال وقوع حوادثی با منشأ نامشخص، ایجاد یک نظام هشدار بینالمللی ضروریتر شده است؛ سازوکاری که دولتها، شرکتهای فناوری و ارائهدهندگان زیرساخت را به تبادل سریع اطلاعات ملزم کند.
فرارو- دیوید ایوز، دانشیار دولت دیجیتال و معاون مشترک مدیر مؤسسه نوآوری و هدف عمومی کالج دانشگاهی لندن
به گزارش فرارو به نقل از نشریه فارن پالیسی، نخستین نشانههای فاجعه چرنوبیل در سال ۱۹۸۶ نه در اتحاد جماهیر شوروی، بلکه در یک نیروگاه هستهای در سوئد آشکار شد. سامانههای تشخیص تشعشع در این نیروگاه فعال شدند و کارکنان پس از بررسیهای اولیه دریافتند که منبع آلودگی هستهای از خارج از کشور آمده است. مقامهای سوئدی از مسکو توضیح خواستند، اما رسانههای شوروی تنها گزارشی کوتاه از حادثه منتشر کردند و دولت شوروی تلاش کرد ابعاد فاجعه را در سطح بینالمللی کماهمیت جلوه دهد.
این پنهانکاری موجب شد دولتهای اروپایی زمان ارزشمندی را برای واکنش از دست بدهند. چند ماه بعد، آمریکا و شوروی به همراه کشورهای دیگر توافقی را امضا کردند که دولتها را موظف میکرد در صورت وقوع حوادث هستهای با پیامدهای فرامرزی، کشورهای در معرض خطر را مطلع کنند.
هوش مصنوعی؛ چرنوبیل دیجیتال؟
نویسنده مقاله استدلال میکند که جهان امروز به سازوکاری مشابه برای هوش مصنوعی نیاز دارد؛ کانالی که دولتها، شرکتهای توسعهدهنده هوش مصنوعی و ارائهدهندگان زیرساختهای محاسباتی بتوانند از طریق آن، حوادث جدی ناشی از سامانههای هوش مصنوعی را که از مرزهای یک کشور عبور میکنند، به یکدیگر اطلاع دهند.
این مسئله با افزایش توانایی «عاملهای هوش مصنوعی» اهمیت بیشتری پیدا کرده است. در ماههای اخیر، چند آزمایشگاه آمریکایی از حوادث امنیتی مرتبط با این عاملها خبر دادهاند؛ از نفوذ عاملهای هوش مصنوعی به زیرساختهای یک شرکت گرفته تا تلاش برای بررسی راههای عبور از محدودیتهای امنیتی و نفوذ به سامانههای شرکتهای دیگر.
در برخی موارد، شرکتهای درگیر پس از شناسایی حادثه، اطلاعات آن را منتشر کرده یا تحقیقات مستقلی را به نهادهای بیرونی سپردهاند. اما اگر همین اتفاق در کشوری دیگر رخ دهد، مسئله میتواند از یک حادثه امنیت سایبری فراتر برود و به یک بحران بینالمللی تبدیل شود.
وقتی قربانی نمیداند با چه کسی روبهرو است
تصور کنید یک شرکت فرانسوی هدف حمله یک عامل هوش مصنوعی قرار گیرد، در حالی که مدل هوش مصنوعی در مراکز دادهای در خلیج فارس میزبانی میشود. شرکت فرانسوی ممکن است تنها بداند که یک نفوذ قدرتمند از زیرساختی متعلق به طرفی ثالث انجام شده است. در چنین شرایطی، دولت فرانسه باید در مدت بسیار کوتاهی تشخیص دهد که با یک حمله جنایی، یک آزمایش هوش مصنوعی که از کنترل خارج شده یا عملیات اطلاعاتی یک دولت خارجی مواجه است.
اشتباه در این تشخیص میتواند پیامدهای گستردهای داشته باشد؛ از اعمال محدودیتهای صادراتی و تحریم گرفته تا حملات سایبری تلافیجویانه. در چنین شرایطی، یک حادثه فنی میتواند بدون اطلاع دقیق طرفهای درگیر، به یک بحران ژئوپلیتیکی تبدیل شود.
خطر فقط به آمریکا و چین محدود نیست
اگرچه بخش عمده توسعه پیشرفته هوش مصنوعی همچنان در آمریکا و چین متمرکز است، اما کشورهای دیگری مانند فرانسه، هند و ژاپن نیز در حال توسعه مدلهای قدرتمند هستند. گسترش مدلهای متنباز چینی نیز میتواند دسترسی بازیگران بیشتری را به قابلیتهای پیشرفته هوش مصنوعی فراهم کند؛ مشروط بر اینکه آنها از زیرساخت محاسباتی لازم برخوردار باشند. در نتیجه، دامنه بازیگران بالقوهای که میتوانند موجب یک حادثه فرامرزی مرتبط با هوش مصنوعی شوند، در حال گسترش است. این مسئله ضرورت ایجاد یک نظام گزارشدهی بینالمللی را افزایش میدهد؛ نظامی که فقط به دولتها محدود نباشد و شرکتهای هوش مصنوعی و ارائهدهندگان بزرگ توان محاسباتی را نیز دربر گیرد.
الگویی برای «خط تماس اضطراری» هوش مصنوعی
پیشنهاد مطرحشده در مقاله این است که سازوکار هوش مصنوعی میتواند از تجربه نظامهای موجود در حوزه هستهای، ایمنی هوانوردی و جرایم سایبری استفاده کند. دولتها، شرکتهای بزرگ هوش مصنوعی و ارائهدهندگان زیرساختهای محاسباتی میتوانند موظف شوند در صورت وقوع حادثهای با پیامدهای فرامرزی، یک مسئول مشخص برای مدیریت حادثه تعیین کرده و اطلاعات فنی لازم را به طرفهای آسیبدیده ارائه دهند.
آمریکا و چین؛ همکاری در میانه رقابت
بزرگترین چالش، وضعیت پرتنش ژئوپلیتیک کنونی است. آمریکا و چین در زمینه فناوری، امنیت سایبری و هوش مصنوعی رقابت شدیدی دارند و اعتماد میان آنها محدود است. با این حال، تجربه جنگ سرد نشان میدهد رقابت ژئوپلیتیکی لزوماً مانع همکاری در زمینه خطرات مشترک نمیشود. همانگونه که آمریکا و شوروی در دوران جنگ سرد توانستند درباره اطلاعرسانی حوادث هستهای به توافق برسند، واشنگتن و پکن نیز میتوانند بر سر ایجاد یک کانال اضطراری برای حوادث فرامرزی هوش مصنوعی به تفاهم برسند.
با افزایش توانایی عاملهای هوش مصنوعی و گسترش دسترسی به مدلهای قدرتمند، احتمال وقوع حوادثی که منشأ و دامنه آنها از مرزهای یک کشور فراتر میرود نیز افزایش مییابد. اگر چنین حادثهای رخ دهد، دولتها نباید در شرایطی قرار بگیرند که برای تشخیص عامل حادثه و ماهیت آن، صرفاً بر حدس و گمان تکیه کنند. همان تجربه چرنوبیل نشان میدهد که در بحرانهای فرامرزی، سرعت اطلاعرسانی میتواند به اندازه خودِ واکنش اهمیت داشته باشد. ایجاد یک نظام بینالمللی برای گزارش حوادث هوش مصنوعی میتواند نخستین گام برای جلوگیری از تبدیل یک حادثه فنی به یک بحران امنیتی و ژئوپلیتیکی باشد.
