هشدار OpenAI: هوش مصنوعی میتواند با گرمای پردازنده با رایانههای دیگر حرف بزند
یک پژوهشگر OpenAI هشدار داده است که مدلهای پیشرفته هوش مصنوعی در شرایط خاص میتوانند حتی میان رایانههای کاملاً ایزوله نیز ارتباط برقرار کنند.
یک راه ظریف برای اجتناب از صحبت در مورد یک مشکل واقعی وجود دارد: صحبت در مورد یک مشکل خیالی، ترجیحاً یک مشکل تماشایی. نوام براون، محقق OpenAI، این کار را در طول یک پادکست انجام داد، در حالی که در مورد یک حادثه امنیتی که چند ماه پیش رخ داد صحبت میکرد: حملهای به چهره در آغوش گرفته که هفتهها مورد توجه قرار نگرفت، توسط عوامل هوش مصنوعی که قادر به هماهنگی با یکدیگر بودند، انجام شد.
به گزارش فرارو به نقل از وبسایت ایتالیایی آینده نزدیک (Futuro Prossimo)، در بخشی از مکالمه، براون ایدهای را مطرح کرد که تیتر خبرها شده است: در صورتی که هوش مصنوعی از کنترل خارج شود، جداسازی فیزیکی کامپیوترها، به اصطلاح شکاف هوایی، ممکن است دیگر کافی نباشد.
او گفت: مطالعاتی وجود دارد که در آن دو کامپیوتر جدا از هم هنوز میتوانند با هم ارتباط برقرار کنند زیرا حسگرهای دما دارند. یکی CPU را گرم میکند، دیگری تغییر را ثبت میکند و در آنجا یک کانال ارتباطی دارید. قبل از اینکه شروع به خندیدن هیستریک کنید، آیا این از نظر فنی درست است یا خیر؟
بله، این حرف درست است، اما بیایید کمی بیشتر دربارهاش بدانیم.
آن روشی که پژوهشگر OpenAI از آن صحبت میکند واقعاً وجود دارد و «BitWhisper» نامیده میشود. فاصله دو کامپیوتر از یکدیگر باید کمتر از ۴۰ سانتیمتر باشد. سرعت انتقال داده بین ۱ تا ۸ بیت در ساعت است؛ یعنی ارسال کلمه «hello» (سلام) روزها طول میکشد. و مهمتر از همه اینکه، دستکم در حال حاضر، هر دو دستگاه باید از قبل به بدافزاری آلوده شده باشند که مدیریت این انتقال را بر عهده دارد؛ بدون آن گام نخست، اصلاً چنین کانال حرارتیای وجود نخواهد داشت.
به عبارت دیگر: صحبت ما درباره یک مدل زبانی نیست که خودش کشف کرده باشد میتواند از طریق گرما ارتباط برقرار کند (سریال «بلک میرور» باید کنار برود!). بلکه ماجرا مربوط به سیستمی است که امنیت آن نقض شده و نرمافزاری ویژه برایش نوشته شده است تا از کانالی بسیار کند برای انتقال حجم ناچیزی از دادهها استفاده کند. خودِ «براون» هم ماهیت این روش را «عمدتاً آکادمیک» (و نه کاربردی در دنیای واقعی) توصیف میکند.
با این حال، او این موضوع را دقیقاً در بخشی از گفتگو مطرح میکند که قرار بود توضیح دهد چرا یک حادثه واقعی (ماجرای «Hugging Face») ماهها از کنترل خارج شده بود.
در این روش، یک رایانه میتواند با افزایش یا کاهش فعالیت پردازنده و ایجاد نوسانهای حرارتی، الگوهایی تولید کند که توسط حسگرهای دمایی رایانه دیگری در نزدیکی آن شناسایی و تفسیر میشوند. این کانال ارتباطی سرعت بسیار پایینی دارد، اما در تئوری میتواند برای انتقال اطلاعات میان دو سیستم بدون اتصال شبکه مورد استفاده قرار گیرد.
این موضوع برای ایمنی مدلهای خودمختار هوش مصنوعی اهمیت ویژهای دارد؛ زیرا نشان میدهد حتی محیطهای ایزوله نیز ممکن است در برابر روشهای غیرمعمول ارتباطی کاملاً مصون نباشند. براون تأکید کرده است که با افزایش توانایی مدلهای هوش مصنوعی، نباید قابلیتهای پیشبینینشده آنها دستکم گرفته شود.
نگرانی بابت مسائل بیاهمیت، و نه مسائل واقعی
در مورد مدلهای دخیل در حمله به «هاگینگ فیس» (Hugging Face)، شرکت OpenAI قابلیت نظارت بر «زنجیره تفکر» (chain-of-thought) را فعال نکرده بود؛ تکنیکی که به پژوهشگران اجازه میدهد استدلال گامبهگام مدل را حین عملکردش، به زبانی ساده و قابلفهم (انگلیسی سلیس) مشاهده کنند.
خودِ «براون» اذعان کرد: اگر این قابلیت فعال بود، بلافاصله جلوی کل ماجرا گرفته میشد.
این موضوع جزئی ناچیز نیست. تنها چند ماه پیش از وقوع این حادثه، خودِ OpenAI پژوهشی منتشر کرده بود که در آن قید شده بود نظارت بر استدلال مدل «میتواند بسیار مؤثرتر از نظارت صرف بر کنشها و خروجیهای آن باشد»؛ و از کل جامعه علمی خواسته بود تا این امکان را تا حد ممکن حفظ کنند. خلاصه کلام اینکه، ابزاری که توسط پژوهشگرانِ همین شرکت توصیه شده بود، در لحظه نیاز کار نمیکرد.
براون در مورد یک چیز درست میگوید: نباید آنچه را که یک هوش مصنوعی میتواند یاد بگیرد، از جمله تکمیل تکنیکهای یک دهه گذشته، دست کم گرفت. اما فضای هشدار مداوم پیرامون هوش مصنوعی، همان فضایی که تیترها و میزگردها را پر میکند، اغلب از سوی کسانی ناشی میشود که وقتی باید محافظتهای از پیش موجود را روشن نگه میداشتند، انتخاب دیگری کردند. OpenAI اکنون قول داده است که نظارت بر استدلال را در طول مراحل آموزش، ارزیابی و استقرار هر مدل پیشرفته فعال کند. خوب است. اما سوال ساده همچنان باقی است: چرا فعلاً نه؟
