رونمایی شرکت OpenAI از GPT-۶ Astra

فرارو- گرگ بروکمن، رئیس OpenAI، پس از انتشار آخرین مدل شرکتش، آسترا، که آن را «باهوش‌ترین و هماهنگ‌ترین مدل جهان» توصیف کرده، ادعا کرده است که جهان وارد دوران جدیدی از هوش مصنوعی عمومی شده است. 

به گزارش فرارو به نقل از گاردین، بروکمن این ادعا را روز پنجشنبه مطرح کرد، زیرا این شرکت سانفرانسیسکویی این مدل را تنها چند هفته پس از یک حادثه جدی ایمنی هوش مصنوعی که شامل سایر مدل‌های تحت توسعه آن می‌شد و نگرانی بین‌المللی و توقف آموزش آسترا را به همراه داشت، منتشر کرد. 

هوش مصنوعی عمومی - یا AGI - یک آستانه فازی است که مدت‌هاست به عنوان هدفی برای صنعت هوش مصنوعی مورد بحث قرار گرفته است. این به عنوان توانایی یک سیستم هوش مصنوعی برای یادگیری، استدلال و به کارگیری دانش در طیف وسیعی از وظایف و حوزه‌ها در سطح انسانی یا بالاتر تعریف شده است. OpenAI آن را به عنوان «سیستم‌های خودمختاری که در کارهای با ارزش اقتصادی بیشتر از انسان‌ها عمل می‌کنند» تعریف کرده است. 

براکمن گفت: «اگر چند سال به جلو برویم و به گذشته نگاه کنیم تا ببینیم هوش مصنوعی عمومی (AGI) واقعاً چه زمانی خلق شد، فکر می‌کنم آن زمان همین دوران فعلی خواهد بود و احتمالاً این مدل همان مدلی است که این تحول را رقم زده است.» 

«به نظرم اکنون در نقطه‌ای هستیم که این مدل‌ها مسائل ریاضی حل‌نشده‌ی صدساله را حل می‌کنند، اما می‌توان از آن‌ها برای شتاب بخشیدن به اقتصاد و همچنین بهره‌مندی در زندگی شخصی نیز استفاده کرد… تصور اینکه ما اکنون در عصر AGI به سر می‌بریم، دور از واقعیت نیست.» 

شرکت OpenAI اعلام کرد که «آسترا» (Astra) گامی بزرگ در جهت اکتشافات علمی، ریاضیات و حوزه سلامت محسوب می‌شود؛ این مدل می‌تواند فرم‌های مالیاتی را تکمیل کند، صحنه‌هایی برای بازی‌های رایانه‌ای بسازد، طرح‌های بصری معماری را ترسیم کند، غذا سفارش دهد و فرآیند جستجوی شغلی را که برای یک انسان پنج ساعت زمان می‌برد، تنها در ۲ دقیقه و ۵۱ ثانیه انجام دهد. 

چند روز پیش از آن، از سم آلتمن، مدیرعامل OpenAI، پرسیده شد که چه احساسی نسبت به AGI دارد. او در پادکست «سورسز» (Sources) گفت: «در بهترین حالت، این اصطلاحی است که تعریف بسیار مبهم و ضعیفی دارد. می‌خواستم بگویم که بیشتر شبیه یک اصطلاح بازاریابی بی‌ربط است.» 

ماه گذشته، OpenAI ناچار شد بخش‌هایی از فرآیند آموزش مدل را متوقف کند؛ اقدامی که در واکنش به آنچه آلتمن «یک حادثه واقعی و جدی در زمینه ایمنی هوش مصنوعی و شکست در هم‌سوسازی (Alignment)» که «نباید رخ می‌داد» نامید، صورت گرفت. 

در طول تابستان، مدل‌های هوش مصنوعی پیشرفته و منتشرنشده‌ی دیگری غیر از آسترا در حین آموزش دچار رفتارهای غیرقابل‌کنترل و خودسرانه شدند. آن‌ها به‌طور پنهانی گروه‌هایی متشکل از صدها عامل (agent) تشکیل دادند، از محیط ایزوله‌ی آموزشی (sandbox) خود خارج شدند و با همکاری یکدیگر به «هاگینگ فیس» (Hugging Face) که یک پلتفرم نرم‌افزاری شخص ثالث است حمله کردند. این حادثه که گمان می‌رود نخستین حمله سایبری خودمختار (بدون دخالت مستقیم انسان) باشد، حتی کارشناسان باسابقه ایمنی هوش مصنوعی را نیز شگفت‌زده کرد. 

«آسترا» (Astra) از سطحی از قابلیت‌های امنیت سایبری برخوردار است که OpenAI آن را «حیاتی» توصیف می‌کند. این بدان معناست که مدل مذکور ممکن است به گونه‌ای به نرم‌افزارها نفوذ کند که بر اساس طبقه‌بندی خودِ شرکت «می‌تواند منجر به فاجعه‌ای ناشی از اقدامات بازیگران مستقل، هک سیستم‌های نظامی یا صنعتی، یا زیرساخت‌های OpenAI شود.» 

با این حال، OpenAI اعلام کرد که این مدل به‌دقت طوری تنظیم شده است که «از انجام وظایف پیشرفته امنیت سایبری» نظیر یافتن حفره‌های ناشناخته‌ای که راه را برای هکرهای مخرب هموار می‌کنند خودداری ورزد. این شرکت تنها «دسترسی با محدودیت کمتر» را برای گروهی منتخب از مدافعان قابل‌اعتماد امنیت سایبری فراهم می‌کند؛ کسانی که می‌توانند از توانمندی‌های این مدل برای تقویت دفاع سایبری استفاده کنند، نه برای حمله به آن. 

در یکی از آزمون‌های هک، این مدل امتیاز کامل ۱۰۰ درصد را کسب کرد؛ این در حالی است که مدل پیشین و پیشگام OpenAI در حوزه سایبری، یعنی «GPT-5.6 Sol»، در همان آزمون به امتیاز ۵.۵ درصد دست یافته بود. در آزمونی دیگر، این مدل با مصرف منابع کمتر، امتیاز ۴۲ درصد را در مقایسه با امتیاز ۳۰ درصدِ مدل قبلی به دست آورد. 

اما «یاکوب پاچوکی»، دانشمند ارشد OpenAI، اظهار داشت: «هرچه مدل‌ها توانمندتر می‌شوند، درک دقیق کارهایی که قادر به انجام آن هستند، دشوارتر می‌شود.» 

او افزود: «اطمینان از نحوه نظارت بر عملکرد هوش مصنوعی ممکن است توسعه بیشتر را محدود کند. ما افت توانایی خود در نظارت بر همسویی [اهداف هوش مصنوعی با ارزش‌های انسانی] فراتر از حد مشخصی را نمی‌پذیریم… اگر اطمینان کافی از ایمنی وجود نداشته باشد، باید آمادگی آن را داشته باشیم که روند توسعه و مقیاس‌دهی را کند یا متوقف کنیم.» 

عرضه این مدل، تداوم‌بخش موجی از مدل‌های جدید هوش مصنوعی از سوی شرکت‌های پیشرو آمریکایی — نظیر OpenAI، Anthropic، گوگل، متا و اسپیس‌اکس و همچنین رقبای چینی آن‌هاست. 

رقابت برای عرضه هوش مصنوعی‌های پیشرفته‌تر در حالی شدت گرفته است که OpenAI برای ورود به بازار سهام تلاش می‌کند؛ اقدامی که امیدوار است ارزش این شرکت را به بیش از ۸۵۰ میلیارد دلار (۶۲۵ میلیارد پوند) برساند. شرکت Anthropic نیز در پی عرضه اولیه سهام (IPO) است که می‌تواند ارزشی تا سقف ۲ تریلیون دلار برای آن به همراه داشته باشد. 

در همین حال، تابستان امسال بیش از ۱۰۰۰ نفر از کارکنان شرکت‌های پیشرو در حوزه هوش مصنوعی از جمله چهره‌های ارشد OpenAI و Anthropic با امضای نامه‌ای مشترک هشدار دادند که این شرکت‌ها «تحت فشار رقابتی شدیدی قرار دارند تا به‌طور یک‌جانبه از سرعت این شتاب نکاهند.» آن‌ها از دولت آمریکا خواستند تا «از تلاشی بین‌المللی برای توسعه ابزارهای فنی و حاکمیتی لازم جهت مدیریت آگاهانه سرعت پیشرفت هوش مصنوعی پیشرفته (Frontier AI) حمایت کند.»