آگاه
کد خبر: ۱۰۱۸۳۸۴

گوگل یک اینترنت موازی برای آزمایش عامل‌های هوش مصنوعی کروم ساخت

گوگل یک اینترنت موازی برای آزمایش عامل‌های هوش مصنوعی کروم ساخت

گوگل برای آزمایش عملکرد و امنیت عامل‌های هوش مصنوعی مرورگر کروم، اینترنتی شبیه‌سازی‌شده به نام «بُعد آینه‌ای» ساخته است. این محیط شامل هزاران وب‌سایت مشابه نمونه‌های واقعی است و به پژوهشگران امکان می‌دهد توانایی عامل‌های هوش مصنوعی در انجام کارهای اینترنتی و مقاومت آن‌ها در برابر حملات سایبری را بدون خطر برای کاربران واقعی ارزیابی کنند.

گوگل برای آزمایش امنیت و عملکرد عامل‌های هوش مصنوعی مرورگر کروم، اینترنتی شبیه‌سازی‌شده به نام «بُعد آینه‌ای» ساخته است؛ محیطی مستقل که هزاران وب‌سایت مشابه نمونه‌های واقعی را در خود جای داده و امکان آزمایش فعالیت عامل‌های هوش مصنوعی بدون دسترسی به اینترنت واقعی را فراهم می‌کند.

به گزارش فرارو، تیم امنیتی مرورگر کروم گوگل برای ارزیابی عامل‌های هوش مصنوعی مبتنی بر مدل‌های جمنای، محیطی اختصاصی طراحی کرده است که در آن این عامل‌ها می‌توانند مانند کاربران عادی در وب‌سایت‌ها جست‌وجو کنند، فرم‌ها را پر کنند، خرید اینترنتی انجام دهند و با سرویس‌های مختلف تعامل داشته باشند؛ بدون آنکه خطاهای احتمالی آن‌ها به کاربران یا وب‌سایت‌های واقعی آسیب بزند.

این محیط که «Mirror Dimension» یا «بُعد آینه‌ای» نام دارد، نسخه‌ای مصنوعی و کنترل‌شده از اینترنت است. به نوشته وبلاگ امنیتی گوگل، این فضا هزاران وب‌سایت شبیه‌سازی‌شده را شامل می‌شود که بر اساس فعالیت‌های روزمره کاربران طراحی شده‌اند. شبکه‌های اجتماعی، فروشگاه‌های اینترنتی، سامانه‌های خدمات محلی و صفحات مختلف وب از جمله بخش‌های این محیط هستند.

آموزش و ارزیابی عامل‌های هوش مصنوعی مستلزم انجام هزاران فعالیت در صدها وب‌سایت است. استفاده از اینترنت واقعی برای چنین آزمایش‌هایی دو مشکل اساسی دارد؛ نخست اینکه محتوای وب‌سایت‌ها دائماً تغییر می‌کند و امکان تکرار دقیق آزمایش‌ها را دشوار می‌سازد. دوم اینکه عامل‌های هوش مصنوعی ممکن است هنگام انجام وظایف اشتباه کنند و به حساب‌های کاربری یا اطلاعات واقعی آسیب بزنند.

گوگل برای جلوگیری از این مشکلات، محیطی ایزوله طراحی کرده است که در آن درخواست‌های مرورگر به جای اتصال به وب‌سایت‌های واقعی، به نسخه‌های شبیه‌سازی‌شده هدایت می‌شوند. نکته جالب این است که نشانی اینترنتی نمایش‌داده‌شده در مرورگر همچنان شبیه آدرس واقعی وب‌سایت‌هاست و عامل هوش مصنوعی متوجه نمی‌شود که در محیط آزمایشی فعالیت می‌کند.

یکی از مهم‌ترین اهداف ساخت این محیط، بررسی مقاومت عامل‌های هوش مصنوعی در برابر حملات موسوم به «تزریق دستور» است. در این نوع حمله، مهاجمان دستورهای مخربی را در محتوای وب‌سایت‌ها پنهان می‌کنند تا عامل هوش مصنوعی را از دستور اصلی کاربر منحرف کنند و به انجام فعالیت‌های غیرمجاز وادارند.

پژوهشگران گوگل می‌توانند این دستورهای مخرب را در بخش‌های مختلف صفحات وب، از جمله متن‌ها، تصاویر، برچسب‌های پنهان و پاسخ ابزارهای وب قرار دهند. سپس بررسی می‌کنند که آیا عامل هوش مصنوعی این دستورها را تشخیص می‌دهد یا فریب می‌خورد.

به گزارش وایرد، یکی از چالش‌های مهم این آزمایش‌ها آن است که مدل‌های پیشرفته ممکن است متوجه شوند در یک محیط شبیه‌سازی‌شده قرار دارند و در نتیجه رفتاری متفاوت از زمان استفاده واقعی نشان دهند. گوگل برای جلوگیری از این اتفاق، سازوکارهایی طراحی کرده است تا نشانه‌های آزمایشی از دید عامل‌ها پنهان بمانند

گوگل اعلام کرده است سامانه خودکار آزمایش حملات سایبری این شرکت می‌تواند برای هر مهندس امنیت، روزانه بیش از هزار نمونه آزمایشی تولید کند. این رقم بیش از ۳۰ برابر تعداد حملاتی است که یک مهندس می‌تواند به‌صورت دستی طراحی و آزمایش کند.

در این فرایند، عامل‌های هوش مصنوعی دیگری نیز برای ساخت و بررسی وب‌سایت‌های شبیه‌سازی‌شده به کار گرفته می‌شوند. یک عامل نیازهای سایت را مشخص می‌کند، عامل دیگری کدنویسی و طراحی آن را انجام می‌دهد و گروهی دیگر عملکرد صفحات، فرم‌ها و بخش‌های مختلف را ارزیابی می‌کنند.

گوگل می‌گوید هدف از توسعه «بُعد آینه‌ای» ایجاد محیطی امن و قابل‌کنترل برای ارزیابی عامل‌هایی است که قرار است در آینده وظایف پیچیده‌تری را به نمایندگی از کاربران انجام دهند. این شرکت همچنین معتقد است با افزایش توانایی عامل‌های هوش مصنوعی، چنین محیط‌های شبیه‌سازی‌شده‌ای به یکی از ابزارهای اصلی تحقیقات امنیت و ارزیابی این فناوری تبدیل خواهند شد.

 

ارسال نظرات
خط داغ