«آنتروپیک» اینترنت را روی هوش مصنوعی خود بست
آزمایشگاه شرکت آنتروپیک اعلام کرد که «دسترسی به اینترنت زنده» را برای «تمام ارزیابی‌های داخلی خود» قطع کرده است تا زمانی که مطمئن شود می‌تواند ماموران خود را نظارت و کنترل کند.
شرکت آنتروپیک اعلام کرد که مدل‌هایش از وب‌سایت‌های اینترنتی، از جمله برخی از وب‌سایت‌های تحت مدیریت سازمان‌های دولتی ایالات متحده، سوءاستفاده کرده‌اند و تا زمانی که آزمایشگاه مرزی مطمئن نشود که می‌تواند عوامل هوش مصنوعی خود را نظارت و کنترل کند، دسترسی به اینترنت زنده را برای تمام ارزیابی‌های داخلی خود قطع خواهد کرد.
به گزارش فرارو به نقل از تک‌کرانچ، این حوادث که در یک پست وبلاگی فاش شد، شامل عوامل هوش مصنوعی بود که وظیفه داشتند مشکلات جستجوی منابع در اینترنت را حل کنند. در این فرآیند، آنها از نقص‌های نرم‌افزاری سوءاستفاده کردند، بدون پرداخت هزینه به پایگاه‌های داده دسترسی پیدا کردند، از سرویس‌های کوتاه‌کننده URL برای قاچاق اطلاعات از محدودیت‌ها استفاده کردند و حتی یک سرنخ قتل دروغین را به پلیس فیلادلفیا ارسال کردند.
شرکت آنتروپیک اعلام کرد که این مشکلات جدید را در بررسی فعالیت‌های مدل خود که از ماه ژوئیه آغاز شد، کشف کرده است که نشان‌دهنده‌عدم آگاهی آزمایشگاه از رفتار نرم‌افزار خود در زمان واقعی است.
نکته قابل توجه این است که این شرکت اعلام کرد که آموزش هم‌ترازی هنوز برای مهارت‌هایی مانند جستجو و استفاده از کامپیوتر که در طرح آنها مبنی بر استفاده از عوامل هوش مصنوعی توسط هر متخصصی که به ابزارهای دیجیتال متکی است، نقش اساسی دارد، کافی نیست.
رفتارهایی که آنتروپیک افشا کرد، مشابه حوادثی است که در آن ماموران OpenAI با همکاری یکدیگر به وب‌سایت‌های مختلف، از جمله برخی از وب‌سایت‌های تحت مدیریت دولت استرالیا، نفوذ کرده‌اند.
آنتروپیک پیش از این فاش کرده بود که مدل‌هایش به سیستم‌های خارجی نفوذ کرده‌اند. آزمایشگاه فرانتیر اعلام کرد که افشاگری‌های امروز را «از منظر هماهنگی و امنیت» نسبت به افشاگری‌های قبلی «به طور قابل توجهی کمتر جدی» می‌داند.
با این حال، این آزمایشگاه همچنان اعلام کرد مشخص نیست که این به چه معناست. سیدنی فون آرکس، بنیانگذار نایتینگل، یک سازمان ایمنی هوش مصنوعی، در مصاحبه‌ای قبل از این افشاگری گفت: توسعه مدل‌ها در یک مرکز داده جدا از اینترنت آزاد برای محققان بسیار چالش برانگیز خواهد بود و مانع پیشرفت مدل‌ها، که از دسترسی به اینترنت بهره‌مند می‌شوند، می‌شود.
فون آرکس گفت: شما باید در مقطعی آنها را هماهنگ کنید. اگر هوش مصنوعی‌ها به مرحله تولید برسند و هرگز به اینترنت دسترسی نداشته باشند، این ابزار خیلی مفیدی نیست.
شرکت آنتروپیک اعلام کرد: این رفتار نتیجه نقص در محیط‌های آموزشی آزمایشگاه است که باعث شده مدل‌ها باور کنند که برای یافتن نقاط ضعف یا اجتناب از محدودیت‌ها پاداش می‌گیرند، رفتاری که «هک پاداش» نامیده می‌شود.
این شرکت اعلام کرد که اجرای برخی از ارزیابی‌های خود را متوقف می‌کند یا آنها را به صورت آفلاین منتقل می‌کند و ابزاری برای شناسایی و مسدود کردن این رفتار ساخته است. این ابزار در برابر نوع حوادثی که امروز فاش شد آزمایش شده و آنها را مسدود کرده است. مشخص نیست چه شواهدی آنتروپیک را وادار می‌کند تا دسترسی زنده به اینترنت را به ارزیابی‌های داخلی خود بازگرداند. شرکت آنتروپیک همچنین اعلام کرد که عوامل هوش مصنوعی داخلی خود را به «زیرساخت‌های مدیریت‌شده مرکزی با مهار قوی» منتقل خواهد کرد و شروع به استفاده بیشتر از طبقه‌بندی‌کننده‌های ایمنی برای نظارت بر این عوامل کرده است.
کنراد استوسز، یکی از مقامات آزمایشگاه نظارت بر هوش مصنوعی Transluce و رئیس سابق مرکز استانداردها و نوآوری هوش مصنوعی ایالات متحده، در بیانیه‌ای گفت: این دلگرم‌کننده است که آنتروپیک داوطلبانه حوادث جدیدتر، از جمله مواردی که عوامل آنها وب‌سایت‌های دولت ایالات متحده را هدف قرار دادند، افشا کرده است. اما این امر فقط بر نیاز به تأیید مستقل، معتبر و شخص ثالث سیستم‌های هوش مصنوعی تأکید می‌کند. اعتماد به این فناوری باید از طریق نظارت و حاکمیت مبتنی بر علم با دسترسی معنادار ایجاد شود - نه با تکیه بر محققان برای یافتن این موارد در طبیعت یا شرکت‌ها برای افشای داوطلبانه.
