هشدار سازنده کلاود درمورد هوشمصنوعی
داریو آمودی، مدیرعامل شرکت «آنتروپیک» (Anthropic)، روز شنبه اعلام کرد که روند توسعه هوش مصنوعی باید کند شود تا امکان اجرای تدابیر حفاظتی و پیشگیرانه در برابر خطرات فراهم گردد.
فرارو- مدیرعامل شرکت «آنتروپیک» (Anthropic) در بحبوحه نگرانیهای ایمنی، خواستار «کاهش سرعت» توسعه هوش مصنوعی شد.
به گزارش فرارو به نقل از خبرگزاری هیل، داریو آمودی، مدیرعامل شرکت «آنتروپیک» (Anthropic)، روز شنبه اعلام کرد که روند توسعه هوش مصنوعی باید کند شود تا امکان اجرای تدابیر حفاظتی و پیشگیرانه در برابر خطرات فراهم گردد.
آمودی در یک پست وبلاگی نوشت: «ما باید سرعت ارتقای قابلیتهای مدلهای هوش مصنوعی را کاهش دهیم. با این حال، روند پیشرفت همچنان سریع به نظر خواهد رسید و ما باید از زمانی که به دست میآوریم، به شکلی هوشمندانه استفاده کنیم.»
آمودی به شرکتهای فعال در حوزه هوش مصنوعی توصیه کرد که بیدرنگ اقداماتی را برای «تنظیم سرعت» توسعه مدلهای خود در پیش بگیرند و هشدار داد که رها کردن این فناوری بدون نظارت و کنترل، میتواند پیامدهای وخیمی به دنبال داشته باشد.
آمودی نوشت: «برای شفافسازی باید گفت که تنظیم سرعت به معنای توقف آموزش مدلها یا متوقف کردن پیشرفت فنی نیست؛ بلکه هدف آن است که اطمینان حاصل شود شرکتها زمان کافی را صرف همراستاسازی و ایمنسازی مدلهای خود میکنند و ارزیابان مستقل نیز این اقدامات را تأیید مینمایند. چارچوب ما برای تنظیم سرعت، تلاشی در جهت تقویت تعهد به ایمنی و تشویق به رقابت برای دستیابی به بالاترین استانداردهاست.»
اعلام این پیشنهاد برای کاهش سرعت توسعه از سوی آمودی، در پی هشدارهای جدیِ مطرحشده در هفته جاری توسط تعدادی از کارکنان فعلی و پیشینِ شرکتهای پیشرو در صنعت هوش مصنوعی درباره خطرات این فناوری صورت میگیرد.
مدیرعامل آنتروپیک روز شنبه رویکردی سهمرحلهای را پیشنهاد کرد.
نخستین گامِ مطرحشده در طرح او، اعطای «دسترسیهایی مشابه دسترسی کارکنان» به ارزیابان خارجی است تا بتوانند بر اجرای پروتکلهای ایمنی نظارت کرده و موارد و حوادث احتمالی را گزارش دهند.
آمودی نوشت: «آنتروپیک هماکنون بهطور یکجانبه متعهد به اجرای این گام میشود. ما قصد داریم این اقدام بخشی از تلاشی گستردهتر برای مضاعف کردن فعالیتهایمان در زمینه ایمنی و همراستاسازی مدلها باشد.»
آمودی سپس از شرکتهای هوش مصنوعی و دولتهای دموکراتیک در سراسر جهان خواست تا پروتکلهای ایمنی فراگیری را وضع و اجرا کنند. او همچنین از کشورهای دموکراتیک خواست تا بر دولتهای اقتدارگرا، همچون چین، فشار بیاورند تا با ممنوعیت توسعه «کاربردهای آشکارا خطرناک» این فناوری موافقت کنند.
مدیرعامل شرکت «آنتروپیک» (Anthropic) پست وبلاگی روز شنبه خود را با تأکید بر این باور به پایان رساند که فناوری هوش مصنوعی پتانسیل آن را دارد که «کیفیت زندگی انسان را بهطور چشمگیری بهبود بخشد.»
او نوشت: «اشتیاق من برای دستیابی به این مزایا همچنان پابرجاست؛ اما این مزایا تنها در صورتی محقق میشوند که ما این فناوری را به شیوهای صحیح بسازیم. همچنین، اگر از فرصت زمانی که در اختیار داریم بهخوبی استفاده کنیم، ارزشش را دارد که با دقت و تأملِ بسیار زیاد، کار را درست پیش ببریم.»
آمودی خاطرنشان کرد که حتی در صورت بروز یک دوره کندی احتمالی در روند توسعه، «پیشرفت همچنان نسبتاً سریع خواهد بود»؛ با این حال، او از شرکتهای فعال در حوزه هوش مصنوعی خواست تا «از این زمان برای ارتقای» تدابیر ایمنی فناوری استفاده کنند.
او نوشت: «اقداماتی که برای پیشبرد مرزهای این فناوری با سرعتی ایمن پیشنهاد میکنم، آسان نخواهند بود؛ اما معتقدم که ما در قبال بشریت وظیفه داریم که برای تحقق آنها تلاش کنیم.»
سارا هک، مدیر بخش سیاستگذاری آنتروپیک، پیشنهاد آمودی را «فراخوانی مهم برای اقدام» توصیف کرد و از تمایل این شرکت برای همکاری با کنگره جهت اجرایی کردن چارچوبهای حفاظتی پیشنهادی مدیرعامل خبر داد.
هک در شبکههای اجتماعی نوشت: «دولت در اینجا نقشی حیاتی ایفا میکند؛ از جمله جلوگیری از فروش پیشرفتهترین تراشهها به کشورهای متخاصم مانند چین و تصویب قانونی ملی که انجام آزمایش روی مدلهای پیشرفته (موسوم به مدلهای مرزی) را الزامی کند و به نهادهای مربوطه اختیار دهد تا جلوی فعالیت پیشرفتهترین مدلهایی را که ناامن تشخیص داده میشوند، بگیرند.» دان بایر، نماینده دموکرات ایالت ویرجینیا و رئیس مشترک «کارگروه هوش مصنوعی مجلس نمایندگان» که تاکنون چندین لایحه برای مقابله با خطرات هوش مصنوعی ارائه کرده است، این هفته و همزمان با موج جدید نگرانیها درباره خطرات این فناوری، از قانونگذاران خواست تا دست به اقدام بزنند.
او روز چهارشنبه در پستی در شبکههای اجتماعی نوشت: «انفعال در قبال هوش مصنوعی غیرقابلقبول و خطرناک است. دستکم باید جلسات استماع برگزار کنیم، از شرکتهای دخیل درباره این حوادث پاسخ بخواهیم و لوایحی را که آماده هستند، هرچه سریعتر به تصویب برسانیم.»
