خطای هوش مصنوعی، آمریکا را تا آستانه عملیات علیه یک کشتی چینی برد

فرارو- به گفته منابع آگاه، ارتش آمریکا پس از استفاده از هوش مصنوعی برای تهیه یک گزارش اطلاعاتی نادرست، تا آستانه یک وضعیت بحرانی پیش رفت. 

به گزارش فرارو به نقل از سی ان ان، این گزارش اطلاعاتی که بهار امسال و در بحبوحه تنش‌ها با ایران در سطوح مختلف ارتش آمریکا منتشر شد، بلافاصله زنگ خطر را به صدا درآورد: یک کشتی چینی در خاورمیانه در حال حمل قطعاتی مربوط به برنامه تسلیحات هسته‌ای بود. 

به گفته چهار منبع آگاه از این ماجرا، ارتش آمریکا برای رهگیری این کشتی دست‌به‌کار شد. بنا بر اظهارات دو تن از این منابع، نیروهای مسلح ارتش آمریکا در حال آماده‌سازی برای ورود به عرشه کشتی بودند. یکی از این منابع و فردی دیگر که از جزئیات حادثه مطلع بود، گفتند که هواپیماهای نظامی نیز در آسمان حضور داشتند. 

درست پیش از آغاز عملیات برنامه‌ریزی‌شده بود که مقامات گزارش تهیه‌شده توسط یکی از تحلیلگران «فرماندهی عملیات ویژه» را دقیق‌تر بررسی کردند و دریافتند که این گزارش با کمک هوش مصنوعی (AI) تولید شده است؛ همچنین مشخص شد که چت‌باتی که تحلیلگر از آن استفاده کرده بود، محموله کشتی را به اشتباه شناسایی کرده است. شبکه سی‌ان‌ان نتوانست ماهیت محموله‌ای را که اشتباه شناسایی شده بود، مشخص کند. 

به گفته یکی از منابع، این گزارش «کاملاً نادرست» بود، اما همان‌طور که آن منبع اظهار داشت، «تا آستانه آغاز یک جنگ پیش رفت.» هرگونه عملیات آمریکا علیه یک کشتی چینی می‌توانست خطر تشدید تنش‌ها و وقوع درگیری مسلحانه میان دو کشور را به همراه داشته باشد. 

در سراسر ارتش و جامعه اطلاعاتی ایالات متحده، مقامات در تلاش‌اند تا هوش مصنوعی را در تقریباً تمام جنبه‌های فعالیت خود ادغام کنند؛ از تحلیل حجم عظیم داده‌های اطلاعاتی خام و انتخاب اهداف برای حملات گرفته تا کاربردهای روزمره‌تری همچون مدیریت بودجه، لجستیک و زنجیره تأمین. 

با این حال، این ماجرا خطرات عمیق استفاده از این فناوری قدرتمند، جدید و نسبتاً ناشناخته را برای تعیین اهداف در بحبوحه جنگ برجسته می‌سازد. تحلیلگران مدت‌هاست نگران آن بوده‌اند که اگر دولت‌ها به داده‌های ناقص یا مخدوش تکیه کنند، هوش مصنوعی ممکن است به یک اشتباه محاسباتی فاجعه‌بار منجر شود؛ نوعی اشتباه که می‌تواند باعث شود ایالات متحده بر اساس اطلاعات نادرست، به یک کشتی چینی شلیک کند. 

در این مورد خاص، تحلیلگر از یک چت‌بات درباره گزارش‌های اطلاعاتی مربوط به فهرست محموله کشتی که منشأ آن «فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام» مستقر در هاوایی بود پرس‌وجو کرد. مشخص نبود که آیا این چت‌بات یک ابزار تجاری موجود در بازار بوده یا محصولی متعلق به دولت ایالات متحده. 

یک مقام ارشد سابق آمریکایی که با سیستم‌های هوش مصنوعی مورد استفاده تحلیلگران نظامی و اطلاعاتی آشناست، می‌گوید: «ابزارهای داخلی عمدتاً همان نمونه‌های تجاری هستند که صرفاً ظاهری متفاوت و آراسته به آن‌ها داده شده است.» 

این ربات، اطلاعات منبع باز را با اطلاعات سیگنال‌های مخفی در دارایی‌های دولتی ترکیب کرد و به نتیجه‌گیری سرنوشت‌ساز خود در مورد موادی که کشتی حمل می‌کرد، رسید. 

سپس این تحلیلگر دوباره از هوش مصنوعی برای دسته‌بندی یافته‌ها در یک گزارش اطلاعاتی استاندارد نوعی که مورد اعتماد مقامات نظامی است استفاده کرد و آن را منتشر کرد. 

فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام و پنتاگون به درخواست اظهار نظر پاسخی ندادند. 

منطق پذیرش سریع هوش مصنوعی این است که می‌تواند به ارتش در تصمیم‌گیری‌های میدان نبرد، مانند اینکه به کدام اهداف حمله کند یا کدام دارایی‌های نظامی را سریع‌تر به کجا منتقل کند، کمک کند. مقامات می‌گویند ایالات متحده نمی‌تواند در صورت لزوم، در ادغام هوش مصنوعی عقب بماند. چین یا دشمن دیگری که به طور بالقوه می‌تواند یک قدم از ایالات متحده جلوتر باشد، باید با آن مبارزه کند. 

در ماه ژانویه، پیت هگسث، وزیر دفاع، «راهبرد شتاب‌بخشی به هوش مصنوعی» را با هدف تسریع بهره‌گیری ارتش از این فناوری منتشر کرد. 

هگسث در سخنرانی خود برای اعلام این راهبرد ادعا کرد: «ما مسیر را برای انجام آزمایش‌ها هموار خواهیم کرد، موانع بوروکراتیک را از میان برمی‌داریم، سرمایه‌گذاری‌هایمان را متمرکز می‌سازیم و رویکرد اجرایی لازم را به نمایش می‌گذاریم تا اطمینان حاصل کنیم که در حوزه هوش مصنوعی نظامی پیشتاز هستیم.» 

این راهبرد همچنین بر استفاده گسترده از هوش مصنوعی در سراسر ارتش تأکید دارد و به این نهاد دستور می‌دهد تا هوش مصنوعی را از طریق برنامه‌های متعدد در دسترس قرار دهد. هدف از این اقدام، «دموکراتیک‌سازی آزمایش و تحول مبتنی بر هوش مصنوعی در سراسر این وزارتخانه» از طریق در اختیار قرار دادن مستقیم مدل‌های هوش مصنوعی پیشروِ آمریکا به سه میلیون نیروی غیرنظامی و نظامی در تمامی سطوح طبقه‌بندی اطلاعاتی عنوان شده است. 

با این حال، به گفته چندین مقام آمریکاییِ مطلع از این روند، این تلاش ماهیتی غیرمتمرکز دارد؛ به‌طوری که بخش‌های مختلف دولت از ابزارهای گوناگون و تحت دستورالعمل‌ها و استانداردهای ایمنی متفاوتی استفاده می‌کنند. هیچ مجموعه واحدی از استانداردها برای نحوه راستی‌آزمایی اطلاعات تولیدشده توسط این ابزارها در آمریکا وجود ندارد. وجود مجموعه‌ای متنوع از سیستم‌های هوش مصنوعی که توسط بخش‌های گوناگون ارتش و جامعه اطلاعاتی به کار گرفته می‌شوند، بدین معناست که قابلیت اطمینان و کارایی آن‌ها تفاوت‌های فاحشی با یکدیگر دارد. 

هفته‌هاست که سیاست‌گذاران واشنگتن پس از یک سری هشدارهای جدی از سوی مهندسان سیلیکون ولی و مدیران عامل شرکت‌های فناوری مبنی بر احتمال رهایی هوش مصنوعی از محدودیت‌های انسانی، با پیامدهای بالقوه پایان تمدن، به شدت در حال بحث در مورد هوش مصنوعی بوده‌اند. 

اما ماجرای کشتی چینی، خطری متفاوت و فوری‌تر را برجسته می‌کند: انسان‌ها بر اساس اطلاعات نادرست یا گمراه‌کننده‌ای که توسط هوش مصنوعی یا سایر سیستم‌های خودکار تولید می‌شود، تصمیمات فاجعه‌باری می‌گیرند. منابع گفتند که ارتش به سرعت در حال روی آوردن به هوش مصنوعی برای کمک به هدف‌گیری است، حوزه‌ای که خطر آشکار اشتباهات مهلک را در خود جای داده است. 

منبع دیگری که با سیاست‌های فعلی ارتش آشنا است، گفت: «هوش مصنوعی در هدف‌گیری قطعاً چیزی است که در حال افزایش است و هیچ راهنمایی واقعی برای اینکه چگونه حضور یک انسان در حلقه از تلفات غیرنظامیان یا برادرکشی جلوگیری می‌کند، وجود ندارد.» 

به گفته یکی از منابع، نوع «توهمی» که ابزار مورد استفاده تحلیلگر در این مورد ایجاد کرده است، از زمان شروع گسترش این ابزارها در سراسر دولت، یک حادثه جداگانه در سراسر جامعه اطلاعاتی نبوده است. 

برای برخی از مقامات اطلاعاتی باسابقه حتی کسانی که به‌طور کلی حامی به‌کارگیری هوش مصنوعی در ارتش هستند این فناوری تحلیلگران را تحت فشار قرار داده است تا اطلاعات را سریع‌تر تولید و منتشر کنند؛ امری که زمینه را برای بروز خطا فراهم می‌سازد. به گفته چندین منبع، به‌ویژه تحلیلگران جوان که با این ابزارها خو گرفته‌اند، بیشتر احتمال دارد که بدون نگاهی انتقادی به آن‌ها اعتماد کنند. 

یکی از این منابع گفت: «هوش مصنوعی به شما امکان می‌دهد سریع‌تر به یک ایده نادرست برسید.»