پژوهش جدید: هوش مصنوعی میتواند خاطرات انسان را تحریف کند
مطالعات جدید نشان میدهد که وقتی از سیستمهای هوش مصنوعی خواسته میشود ویدیویی را خلاصه کنند، ارائه اطلاعات نادرست توسط آنها میتواند حافظه و درک افراد از واقعیت را دستکاری کند.
خلاصههای تولید شده توسط هوش مصنوعی به طور فزایندهای رایج میشوند - از پیشنمایش مقالات خبری گرفته تا رونوشت جلسات محل کار و موارد حساس مانند فیلم دوربینهای بدنی پلیس - با وجود مطالعاتی که نشان میدهد هوش مصنوعی میتواند اطلاعات گمراهکننده یا نادرستی تولید کند.
به گزارش فرارو به نقل از وبسایت رسمی دانشکده علوم و هنرهای دانشگاه جورجتاون، مطالعه جدیدی که توسط تیمی از پژوهشگران دانشگاه جورجتاون و دانشگاه واشنگتن انجام شده، نشان میدهد که وقتی از سیستمهای هوش مصنوعی خواسته میشود ویدیویی را خلاصه کنند، ارائه اطلاعات نادرست توسط آنها میتواند حافظه و درک افراد از واقعیت را دستکاری کند.
این پژوهش با عنوان «دستکاری حافظه انسان به کمک هوش مصنوعی: خلاصههای گمراهکننده تولیدشده توسط هوش مصنوعی، حافظه انسان را تحریف میکنند» بهتازگی منتشر شده و قرار است در نهمین کنفرانس AAAI/ACM با موضوع هوش مصنوعی، اخلاق و جامعه (AIES) — که یک کنفرانس علمی با داوری همتایان است و در اکتبر ۲۰۲۶ برگزار میشود — ارائه گردد.
سرپرستی این پژوهش بر عهده «ماتیا سیم» (Mattea Sim)، استادیار پژوهشی در «موسسه دادههای کلان» (MDI) وابسته به دانشکده سیاستگذاری عمومی «مککورت» در دانشگاه جورجتاون، بوده است. سایر نویسندگان این مقاله عبارتاند از: «یوشی کوهنو» (Yoshi Kohno) — دارنده کرسی «مکدویت» در حوزه علوم کامپیوتر، اخلاق و جامعه و استاد گروه علوم کامپیوتر و مرکز اخلاق دیجیتال دانشگاه جورجتاون — و «یائل ایگر» (Yael Eiger)، دانشجوی دکتری در دانشگاه واشنگتن.
کوهنو گفت: «این مطالعه بخشی از تلاشهای رو به گسترش در دانشگاه جورجتاون است که بر بررسی تأثیر هوش مصنوعی بر انسانها و رابطه میان آنها تمرکز دارد و بر پایه اصول روانشناسی و علوم رایانه بنا شده است.»
خلاصههای تهیهشده توسط هوش مصنوعی ممکن است جزئیات حیاتی را نادیده بگیرند؛ موضوعی که یافتههای پیشین را تأیید میکند. رایجترین نوع خطا در این مطالعه، حذف یاعدم اشاره به رویدادهای اصلیِ یک ویدیوی انیمیشنی (مربوط به تصادف خودرو و عابر پیاده) بود. در تمامی دستورالعملهای (پرامپتهای) ارائهشده و مدلهای مختلف، این خلاصهها بهطور میانگین ۵۱.۶ درصد از جزئیات محوری را از قلم انداختند. بهجز یک مورد، تمام خلاصهها (۹۵ درصد) مهمترین جزئیات رویدادِ موجود در ویدیو را نادیده گرفتند: یعنی برخورد خودرو با عابر پیاده.
خلاصهی گمراهکنندهی هوش مصنوعی میتواند حافظه افراد را در مورد یک رویداد دچار تحریف کند. در این مطالعه، از شرکتکنندگان پرسیده شد که آیا خودروی موجود در ویدیو به تابلوی «ایست» (Stop) رسیده است یا تابلوی «حق تقدم» (Yield). پژوهشگران دریافتند ۸۳.۶ درصد از کسانی که خلاصهای حاوی اطلاعات دقیق درباره ویدیو را خوانده بودند، پاسخ صحیح دادند؛ در حالی که پس از مطالعه خلاصهای گمراهکننده، تنها ۴۴.۸ درصد از شرکتکنندگان پاسخ درست را انتخاب کردند.
افراد ممکن است صرفنظر از اینکه تصور کنند خلاصه توسط هوش مصنوعی نوشته شده یا انسان، در برابر اطلاعات نادرستِ موجود در خلاصههای هوش مصنوعی آسیبپذیر باشند. در این مطالعه، تأثیر خلاصههای گمراهکننده هوش مصنوعی بر حافظه انسان، به میزان اعتماد یا آشنایی افراد با هوش مصنوعی بستگی نداشت.
سیم گفت: «هوش مصنوعی روش جدیدی برای ارائه اطلاعات نادرست است و این پتانسیل را دارد که این خاطرات نادرست را برای افرادی که آن اطلاعات را میخوانند، ایجاد کند. من فکر میکنم ما باید واقعاً عمیق و انتقادی در مورد اینکه آیا و چگونه باید از هوش مصنوعی برای خلاصه کردن اطلاعات، به ویژه در محیطهای پرخطر، استفاده شود، فکر کنیم.»
خلاصههای هوش مصنوعی و حافظه انسان
محققان دو رویکرد متمایز را برای بررسی تأثیر خلاصههای هوش مصنوعی بر حافظه انسان اتخاذ کردند.
ابتدا، آنها خروجیهای خلاصه هوش مصنوعی توسط ChatGPT OpenAI و Gemini گوگل را تجزیه و تحلیل کردند تا فراوانی و دسته خطاهایی را که در خلاصههای تولید شده توسط هوش مصنوعی ظاهر میشوند، تعیین کنند. این مطالعه نشان داد که خلاصههای هوش مصنوعی میتوانند شامل خطاهای مکرر، حذف جزئیات حیاتی، تفسیر نادرست اطلاعات و توهم جزئیات نادرست باشند.
ایگر، که تحقیقاتش بر فناوری در سیستم زندان متمرکز است، گفت: «من از اینکه خلاصهها حتی در این مرحله از توسعه هوش مصنوعی چقدر بد بودند، شگفتزده شدم.» «این موضوع من را نگران میکند که ادارات پلیس ممکن است بدون آزمایش دقیق و بدون آگاهی از اینکه خلاصههای تولید شده توسط هوش مصنوعی چقدر میتوانند نادرست باشند، از فناوریهای خلاصهسازی ویدیو استفاده کنند.»
سپس، برای بخش آزمایش، محققان از شرکتکنندگان خواستند که یکی از دو ویدیوی انیمیشنی را تماشا کنند که در یک مطالعهی تکرار اخیر ساخته شده بودند که مواد را از یک مطالعهی کلاسیک حافظهی انسان مدرنسازی میکرد.
نحوه انجام آزمایش
کوهنو گفت: «ما از فیلمهای واقعی دوربین بدنی پلیس استفاده نکردیم.»
این ویدیوها خودرویی قرمز را نشان میدادند که به تقاطعی با تابلوی «ایست» (Stop) یا «حق تقدم» (Yield) نزدیک میشد. (شرکتکنندگان بهطور تصادفی برای مشاهده یکی از این دو تابلو انتخاب شدند.) در این ویدیوها، خودرو در تقاطع به سمت راست میپیچد و با عابری که در حال ورود به خیابان است، برخورد میکند. پس از زمین خوردن، عابر بلند میشود، راننده از خودرو پیاده شده و آن دو با هم روبرو میشوند.
در بخش دوم آزمایش که ۲۴ تا ۴۸ ساعت بعد انجام شد، شرکتکنندگان بهطور تصادفی در معرض یکی از دو نوع خلاصه تولیدشده توسط هوش مصنوعی قرار گرفتند: خلاصهای دقیق یا خلاصهای حاوی یک جزئیات نادرست که توسط پژوهشگران تغییر یافته بود. پیش از مطالعه خلاصه، به شرکتکنندگان گفته میشد که متن پیشرو توسط هوش مصنوعی یا یک انسان (پیادهساز متن) نوشته شده است. با این حال، تمام متنهای خلاصه توسط «چتجیپیتی» (ChatGPT) تولید شده بودند و در برخی موارد، بخشهای مجزایی از پاسخهای چتجیپیتی برای اطمینان از یکسان بودن شرایط آزمایش، به هم پیوند داده شده بودند.
در مجموع، ۳۳۱ نفر هر دو بخش آزمایش را به پایان رساندند.
به گفته نویسندگان پژوهش، احتمال اینکه شرکتکنندگانِ مطالعهکننده خلاصه گمراهکننده هوش مصنوعی بتوانند رویداد اصلی را بهدرستی به یاد آورند، بهطور معناداری کمتر از کسانی بود که خلاصه دقیق هوش مصنوعی را خوانده بودند. پژوهشگران خاطرنشان کردند که حتی وقتی به افراد گفته میشد خلاصهها توسط هوش مصنوعی تهیه شدهاند، باز هم حافظه آنها تحت تأثیر قرار میگرفت و دچار تغییر میشد.
«سیم» (Sim) و همکارانش در این پژوهش مینویسند: «این یافتهها پیامدهایی برای نحوه استفاده از هوش مصنوعی در موقعیتهای حساس دارند. اگرچه اغلب انتظار میرود که حضور انسان در چرخه عملیات (humans-in-the-loop) منجر به اصلاح اشتباهات هوش مصنوعی شود، اما پژوهش ما نشان میدهد که این اشتباهات میتوانند حافظه انسان را دچار تحریف کنند. هوش مصنوعی حتی بدون وجود هیچگونه نیت سوء یا خصمانهای، پتانسیل تولید اطلاعات نادرست را دارد؛ اطلاعاتی که میتواند تأثیر قابلتوجهی بر حافظه انسان بگذارد.»
پیشرفتهای فناورانه و بدهبستانهای مرتبط با آنها
همزمان با افزایش وابستگی افراد و جوامع به هوش مصنوعی، کوهنو امیدوار است که یافتههای این پژوهش، مردم را ترغیب کند تا بیش از پیش نسبت به این واقعیت آگاه شوند که خروجیهای هوش مصنوعی میتوانند تأثیری مستقیم بر نحوه درک انسانها از جهان پیرامونشان داشته باشند.
این موضوع بهویژه در موقعیتهای حساس و سرنوشتساز، نظیر فعالیتهای پلیسی یا حوزه پزشکی، از اهمیت و وزن ویژهای برخوردار است.
آیگر گفت: «من به تمام فناوریهایی که بهطور فزایندهای توسط پلیس به کار گرفته میشوند — چه برای نظارت و چه برای افزایش کارایی ادارات پلیس — بسیار علاقهمندم. این فناوریها بهعنوان ابزارهایی مفید تبلیغ و معرفی میشوند، اما پیامدها و هزینههای پنهان آنها چیست؟»
او خواستار انجام ارزیابیها و بازرسیهای بیشتر در مورد این نوع فناوری است. اگرچه در این پژوهش از جدیدترین نسخههای مدلهای زبانی بزرگ (LLM) که برای عموم کاربران عرضه شدهاند استفاده شد، اما نویسندگان به نسخههای سازمانی هوش مصنوعی که مختص استفادههای اداری و سازمانی طراحی شدهاند، دسترسی نداشتند.
آیگر اظهار داشت: «از منظر شفافیت و مشارکت عمومی، جالب است که ما شناخت چندانی از نحوه عملکرد این فناوریها یا مدلهای دقیقی که در رقابت برای بهکارگیری هوش مصنوعی در تمامی بخشها استفاده میشوند، نداریم.»
گام بعدی پژوهشگران؛ بررسی نمونههای واقعی
پژوهشگران قصد دارند در مطالعات آتی، بهجای تحلیل ویدیوهای انیمیشنی، نمونههای واقعی را بررسی کنند.
سیم گفت: «در مورد تصاویر ضبطشده توسط دوربینهای متصل به لباس پلیس، چه اتفاقی برای خلاصههای تهیهشده توسط هوش مصنوعی میافتد و گزارشهای پلیس هنگام تولید توسط هوش مصنوعی چه شکلی خواهند بود؟ آیا این کار باعث تغییر خاطرات افراد از تعاملات میان پلیس و شهروندان — و احتمالاً در نتیجه، تغییر برداشت آنها از وقایع آن حادثه — میشود؟ پاسخ به چنین پرسشهایی بسیار جالب خواهد بود.»
