«توهم» چتجیپیتی در یک پرونده قتل/ شاهدانی که اصلاً وجود نداشتند!
دادگاه عالی نیومکزیکو اعلام کرد وکیل مدافعی که در حال تجدیدنظرخواهی از حکم قتل موکلش است، خلاصهای از شهادتهای ساختگی پلیس و شاهدان ساخته شده توسط ChatGPT شرکت OpenAI را ارائه کرده است.
فرارو- یک وکیل در پرونده قتل به شهود ساختگی استناد کرد و چتجیپیتی (ChatGPT) را مقصر دانست.
به گزارش فرارو به نقل از رویترز، دادگاه عالی نیومکزیکو اعلام کرد وکیل مدافعی که در حال تجدیدنظرخواهی از حکم قتل موکلش است، خلاصهای از شهادتهای ساختگی پلیس و شاهدان ساخته شده توسط ChatGPT شرکت OpenAI را ارائه کرده است.
دیوان عالی نیومکزیکو روز چهارشنبه استیون آرونز، وکیل دادگستری، را به دلیلعدم تأیید صحت پرونده دادگاه که آرونز گفت با کمک برنامه هوش مصنوعی تهیه کرده است، جریمه و به عنوان توهین به دادگاه محکوم کرد.
دادگاه اعلام کرد که لایحه ارائهشده «حاوی شهادتهای دروغین از سوی شاهدانی کاملاً ساختگی» بوده است.
هیئت قضات همچنین اظهار داشت که آرونز «عدم پشیمانی و بیتوجهی نسبت به موکل خود» را نشان داده است. قضات، آرونز را به پرداخت ۵۰۰۰ دلار جریمه محکوم کردند و اعلام نمودند که پرونده او را برای رسیدگی به هیئت انتظامی وکلا ارجاع خواهند داد.
آرونز در بیانیهای به رویترز گفت زمانی که سال گذشته وکالت پرونده تجدیدنظر متهم را پذیرفت، از «چتجیپیتی» (ChatGPT) برای خلاصهسازی جریان دادرسی استفاده کرده و متوجه نبوده است که هوش مصنوعی تا چه حد ممکن است دچار «توهم» (ارائه اطلاعات نادرست و ساختگی) شود.
او گفت: «من پشیمانم اما امیدوارم که هیئت انتظامی این نکته را در نظر بگیرد که این یک اشتباه سهوی بوده است. این تجربهای آموزنده برای تمام متخصصانی است که به این فناوری قدرتمند اما گاهی غیرقابلاعتماد تکیه میکنند.»
شرکت «اوپنایآی» (OpenAI) بلافاصله به درخواست اظهار نظر در این باره پاسخی نداد.
مجازات تعیینشده توسط دادگاه، جدیدترین مورد از مجموعه رو به رشدی از پروندههاست که در آنها قضات ایالتی و فدرال، وکلایی را به دلیل ارائه اسناد قضاییِ تولیدشده توسط ابزارهای هوش مصنوعی بدون بررسی و راستیآزمایی کافی تنبیه کردهاند. برخی قضات نیز خود به دلیل استفاده از هوش مصنوعی مورد انتقاد و بررسی قرار گرفتهاند.
دهها وکیل به دلیل ارائه لوایحی که در آنها هوش مصنوعی اقدام به جعل استنادات پرونده یا نقلقول نادرست از قوانین کرده بود، مجازات شدهاند. به نظر میرسد مورد آرونز فراتر از این موارد بوده و شامل شهادتهای ساختگی شاهدان در یک پرونده تجدیدنظر کیفری میشده است.
آرونز، وکیل خصوصی ساکن «سانتا فه»، وکالت پرونده تجدیدنظر «اسکار رنه ساندووال» را بر عهده داشت؛ فردی که در پرونده قتل مادر فرزندانش اعلام بیگناهی کرده بود، اما سال گذشته مجرم شناخته و به حبس ابد محکوم شد.
پرونده تجدیدنظر همچنان در جریان است و در تاریخ ۲ سپتامبر به «کیم چاوز کوک»، وکیل تسخیری ایالت نیومکزیکو، واگذار شد. کوک از اظهار نظر در این باره خودداری کرد.
دفتر دادستان منطقه «دونیا آنا» (Doña Ana County) نیز از اظهار نظر خودداری کرد.
دیوان عالی ایالتی ماه گذشته به آرونز دستور داد توضیح دهد که چگونه مطالب ساختگی که به گفته دادگاه شامل «اظهارات خیالی مبنی بر پوشیدن شلوار تیره و پیراهن سفید توسط فرد تیرانداز» بوده است در لایحه اولیه تجدیدنظر گنجانده شده است.
آرونز در جلسه دادگاه مورخ ۲۱ اوت اظهار داشت که متن پیادهسازیشده توسط رایانه و سایر اسناد پرونده را به «چتجیپیتی» داده و تصور میکرده است که این ابزار «خلاصهای بینقص و دقیق» ارائه خواهد داد. قضات از اینکه «آرونز» بهطور کامل از احتمال خطای هوش مصنوعی آگاه نبوده است، ابراز شگفتی و ناباوری کردند.
قاضی «سی. شانون بیکن» در جلسه رسیدگی گفت: «وکیل محترم، آیا اخبار را تماشا میکنید؟ به رادیو گوش میدهید؟ آیا درباره وقایع جهان چیزی میخوانید؟ چرا که مشکلِ تکیه وکلا بر «توهمات» (اطلاعات ساختگی) هوش مصنوعی، هر روز در صدر اخبار قرار دارد. »
