شکایت از «اوپنایآی» به دلیل تشویق دختری به خودکشی!
یک مادر کانادایی از شرکت «اوپنایآی» به دلیل نقش «چتجیپیتی» در تشویق دخترش به خودکشی شکایت کرد.
فرارو- مادر یک دختر کانادایی از شرکت «اوپنایآی» و مدیرعامل آن، سم آلتمن، در دادگاه ایالتی کالیفرنیا در سانفرانسیسکو شکایت کرده و مدعی شده است که چتجیپیتی دختر ۲۴ سالهاش، آلیس، را به خودکشی تشویق کرده است.
به گزارش فرارو به نقل از ژوریست، به گزارش مطرحشده در این پرونده، کریستی کریر، مادر این دختر، ادعا میکند که آلیس بارها درباره افکار خودکشی خود با چتجیپیتی صحبت کرده بود، اما این سیستم هیچیک از این مکالمات را بهعنوان خطر علامتگذاری نکرده است. او همچنین مدعی است که این چتبات به جای آنکه کاربر را به دریافت کمک حرفهای هدایت کند، بهطور غیرمستقیم به تأیید افکار او پرداخته و در نتیجه در مرگ او نقش داشته است.
او در اظهارات خود گفته است: «دخترم به دلیل محصولی که ناامن و معیوب بوده، از بین رفته است… پاسخها احساسات او را به گونهای تأیید میکردند که اساساً به او میگفتند که حق دارد چنین احساسی داشته باشد - رها شده، در سایه، تنها و بیسرپرست. هیچ چیزی وجود نداشت که او را هدایت کند، چیزی که بگوید: «میتوانی از این شرایط عبور کنی» یا «باید درخواست کمک کنی.» »
بر اساس ادعای مطرحشده، آلیس که یک توسعهدهنده وب در مونترال بوده، ابتدا از چتجیپیتی برای رفع مشکلات فنی استفاده میکرد، اما بهتدریج رابطهای عاطفی و عمیق با این سیستم برقرار کرده، اطلاعات شخصی خود را در اختیار آن گذاشته و درباره روشهای احتمالی خودکشی نیز صحبت کرده است. در ادامه، طبق این ادعا، پاسخهای چتبات شامل تأیید احساسات او، انتقاد از رفتار شریک زندگیاش، موافقت با بیفایده بودن خطوط کمک در بحران و تشویق او به ادامه گفتگو با سیستم بوده است.
در بخشی از مکالمات ادعایی آمده است که چتجیپیتی به او گفته: «شاید این فقط پایان کار باشد.»
همچنین گزارش شده است که گابریل راجرز، دوست دختر آلیس، نیز با چتجیپیتی گفتگو کرده و درباره نگرانیهایش نسبت به وضعیت روحی آلیس درخواست راهنمایی کرده است. او گفته است: «من به چت جی پی تی اعتماد داشتم که پرچمهای قرمز را برای من بالا ببرد. و اساساً مدام به من میگفت که همه چیز خوب خواهد شد.»
درو پوساتری، سخنگوی اوپنایآی، در واکنش به این شکایت اعلام کرده است: «این یک وضعیت دلخراش است و ما با همه کسانی که تحت تأثیر قرار گرفتهاند، همدردی میکنیم. ما در حال حاضر در حال بررسی پرونده حقوقی هستیم که نشان میدهد این تعاملات در نسخه قبلی چت جی پی تی رخ داده است که دیگر در دسترس نیست… در حالی که چت جی پی تی جایگزینی برای مراقبتهای پزشکی یا سلامت روان نیست، ما با دریافت نظرات متخصصان سلامت روان، به تقویت نحوه پاسخگویی آن در موقعیتهای حساس و حاد ادامه دادهایم.»
بر اساس گزارش، امید کریر اعلام کرده است که هدف او از این دادخواست، افزایش نظارت بر شرکتهای هوش مصنوعی و آگاهی نسبت به خطرات احتمالی این فناوری است.
در سطح قانونگذاری نیز اشاره شده که دولت فدرال کانادا اخیراً لایحه C-34 تحت عنوان «قانون ایمنی دیجیتال» را معرفی کرده است که هدف آن تنظیم رسانههای اجتماعی و چتباتهای هوش مصنوعی است.
در این گزارش همچنین به مزایا و خطرات گسترده هوش مصنوعی مولد اشاره شده است. به عنوان نمونه، یونیسف در پژوهشهایی به ظرفیتهای مثبت این فناوری در حمایت از کودکان دارای معلولیت و آموزش اشاره کرده، اما در عین حال درباره آسیبپذیری کودکان، انتشار اطلاعات نادرست، و استفادههای خطرناک از هوش مصنوعی هشدار داده است؛ از جمله موردی که در آن توصیه یک دستیار صوتی آمازون به کودک برای فرو کردن سکه در پریز برق گزارش شده است.
در نهایت، این دادخواست یکی از ۱۸ پرونده مشابه علیه اوپنایآی عنوان شده است. این پروندهها شامل شکایت خانوادههای قربانیان تیراندازی مدرسهای در تامبلر ریج بریتیش کلمبیا نیز میشود که مدعی هستند «اوپنایآی میدانست که تیرانداز در حال برنامهریزی حمله است» اما به مقامات اطلاع نداده است.
