خطر هوش مصنوعی تازه‌وارد برای افراد مبتلا به سرطان!

بررسی جدید پژوهشگران آمریکایی که نخستین نمونه در نوع خود به شمار می‌رود، نشان می‌دهد که «ChatGPT» ممکن است باور‌های نادرستی را در مورد سرطان ارائه کند و به تصمیم‌گیری اشتباه بیماران منجر شود.

به گزارش ایسنا، از آنجا که چت‌بات‌های مبتنی بر هوش مصنوعی در حال تبدیل شدن به منابع محبوب برای اطلاعات سرطان هستند، یک پژوهش به بررسی آن‌ها پرداخته است. پژوهشگران در این پروژه دریافتند که این منابع، اطلاعات دقیقی را در مورد داستان‌ها و باور‌های نادرست پیرامون سرطان ارائه می‌دهند.

دکتر «اسکایلر جانسون» (Skyler Johnson)، پزشک-دانشمند «مؤسسه سرطان هانتسمن» (Huntsman Cancer Institute) و دانشیار بخش تشعشع سرطان در «دانشگاه یوتا» (UofU)، در پژوهشی که نخستین نمونه در نوع خود به شمار می‌رود، قابلیت اطمینان و دقت اطلاعات سرطان ربات «ChatGPT» را ارزیابی کرد.

جانسون و گروهش با استفاده از داستان‌ها و باور‌های نادرست رایج «مؤسسه ملی سرطان آمریکا» (NCI) در مورد سرطان دریافتند که ۹۷ درصد از پاسخ‌ها درست بوده‌اند. در هر حال، این یافته‌ها با برخی هشدار‌های مهم همراه هستند؛ از جمله نگرانی در مورد این موضوع که برخی از پاسخ‌های ChatGPT ممکن است اشتباه تفسیر شوند. این امر می‌تواند به تصمیمات بد بیماران مبتلا به سرطان منجر شود. این گروه پژوهشی در مورد استفاده از چت‌بات‌ها برای کسب اطلاعات در مورد سرطان، احتیاط را به بیماران توصیه کردند.

این پژوهش نشان داد که مشخص نبود پاسخ‌ها از سوی چت‌بات آمده‌اند یا مؤسسه ملی سرطان آمریکا. اگرچه پاسخ‌ها دقیق بودند، اما پژوهشگران دریافتند که زبان ChatGPT، غیر مستقیم، مبهم و در برخی موارد نامشخص است.

جانسون گفت: من درک می‌کنم که دسترسی به اطلاعات دقیق، برای بیماران مبتلا به سرطان و مراقبان آن‌ها چقدر دشوار است. این منابع باید بررسی شوند تا بتوانیم به بیماران مبتلا به سرطان کمک کنیم که در محیط اطلاعات آنلاین حرکت کنند و به دنبال پاسخ درستی در مورد بیماری خود باشند.

اطلاعات نادرست می‌توانند به بیماران مبتلا به سرطان آسیب برسانند. جانسون و گروهش در پژوهش پیشین خود که در «Journal of the National Cancer Institute» به چاپ رسید، دریافتند که اطلاعات نادرست در رسانه‌های اجتماعی رایج هستند و می‌توانند به بیماران مبتلا به سرطان آسیب برسانند.

گام‌های بعدی جانسون و گروهش، ارزیابی این است که بیماران چقدر از چت‌بات‌ها برای جستجوی اطلاعات درباره سرطان استفاده می‌کنند، چه سؤالاتی می‌پرسند و آیا چت‌بات‌های هوش مصنوعی، پاسخ‌های دقیقی را به پرسش‌های غیر رایج در مورد سرطان می‌دهند یا خیر.