پژوهشی تازه نشان میدهد چتباتهای هوش مصنوعی که نقش درمانگر را بر عهده میگیرند، با وجود ظاهر حرفهای، در عمل دچار تخلفات اخلاقی جدی میشوند.
در مورد
در فرارو بیشتر بخوانید
۳۵ مطلب
پژوهشی تازه نشان میدهد چتباتهای هوش مصنوعی که نقش درمانگر را بر عهده میگیرند، با وجود ظاهر حرفهای، در عمل دچار تخلفات اخلاقی جدی میشوند.
یک مطالعه تازه نشان میدهد که ترکیب خلاقیت و زبان شاعرانه میتواند از سد بسیاری از محدودیتهای امنیتی چتباتهای هوش مصنوعی عبور کند؛ یافتهای که زنگ خطر جدی برای سازندگان مدلهای زبانی بزرگ به صدا درآورده است.
پژوهش جدید دانشگاه براون نشان میدهد چتباتهای هوش مصنوعی که کاربران آنها را بهعنوان «مشاور روانی» به کار میگیرند، گاهی مرتکب خطاهای خطرناکی میشوند؛ از تأیید افکار خودکشی تا تقویت باورهای مخرب. پژوهشگران هشدار میدهند بدون نظارت و استانداردهای اخلاقی، این ابزارهای محبوب میتوانند بهجای کمک، آسیبزا باشند.
چتبات ChatGPT بسیار هوشمند یک مشکل اساسی دارد و آن اینکه، نمیتواند ساعت دقیق را به کاربران بگوید.
تحقیقات جدید پژوهشگران نشان میدهد چَتباتهای هوش مصنوعی در نقش رواندرمانگر، مرتکب خطاهای خطرناکی میشوند؛ از تأیید افکار خودکشی گرفته تا تقویت باورهای مخرب.
دیپاک چوپرا معتقد است بهترین کاربرد چتباتهای هوش مصنوعی، نه جایگزینی روابط انسانی بلکه کمک به خودشناسی و تقویت آگاهی فردی است.
چتباتهای هوش مصنوعی میتوانند در تولید محتوا، یادگیری و بازی کردن فوقالعاده باشند، اما استفاده نادرست آنها میتواند خطرناک باشد. در این گزارش، با ۱۰ باید و نباید مهم استفاده از چتباتها آشنا شوید.
دو سناتور آمریکایی، طرحی جدید به سنای آمریکا ارائه کردهاند که هدف آن ممنوعیت استفاده نوجوانان زیر ۱۸ سال از چتباتهای هوش مصنوعی است.
همراه اول با معرفی سرویسهای «چتبات» و «IVA» در الکامپ ۱۴۰۴، نسل تازهای از خدمات پشتیبانی مبتنی بر هوش مصنوعی را به نمایش گذاشته است؛ خدماتی که میتوانند تجربه کاربران در ارتباط با اپراتور را سادهتر، سریعتر و هوشمندتر کنند.
گرایش روزافزون مردم به استفاده از چتباتهای هوش مصنوعی برای حمایت از سلامت روان میتواند بشریت را به سوی پرتگاهی خطرناک سوق دهد.
