چین محدودیتهایی را برای روابط هوش مصنوعی با افراد زیر ۱۸ سال تعیین میکند
چین در حال برنامهریزی برای اعمال محدودیتهای سختگیرانهتر بر خدمات هوش مصنوعی است که برای ایجاد همراهی عاطفی با جوانان طراحی شدهاند؛ در همین راستا، مقررات پیشنهادی، روابط مجازی میان افراد زیر سن قانونی و شخصیتهای هوش مصنوعی را هدف قرار دادهاند.
فرارو- چین قصد دارد استفاده از همراهان هوش مصنوعی با ماهیت صمیمانه را برای کاربران زیر ۱۸ سال ممنوع کند.
به گزارش فرارو به نقل از تکادیشن، چین قصد دارد محدودیتهای سختگیرانهتری را برای همراهان هوش مصنوعیِ ویژه افراد زیر سن قانونی اعمال کند و روابط مجازی، وابستگی عاطفی و استفاده بیشازحد را هدف قرار دهد.
چین در حال برنامهریزی برای اعمال محدودیتهای سختگیرانهتر بر خدمات هوش مصنوعی است که برای ایجاد همراهی عاطفی با جوانان طراحی شدهاند؛ در همین راستا، مقررات پیشنهادی، روابط مجازی میان افراد زیر سن قانونی و شخصیتهای هوش مصنوعی را هدف قرار دادهاند. این اقدامات، پلتفرمهای آنلاین را از ارائه «اقوام یا همراهان مجازی» به کاربران زیر ۱۸ سال منع کرده و تدابیر حفاظتی بیشتری را برای استفاده کودکان از خدمات هوش مصنوعی وضع میکنند.
این پیشنهادها که توسط روزنامه South China Morning Post در ۲۱ سپتامبر گزارش شده است، اندکی پس از آن ارائه میشوند که چین اولین قوانین اختصاصی خود را برای تعامل هوش مصنوعی انسانمانند معرفی کرد. آخرین اقدام، توجه روزافزون نظارتی به سیستمهای هوش مصنوعی طراحی شده برای ایجاد ارتباطات عاطفی با کاربران را برجسته میکند.
محدودیتهای پیشنهادی، پلتفرمهای هوش مصنوعی را از ارائه اعضای خانواده مجازی، شرکای عاشقانه یا سایر اشکال روابط صمیمی مجازی به افراد زیر ۱۸ سال منع میکند. این قوانین همچنین خدماتی را که استفاده بیش از حد، وابستگی عاطفی یا رفتاری را که میتواند به طور جدی بر سلامت جسمی یا روانی یک جوان تأثیر بگذارد، تشویق میکنند، هدف قرار میدهد.
قوانین موجود چین برای خدمات هوش مصنوعی انسانمانند، که در ۱۵ ژوئیه لازمالاجرا شد، ارائه دهندگان را از ارائه بستگان مجازی یا شرکای مجازی به افراد زیر سن قانونی منع میکند. این مقررات همچنین ارائه دهندگان را ملزم به ایجاد یک حالت اختصاصی برای افراد زیر سن قانونی، معرفی یادآوریهای زمان استفاده و انجام اقداماتی برای شناسایی کاربران زیر سن قانونی در عین محافظت از اطلاعات شخصی آنها میکند.
این مقررات بین همراهان هوش مصنوعیِ مبتنی بر احساسات و ابزارهای کاربردی هوش مصنوعیِ معمولی تمایز قائل میشوند. خدماتی مانند پشتیبانی مشتری، پاسخ به سوالات مبتنی بر دانش، دستیاران محل کار، آموزش و تحقیقات علمی، زمانی که شامل تعامل عاطفی مداوم نباشند، خارج از این قوانین هستند. این بدان معناست که تمرکز بر محصولات هوش مصنوعی است که عمداً حول روابط شخصی یا عاطفی مداوم طراحی شدهاند، نه استفاده از هوش مصنوعی توسط جوانان به طور کلی.
این قوانین همچنین ارائه دهندگان را ملزم میکند که در صورت بروز علائم وابستگی یا اعتیاد بیش از حد در کاربران، مداخله کنند. سرویسهای هوش مصنوعی باید به کاربران یادآوری کنند که با هوش مصنوعی تعامل دارند، نه با یک شخص واقعی. در مقابل، کاربرانی که بیش از دو ساعت مداوم از یک سرویس انساننما استفاده میکنند، باید در مورد زمان استفاده خود یادآوری دریافت کنند.
شرکتهای هوش مصنوعی با چالشهای جدیدی در زمینه رعایت قوانین مواجه هستند. برای شرکتهای هوش مصنوعی، این محدودیتها میتواند الزامات فنی و عملیاتی قابل توجهی، به ویژه در مورد تعیین سن کاربر، ایجاد کند. از ارائهدهندگان انتظار میرود ضمن رعایت الزامات حریم خصوصی، افراد زیر سن قانونی را شناسایی کرده و سپس کاربران زیر سن قانونی شناخته شده را به حفاظتهای مناسب منتقل کنند. والدین و سرپرستان همچنین میتوانند ابزارهایی برای دریافت هشدارهای ایمنی، بررسی اطلاعات استفاده، مسدود کردن شخصیتهای خاص و محدود کردن هزینهها دریافت کنند.
این قوانین همچنین به نحوه رفتار سیستمهای هوش مصنوعی با کاربران میپردازند. ارائهدهندگان از طراحی خدمات پیرامون دستکاری عاطفی، وابستگی یا اعتیاد منع شدهاند و باید در مواقعی که تعاملات میتواند به روابط دنیای واقعی کاربران آسیب برساند، اقداماتی انجام دهند. آنها همچنین باید به برخی خطرات ایمنی، از جمله موقعیتهایی که شامل احساسات شدید یا تهدید برای زندگی و سلامت هستند، پاسخ دهند.
حفاظت از دادهها بخش دیگری از این چارچوب است. ارائهدهندگان باید از دادههای تعاملی از طریق اقداماتی مانند رمزگذاری و کنترل دسترسی محافظت کنند، در حالی که محدودیتهایی برای به اشتراک گذاشتن دادههای تعاملی کاربر با اشخاص ثالث اعمال میشود. ارائهدهندگان عموماً نمیتوانند از اطلاعات شخصی حساس در تعاملات برای آموزش مدلها بدون مبنای قانونی یا رضایت جداگانه استفاده کنند. اقدامات حفاظتی اضافی برای اطلاعات شخصی کودکان زیر ۱۴ سال اعمال میشود.
بنابراین، آخرین پیشنهادها به چارچوب نظارتی میافزایند که به طور فزایندهای در مورد نحوه تعامل همراهان هوش مصنوعی با کاربران آسیبپذیر خاص میشود. پیشنویس قوانین دسامبر ۲۰۲۵ چین پیش از این رضایت والدین را برای خدمات همراهی عاطفی ارائه شده به خردسالان، سیستمهای شناسایی سن، کنترل والدین و مکانیسمهایی برای محدود کردن استفاده و هزینه پیشنهاد کرده بود.
بحث گستردهتر در مورد همراهان هوش مصنوعی و کودکان
این پیشرفت در حالی رخ میدهد که همراهان هوش مصنوعی پیچیدهتر میشوند و به طور فزایندهای قادر به حفظ مکالمات طولانی مدت و تعاملات شخصیسازی شده هستند. برخلاف ابزارهای جستجوی معمولی یا ابزارهای بهرهوری، این سرویسها میتوانند برای شبیهسازی شخصیت، حمایت عاطفی و روابط اجتماعی طراحی شوند و سوالات جدیدی را در مورد استفاده کودکان از این فناوری مطرح کنند.
قانونگذاران چین صراحتاً وابستگی عاطفی را به عنوان حوزهای که نیاز به مداخله دارد، شناسایی کردهاند. اداره فضای مجازی این کشور اعلام کرد که هوش مصنوعی انساننما میتواند مزایایی مانند حمایت عاطفی و همراهی را فراهم کند، اما خطراتی را نیز برای رفاه حال خردسالان، امنیت اطلاعات، سلامت شخصی و استانداردهای اخلاقی ایجاد میکند.
بحث گستردهتر در مورد همراهان هوش مصنوعی و کودکان
این پیشرفت در حالی رخ میدهد که همراهان هوش مصنوعی پیچیدهتر میشوند و به طور فزایندهای قادر به حفظ مکالمات طولانی مدت و تعاملات شخصیسازی شده هستند. برخلاف ابزارهای جستجوی معمولی یا ابزارهای بهرهوری، این سرویسها میتوانند برای شبیهسازی شخصیت، حمایت عاطفی و روابط اجتماعی طراحی شوند و سوالات جدیدی را در مورد استفاده کودکان از این فناوری مطرح کنند.
قانونگذاران چین صراحتاً وابستگی عاطفی را به عنوان حوزهای که نیاز به مداخله دارد، شناسایی کردهاند. اداره فضای مجازی این کشور اعلام کرد که هوش مصنوعی انساننما میتواند مزایایی مانند حمایت عاطفی و همراهی را فراهم کند، اما خطراتی را نیز برای رفاه حال خردسالان، امنیت اطلاعات، سلامت شخصی و استانداردهای اخلاقی ایجاد میکند.
