به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، این خدمات برای شبیهسازی شخصیت انسانی طراحی شدهاند و با کاربران تعامل عاطفی برقرار میکنند.
این اقدام نشاندهنده تلاش پکن برای هدایت روند پرشتاب عرضه هوش مصنوعی مصرفمحور از طریق تقویت الزامات ایمنی و اخلاقی است.
بر اساس این پیشنویس، مقررات پیشنهادی شامل تمامی محصولات و خدمات هوش مصنوعی ارائهشده به عموم در چین میشود که ویژگیهای شبیهسازیشده شخصیت انسانی، الگوهای فکری و سبکهای ارتباطی را نمایش میدهند و از طریق متن، تصویر، صدا، ویدئو یا سایر ابزارها با کاربران بهصورت احساسی تعامل دارند.
در این پیشنویس، رویکردی مقرراتی ترسیم شده که ارائهدهندگان خدمات را ملزم میکند نسبت به استفاده بیشازحد به کاربران هشدار دهند و در صورت مشاهده نشانههای وابستگی یا اعتیاد، مداخله کنند.
مطابق این پیشنهاد، ارائهدهندگان خدمات موظف خواهند بود مسئولیتهای ایمنی را در تمام چرخه عمر محصول بر عهده بگیرند و سامانههایی برای بازبینی الگوریتمها، امنیت دادهها و حفاظت از اطلاعات شخصی ایجاد کنند.
این پیشنویس همچنین به ریسکهای بالقوه روانشناختی میپردازد.
از ارائهدهندگان انتظار میرود وضعیت کاربران را شناسایی کرده، احساسات آنان و میزان وابستگیشان به خدمات را ارزیابی کنند.
در صورتی که کاربران دچار احساسات افراطی یا رفتارهای اعتیادگونه شوند، ارائهدهندگان باید اقدامات لازم برای مداخله را انجام دهند.
در نهایت، این مقررات خطوط قرمز محتوایی و رفتاری مشخصی تعیین میکند و تصریح دارد که خدمات هوش مصنوعی نباید محتوایی تولید کنند که امنیت ملی را به خطر اندازد، شایعهپراکنی کند یا مشوق خشونت و ابتذال باشد.
