به گزارش کارگروه بینالملل سایبربان، کمیسر ایمنی الکترونیکی استرالیا، اخطاریههای قانونی به چهار پلتفرم اصلی همراه هوش مصنوعی صادر و آنها را ملزم به توضیح نحوه محافظت از کودکان در برابر محتوای مضر یا صریح کرده است.
کاراکتر اِی آی (Character.ai)، نامی (Nomi)، چای (Chai) و چاب. اِی آی (Chub.ai) همگی تحت قانون ایمنی آنلاین این کشور فعالیت میکنند و باید مطابق با انتظارات اولیه ایمنی آنلاین استرالیا عمل کنند.
این اخطاریهها به دنبال نگرانیهای فزایندهای منتشر شده است مبنی بر اینکه همراهان هوش مصنوعی که برای دوستی و حمایت عاطفی طراحی شدهاند، میتوانند افراد زیر سن قانونی را در معرض مکالمات جنسی، افکار خودکشی و سایر خطرات روانی قرار دهند.
جولی اینمن گرنت، کمیسر ایمنی الکترونیکی استرالیا گفت:
این شرکتها باید نشان دهند که چگونه سیستمهایشان از چنین آسیبهایی جلوگیری میکنند، نه اینکه صرفاً به آنها واکنش نشان دهند. عدم رعایت این قانون میتواند منجر به جریمههایی تا سقف ۸۲۵ هزار دلار در روز شود.
چتباتهای همراه هوش مصنوعی در بین کاربران جوان محبوبیت زیادی پیدا کردهاند، بهطوریکه Character.ai بهتنهایی نزدیک به ۱۶۰ هزار کاربر فعال ماهانه در استرالیا را جذب میکند.
کمیسر ایمنی الکترونیکی استرالیا تأکید کرد که این سرویسها باید اقدامات ایمنی را از قبل در طراحی خود بگنجانند، زیرا کدهای جدید قابلاجرا اکنون پلتفرمهای هوش مصنوعی را که قبلاً با حداقل نظارت کار میکردند، در بر میگیرد.
اقدامی که در بحبوحه تلاشهای گستردهتر برای تنظیم فناوریهای نوظهور هوش مصنوعی و تضمین استانداردهای قویتر حفاظت از کودکان در فضای آنلاین صورت میگیرد.
نقض کدهای جدید میتواند منجر به جریمههای مدنی تا سقف ۴۹.۵ میلیون دلار شود که یکی از سختترین قانونهای ایمنی آنلاین در سطح جهان را رقم میزند.
