به گزارش کارگروه فناوری اطلاعات سایبربان، یک نقص امنیتی، هزاران گزارش چت اسباببازیهای هوش مصنوعی کودکان را افشا کرد و نگرانیهای جدی در مورد حفاظت از دادهها و ایمنی را برجسته ساخت.
افشای بیش از ۵۰ هزار لاگ چت کودکان توسط شرکت اسباببازی هوش مصنوعی بوندو (Bondu)، شکافهای جدی در حفاظت از دادههای کودکان ایجاد کرده است. اطلاعات شخصی حساس، از جمله نام، تاریخ تولد و جزئیات خانواده، از طریق یک پورتال والدینی با امنیت ضعیف قابلدسترس بود و نگرانیهای فوری در مورد حریم خصوصی و ایمنی کودکان را برانگیخت.
این حادثه، فقدان استانداردهای امنیتی اجباری برای محصولات هوش مصنوعی مخصوص کودکان را برجسته میکند، چرا که حفاظهای ضعیف، امکان دسترسی غیرمجاز را فراهم کرده و کاربران آسیبپذیر را در معرض خطرات جدی قرار میدهد.
فراتر از نقص خاص، این پرونده نگرانیهای گستردهتری را در مورد اسباببازیهای هوش مصنوعی مورداستفاده کودکان ایجاد میکند. محققان هشدار دادند که دادههای افشا شده ممکن است مورد سوءاستفاده قرار گیرند و این امر درخواستها برای وضع قوانین سختگیرانهتر و نظارت دقیقتر بر سیستمهای هوش مصنوعی طراحی شده برای خردسالان را تقویت میکند.
نگرانیها همچنین به شفافیت در مورد مدیریت دادهها و زنجیرههای تأمین هوش مصنوعی گسترش مییابد. عدم اطمینان در مورد اینکه آیا دادههای کودکان با ارائهدهندگان مدل هوش مصنوعی شخص ثالث به اشتراک گذاشته شده است یا خیر، به نیاز به قوانین واضحتر در مورد جریان دادهها، پاسخگویی و رضایت در اکوسیستمهای هوش مصنوعی اشاره دارد.
در نهایت، این حادثه به بحثهای سیاسی در مورد محدود کردن یا توقف فروش اسباببازیهای تعاملی هوش مصنوعی شتاب بخشیده است. قانونگذاران به طور فزایندهای در حال بررسی اقدامات احتیاطی هستند، درحالیکه چارچوبهای ایمنی هوش مصنوعی قویتر با تمرکز بر کودکان درحالتوسعه هستند.
