به گزارش کارگروه فناوری اطلاعات سایبربان، استفاده روزافزون از چت‌بات‌ها و ابزارهای هوش مصنوعی در میان کودکان، نگرانی‌های ایمنی را افزایش داده است و کارشناسان نسبت به محافظت ناکافی و خطرات عاطفی احتمالی هشدار داده‌اند.
این برنامه‌ها که اغلب برای کاربران جوان طراحی نشده‌اند، فاقد ویژگی‌های کافی برای تأیید سن و تعدیل هستند و آنها را به فضاهایی آسیب‌پذیر برای کودکان تبدیل می‌کنند.
کمیسر ایمنی الکترونیکی خاطرنشان کرد که بسیاری از کودکان، ساعت‌ها با ابزارهای هوش مصنوعی کار و گاهی اوقات در مورد موضوعاتی مانند سلامت روان و رابطه جنسی بحث می‌کنند.
مطالعات در استرالیا و بریتانیا نشان می‌دهد که تعامل بالایی وجود دارد و بسیاری از کاربران جوان، چت‌بات‌ها را به‌عنوان دوستان واقعی و منابع مشاوره عاطفی می‌بینند.
کارشناسان، از جمله پروفسور تاما لیور، هشدار می‌دهند که این سیستم‌ها از نظر طراحی دست‌کاری شده و برای درگیر نگه‌داشتن کاربران بدون تضمین پاسخ‌های مناسب یا صادقانه ساخته شده‌اند.
باوجود این نگرانی‌ها، ابتکاراتی مانند روز هوش مصنوعی استرالیا، سواد دیجیتالی را ترویج می‌دهند تا به جوانان کمک کنند تا چنین فناوری‌هایی را به طور انتقادی درک و هدایت کنند.
سازمان‌هایی مانند یونیسف می‌گویند که هوش مصنوعی در صورت استفاده ایمن می‌تواند مزایای آموزشی قابل‌توجهی ارائه دهد. بااین‌حال، آنها تأکید می‌کنند که استرالیا باید ایمنی دیجیتال دوران کودکی را جدی‌تر بگیرد، زیرا هوش مصنوعی به‌سرعت نحوه تعامل، یادگیری و معاشرت جوانان را تغییر می‌دهد.
