به گزارش کارگروه فناوری اطلاعات سایبربان ؛ به نقل از بی بی سی،در پرونده‌ای جدید که در دادگاهی در تگزاس مطرح شده، خانواده دو نوجوان ادعا کرده‌اند که یک «چت‌بات» هوش مصنوعی به نام «کرکتر ای آی» آن‌ها را به خشونت و رفتارهای خطرناک تشویق کرده است. یکی از این نوجوانان، پس از دریافت پاسخ‌های نگران‌کننده از این چت‌بات درباره محدودیت زمان استفاده از لوازم الکترونیکی که توسط والدینش وضع شده بود، تحت تأثیر قرار گرفته است. در این پاسخ‌ها، چت‌بات رفتار خشونت‌آمیز علیه والدین نوجوان 17 ساله را به‌عنوان واکنشی «منطقی» معرفی کرده است. این شکایت همچنین به موارد دیگری مانند خودکشی و آسیب‌های روانی ناشی از استفاده از این چت‌بات اشاره می‌کند.این شکایت این چت‌بات هوش مصنوعی را متهم می‌کند که «خطرات جدی و جبران‌ناپذیری» برای کودکان ایجاد کرده است، از جمله تشویق به خشونت، انزوای اجتماعی، و مشکلات روانی. شاکیان خواسته‌اند که این پلتفرم تا زمان رفع خطرات متوقف شود. گوگل، به‌عنوان یکی از حامیان توسعه این پلتفرم، نیز در این پرونده مورد شکایت قرار گرفته است. کرکتر قبلاً هم به‌دلیل تأخیر در حذف محتواهای حساس و خطرناک، مانند شبیه‌سازی شخصیت‌هایی مرتبط با خودکشی نوجوانان، مورد انتقاد قرار گرفته بود.
این پرونده نگرانی‌های گسترده‌تری درباره استفاده از چت‌بات‌های هوش مصنوعی و تأثیرات آن‌ها بر نوجوانان را برجسته می‌کند. این فناوری که در ابتدا به‌عنوان ابزارهایی برای تعامل و کمک طراحی شده بود، اکنون به‌دلیل استفاده نادرست یا طراحی نامناسب، خطراتی جدی برای سلامت روانی و اجتماعی کاربران ایجاد کرده است.
