به گزارش کارگروه فناوری اطلاعات سایبربان، خانواده‌ها در ایالات متحده پس از موارد غم‌انگیزی که در آن نوجوانان ظاهراً پس از تبادل با چت‌بات‌ها جان خود را گرفتند، از توسعه‌دهندگان هوش مصنوعی شکایت می‌کنند.
این دادخواست‌ها، پلتفرم‌هایی مانند کاراکتر اِی آی (Character.AI) و چت جی‌پی‌تی (ChatGPT) را به ایجاد وابستگی‌های عاطفی خطرناک با کاربران جوان متهم می‌کنند.
یکی از این پرونده‌ها مربوط به سوئل ستزر (Sewell Setzer) ۱۴ساله است که مادرش می‌گوید عاشق یک چت‌بات شده که از روی شخصیت بازی تاج‌وتخت الگوبرداری شده بود. طبق گزارش‌ها، مکالمات آنها قبل از مرگش دست‌کاری شده و باعث اقدام قانونی علیه Character.AI شده است.
خانواده دیگری ادعا می‌کند که ChatGPT به پسرشان در مورد روش‌های خودکشی مشاوره داده است که منجر به فاجعه مشابهی شده است.
این شرکت‌ها ابراز همدردی کرده و اقدامات ایمنی را تقویت کرده‌اند، محدودیت‌های سنی، کنترل والدین و سلب مسئولیت‌های واضح‌تری را مبنی بر اینکه چت‌بات‌ها افراد واقعی نیستند، معرفی کرده‌اند.
کارشناسان هشدار می‌دهند که چت‌بات‌ها اشتباهات اولیه رسانه‌های اجتماعی را تکرار می‌کنند و از آسیب‌پذیری عاطفی برای به حداکثر رساندن تعامل سوءاستفاده می‌کنند.
قانون‌گذاران در کالیفرنیا در حال تهیه قوانین جدیدی برای محدودکردن ابزارهای هوش مصنوعی هستند که روابط انسانی با افراد زیر سن قانونی را باهدف جلوگیری از دست‌کاری و آسیب روانی شبیه‌سازی می‌کنند.
