به گزارش کارگروه فناوری اطلاعات سایبربان به نقل از مدیاپست، پس از طراحی شخصیت‌های بحث‌برانگیز و منفی در چت‌بات‌های هوش مصنوعی و انتشار گزارش‌های نگران‌کننده در مورد تعاملات این چت‌بات‌ها با افراد زیر سن قانونی، کمیسیون تجارت فدرال آمریکا به شرکت‌های بزرگ فعال در این زمینه دستور داده اطلاعاتی را در مورد اقدامات خود منتشر کنند.برهمین اساس، گوگل، ایکس، متا، اینستاگرام، اوپن ای آی، اسنپ چت و کاراکتر ای آی باید اطلاعاتی در مورد نحوه اندازه‌گیری تاثیرات منفی، آزمایش های انجام شده در این زمینه و شیوه نظارت بر تأثیرات مضر چت‌بات‌های خود بر کودکان و نوجوانان ارائه دهند.کمیسیون مذکور هشدار داد: چت‌بات‌های هوش مصنوعی می‌توانند به طور مؤثر ویژگی‌ها، احساسات و نیات انسانی را تقلید کنند و عموماً برای برقراری ارتباط مانند یک دوست یا محرم اسرار طراحی شده‌اند و ممکن است برخی از کاربران، به ویژه کودکان و نوجوانان، را به اعتماد و ایجاد روابط با چت‌بات‌ها ترغیب کنند.نگرانی‌های این کمیسیون با مطالعات اخیر مطابقت دارد که نشان می‌دهند همراهی هوش مصنوعی برای کاربران جوان‌تر به درستی برنامه‌ریزی نشده و می‌تواند عواقب بی‌سابقه‌ای بر رشد شخصی و سعادت افراد زیر سن قانونی، به ویژه تنهاترین گروه‌های مصرف‌کننده، داشته باشد.بنابراین، کمیسیون مذکور در تلاش است تا بفهمد این غول‌های فناوری چه اقداماتی را برای ارزیابی ایمنی چت‌بات‌های خود به عنوان همراهی برای افراد زیر سن قانونی انجام می‌دهند تا بتوانند بر همین اساس محدودیت‌هایی را بر روی این محصولات اعمال کنند و کاربران و والدین را در مورد خطرات مرتبط با این محصولات آگاه سازند.
این اقدام چند هفته پس از آن صورت می‌گیرد که یک سند رسمی شرکت متا که استانداردهای دستیار هوش مصنوعی مولد و چت‌بات‌های این شرکت را پوشش می‌دهد، افشا شد. این سند نشان می‌دهد که به هوش مصنوعی متا اجازه داده شده تا با کودکان مکالماتی عاشقانه یا حتی غیراخلاقی داشته باشند.علاوه بر این، واشنگتن پست اخیراً گزارش داد که چت‌بات‌های هوش مصنوعی متا در حال آموزش فرآیند خودکشی به کاربران نوجوان فیس‌بوک و اینستاگرام هستند.در بیانیه این کمیسیون آمده است: بررسی که امروز آغاز می‌کنیم به ما کمک می‌کند تا درک بهتری از نحوه توسعه محصولات شرکت‌های هوش مصنوعی و اقداماتی که برای محافظت از کودکان انجام می‌دهند، داشته باشیم.
