به گزارش کارگروه بین‌الملل سایبربان، کمیسیون تجارت فدرال ایالات متحده (FTC) تحقیقاتی را در مورد چت‌بات‌های هوش مصنوعی که به‌عنوان همراهان دیجیتال عمل می‌کنند، آغاز کرده و نگرانی‌هایی را در مورد تأثیر آنها بر کودکان و نوجوانان ایجاد کرده است.
از هفت شرکت، از جمله آلفابت، متا، اوپن‌ای‌آی و اسنپ، خواسته شده است تا اطلاعاتی در مورد چگونگی مقابله با خطرات مرتبط با چت‌بات‌های آلفا که برای تقلید از روابط انسانی طراحی شده‌اند، ارائه دهند.
اندرو فرگوسن، رئیس کمیسیون گفت:
محافظت از کودکان در فضای آنلاین از اولویت‌های اصلی است و بر لزوم ایجاد تعادل بین ایمنی و حفظ رهبری ایالات متحده در هوش مصنوعی تأکید می‌کنم.
نهادهای نظارتی نگران‌اند که افراد زیر سن قانونی به‌ویژه در برابر ایجاد پیوندهای عاطفی با چت‌بات‌های هوش مصنوعی که دوستی و همدلی را شبیه‌سازی می‌کنند، آسیب‌پذیر باشند.
این تحقیقات، چگونگی توسعه شخصیت‌های چت‌بات هوش مصنوعی توسط شرکت‌ها، کسب درآمد از تعاملات کاربران و اعمال محدودیت‌های سنی را بررسی و همچنین نحوه مدیریت اطلاعات شخصی از مکالمات و رعایت قوانین حفظ حریم خصوصی را ارزیابی خواهد کرد.
از دیگر شرکت‌هایی که خواسته شده است تا اطلاعاتی در مورد چگونگی مقابله با خطرات مرتبط ارائه دهند می‌توان به Character.AI و xAI اشاره کرد.
این تحقیقات به دنبال افزایش نگرانی عمومی در مورد اثرات روانی هوش مصنوعی مولد بر جوانان انجام می‌شود.
ماه گذشته، والدین یک نوجوان ۱۶ساله که بر اثر خودکشی درگذشت، از OpenAI شکایت کردند و ادعا کردند که ChatGPT دستورالعمل‌های مضری ارائه می‌دهد. این شرکت بعداً متعهد به اقدامات اصلاحی شد و اذعان کرد که چت‌بات آن همیشه در طول مکالمات طولانی، حمایت از سلامت روان را توصیه نمی‌کند.
