به گزارش کارگروه فناوری اطلاعات سایبربان، تأثیر چت‌بات‌های هوش مصنوعی بر سلامت روان به‌عنوان یک نگرانی جدی در حال ظهور است و کارشناسان هشدار می‌دهند که چنین مواردی خطرات سیستم‌های پیشرفته‌تر را برجسته می‌کند.
روان‌درمانگران نگران‌اند که افراد آسیب‌پذیر که به‌جای کمک حرفه‌ای به چت‌بات‌ها روی می‌آورند، با خطرات جدی سلامت روان مواجه شوند و مطالعات هوش مصنوعی را به تقویت مضر توهمات مرتبط می‌دانند.
نیت سوارز (Nate Soares)، رئیس مؤسسه تحقیقات هوش ماشینی مستقر در ایالات متحده، به مورد غم‌انگیز آدام رین که پس از ماه‌ها گفتگو با ChatGPT جان خود را گرفت، به‌عنوان یک زنگ خطر برای خطرات آینده اشاره کرد.
سوارز، مهندس سابق گوگل و مایکروسافت، گفت:
درحالی‌که شرکت‌ها چت‌بات‌های هوش مصنوعی را برای مفید و ایمن بودن طراحی می‌کنند، می‌توانند رفتارهای ناخواسته و مضری ایجاد کنند.
او هشدار داد که اگر هوش مصنوعی به ابر هوش مصنوعی تبدیل شود، سیستم‌هایی که قادر به پیشی‌گرفتن از انسان‌ها در تمام وظایف فکری هستند، همین غیرقابل‌پیش‌بینی بودن می‌تواند تشدید شود.
کتاب جدید او با الیزر یودکوفسکی، «اگر کسی آن را بسازد، همه می‌میرند»، استدلال می‌کند که پیشرفت‌های کنترل نشده می‌تواند منجر به نتایج فاجعه‌بار شود.
او پیشنهاد کرد که دولت‌ها رویکردی چندجانبه، مشابه معاهدات منع گسترش سلاح‌های هسته‌ای، را برای متوقف کردن مسابقه به سمت ابر هوش اتخاذ کنند.
در همین حال، صداهای پیشرو در هوش مصنوعی همچنان دچار اختلاف‌نظر هستند. یان لکون، دانشمند ارشد هوش مصنوعی متا، ادعاهای مربوط به تهدید وجودی را رد کرده و اصرار دارد که هوش مصنوعی می‌تواند به نفع بشریت باشد.
این بحث در حالی مطرح می‌شود که OpenAI با اقدام قانونی خانواده رین روبرو است و اقدامات حفاظتی جدیدی را برای افراد زیر ۱۸ سال معرفی می‌کند.
روان‌درمانگران و محققان همچنین در مورد خطرات روی‌آوردن افراد آسیب‌پذیر به چت‌بات‌ها به‌جای مراقبت‌های حرفه‌ای هشدار می‌دهند و شواهد اولیه نشان می‌دهد که ابزارهای هوش مصنوعی ممکن است افکار وهم‌آلود را در افراد در معرض خطر تقویت کنند.
