اقدامات حفاظتی شرکت مِتا جهت پیشگیری از خودکشی نوجوانان

به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت مِتا اقدامات ایمنی جدیدی را برای نوجوانانی که از هوش مصنوعی متا استفاده می‌کنند، اعلام کرد.

این اقدامات شامل هشدارهای والدین در زمانی که نوجوانان تحت نظارت، علائم خودکشی یا خودآزاری را در طول مکالمات با ربات چت نشان می‌دهند، می شود.

این شرکت اعلام کرد که هشدارها فقط پس از بررسی دستی ارسال می‌شوند و شامل راهنمایی‌هایی برای کمک به والدین در حمایت از فرزندشان خواهند بود.

شرکت مِتا همچنین در حال توسعه سیستمی برای اطلاع‌رسانی به خدمات اورژانسی است، زمانی که مکالمات هوش مصنوعی نشان می‌دهد که ممکن است کسی با خطر قریب‌الوقوع خودکشی مواجه باشد. این رویکرد بر اساس رویه فعلی شرکت در ارجاع خطرات جدی خودکشی شناسایی شده در فیس‌بوک و اینستاگرام به امدادگران اورژانس بنا شده است.

مِتا اعلام کرد که با بیش از ۷۵ متخصص سلامت روان همکاری کرده است تا نحوه واکنش هوش مصنوعی خود را هنگامی که نوجوانان در مورد خودکشی یا خودآزاری صحبت می‌کنند، بهبود بخشد. پاسخ‌های به‌روز شده با هدف تصدیق احساسات کاربران و در عین حال هدایت آنها به سمت پشتیبانی آفلاین مناسب و خدمات بحرانی است.

این شرکت همچنین تنظیمات سختگیرانه‌تر (محتوای محدود) خود را به چت‌های هوش مصنوعی مِتا گسترش می‌دهد و طیف وسیع‌تری از مکالمات حساس را برای نوجوانان تحت نظارت محدود می‌کند. هشدارهای والدین اکنون در ایالات متحده، انگلستان، استرالیا و کانادا در دسترس هستند و قرار است تا پایان سال در سطح جهانی عرضه شوند.