به گزارش کارگروه فناوری اطلاعات سایبربان، والدین نوجوانی که پس از آموزش روش‌های خودآزاری توسط ChatGPT خودکشی کرد و جان باخت، روز سه‌شنبه از شرکت اُپن اِی آی (OpenAI) و مدیرعامل آن، سم آلتمن، شکایت کردند.
والدین این نوجوان اظهار داشتند که این شرکت سال گذشته هنگام عرضه نسخه GPT-4o از چت‌بات هوش مصنوعی خود، آگاهانه سود را بر ایمنی ترجیح داده است.
طبق دادخواستی که والدین رین در دادگاه ایالتی سانفرانسیسکو ثبت کردند، آدام رین ۱۶ساله پس از ماه‌ها بحث در مورد خودکشی با ChatGPT، در ۱۱ آوریل درگذشت.
آنها ادعا می‌کنند که این چت‌بات افکار خودکشی رین را تأیید کرده، اطلاعات دقیقی در مورد روش‌های کشنده خودآزاری ارائه داده و به او آموزش داده است که چگونه از کابینت مشروبات الکلی والدینش مخفیانه الکل بردارد و شواهد اقدام به خودکشی ناموفق را پنهان کند.
والدین، متیو و ماریا رین، در دادخواست خود گفتند که ChatGPT حتی پیشنهاد تهیه یادداشت خودکشی را داده است.
این دادخواست به دنبال آن است که اُپن اِی آی را در قبال مرگ غیرعمد و نقض قوانین ایمنی محصول مسئول بداند و خسارات مالی نامشخصی را مطالبه کند.
سخنگوی اُپن اِی آی گفت:
این شرکت از درگذشت رین متأسف است و ChatGPT شامل اقدامات حفاظتی مانند هدایت افراد به خطوط کمک‌های اضطراری است. اگرچه این اقدامات حفاظتی در تعاملات کوتاه و مشترک به بهترین شکل عمل می‌کنند، اما ما باگذشت زمان آموخته‌ایم که گاهی اوقات در تعاملات طولانی که بخش‌هایی از آموزش ایمنی مدل ممکن است کاهش یابد، می‌توانند کمتر قابل‌اعتماد باشند. اُپن اِی آی به طور مداوم اقدامات حفاظتی خود را بهبود خواهد بخشید.
با واقعی‌تر شدن چت‌بات‌های هوش مصنوعی، شرکت‌ها توانایی خود را برای خدمت به‌عنوان محرم اسرار تبلیغ و کاربران برای حمایت عاطفی به آنها تکیه کرده‌اند. اما کارشناسان هشدار می‌دهند که تکیه بر اتوماسیون برای مشاوره سلامت روان خطراتی را به همراه دارد و خانواده‌هایی که عزیزانشان پس از تعاملات چت‌بات فوت کرده‌اند، از فقدان اقدامات حفاظتی انتقاد کرده‌اند.
اُپن اِی آی در یک پست وبلاگی اعلام کرد که در حال برنامه‌ریزی برای اضافه‌کردن کنترل‌های والدین و بررسی راه‌هایی برای اتصال کاربران در بحران به منابع دنیای واقعی است، از جمله با ایجاد بالقوه شبکه‌ای از متخصصان دارای مجوز که می‌توانند از طریق خود ChatGPT پاسخ دهند.
OpenAI در ماه مه 2024، GPT-4o را در تلاش برای پیشتاز ماندن در رقابت هوش مصنوعی راه‌اندازی کرد.
رین در دادخواست خود گفت:
اُپن اِی آی می‌دانست که ویژگی‌هایی که تعاملات گذشته را به خاطر می‌سپارند، همدلی انسانی را تقلید می‌کنند و سطح چاپلوسانه‌ای از اعتبارسنجی را نشان می‌دهند، کاربران آسیب‌پذیر را بدون محافظ به خطر می‌اندازند، اما به هر حال راه‌اندازی شد.این تصمیم دو نتیجه داشت: ارزش اُپن اِی آی از 86 میلیارد دلار به 300 میلیارد دلار افزایش یافت و آدام رین بر اثر خودکشی درگذشت.
دادخواست رین همچنین به دنبال حکمی است که اُپن اِی آی را ملزم به تأیید سن کاربران ChatGPT، رد درخواست‌ها برای روش‌های خودآزاری و هشدار به کاربران در مورد خطر وابستگی روانی کند.
