به گزارش کارگروه بینالملل سایبربان، دادستان کل فلوریدا در چارچوب شکایتی که شرکت اوپناِیآی (OpenAI) را به آسیبرساندن به کودکان متهم میکند، از قاضی پرونده خواست تا این شرکت را از توسعه مدلهای جدید هوش مصنوعی بدون نظارت نهادهای بیرونی منع کند.
فلوریدا در ماه ژوئن از اوپناِیآی شکایت کرد و این شرکت را به ارائه اطلاعات نادرست درباره ایمنی چتجیپیتی (ChatGPT) متهم ساخت؛ در این شکایت آمده است که این پلتفرم با ارائه اطلاعات به عاملان تیراندازی در مدارس، دادن راهنمایی درباره خودآزاری و ایجاد اعتیاد در کاربران جوان، به کودکان آسیب رسانده است.
جیمز اوتمایر، دادستان کل فلوریدا، در لایحه روز دوشنبه همچنین از دادگاه خواست تا به شرکت اوپناِیآی دستور دهد دسترسی افراد زیر سن قانونی به ChatGPT را مسدود کند و این شرکت را از نسبتدادن ویژگیهای انسانی به پلتفرم چت خود منع نماید.
درو پوساتری، سخنگوی OpenAI، در بیانیهای اعلام کرد که این شرکت آموزش توانمندترین مدلهای خود را متوقف کرده است و تا زمانی که تدابیر حفاظتی بیشتری برای آنها در نظر گرفته نشود، این روند را از سر نخواهد گرفت.
پوساتری گفت:
دولتها نقش مهمی در تعیین استانداردهای ایمنی مستحکم برای هوش مصنوعی ایفا میکنند و ما متعهد هستیم که با فلوریدا و سایر ایالتها برای پیشبرد سیاستهای عملگرایانه در حوزه هوش مصنوعی همکاری کنیم؛ سیاستهایی که شامل کل صنعت هوش مصنوعی شود، نهفقط یک شرکت خاص.
این پرونده به اظهارات اخیر یکی از کارمندان سابق OpenAI و یکی از اعضای فعلی هیئتمدیره این شرکت اشاره میکند که ادعا میکند توسعه هوش مصنوعی میتواند به پایان بشریت منجر شود و باید سرعت آن کاهش یابد.
فلوریدا در پرونده روز دوشنبه نوشت:
متهمان ادعا میکنند که نمیتوانند از پیشروی سریع تلاشهای بالقوه مخرب تمدن خود دست بردارند، مگر اینکه دولت آنها را مجبور به انجام این کار کند. آنها از دولت خواستهاند که آنها را به دکل ببندد.
اوتمایر، جمهوریخواه، اولین دادستان کل ایالتی است که از OpenAI به دلیل تأثیر آن بر کاربران جوان شکایت میکند. این شرکت همچنین با دعاوی مطرح شده توسط افراد و خانوادههایی روبرو است که میگویند ChatGPT باعث شده است که مردم به خود یا دیگران آسیب برسانند.
دادخواست فلوریدا پس از تیراندازی در دانشگاه تالاهاسی در سال گذشته و تعدادی از رویدادها در ایالتهای دیگر مطرح شد که در آنها گفته میشود ChatGPT اطلاعاتی را در اختیار افرادی قرار داده است که مرتکب اعمال خشونتآمیز شدهاند.
این شرکت مسئولیت خود در آن موارد را رد کرده و اعلام داشته است که چتبات مذکور اطلاعاتی را ارائه میدهد که به طور گسترده در اینترنت در دسترس است، و همچنین تأکید کرده که همچنان به بهروزرسانی ابزارهای ایمنی خود ادامه میدهد.
شرکت OpenAI و سایر شرکتهای فعال در حوزه هوش مصنوعی نیز با پرسشهایی درباره نوع مسئولیت احتمالی خود در قبال حملات ناشی از رفتارهای خودسرانه یا مخرب مدلهایشان مواجه هستند؛ بهویژه در شرایطی که گزارشهایی مبنی بر تلاش برای هک کردن وبسایتهای نهادهای دولتی و شرکتها توسط این مدلها منتشر شده است.
