به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، به عقیده وی، خطر از دست رفتن کنترل سامانههای هوش مصنوعی، استفاده مخرب از آنها در حملات سایبری و زیستمحیطی و همچنین ایجاد اختلالات اقتصادی گسترده در حال افزایش است.
آمودی در مقالهای مفصل تأکید کرد که پیشرفت هوش مصنوعی همچنان بسیار سریع خواهد بود، اما کاهش سرعت توسعه میتواند فرصت بیشتری برای ایجاد سازوکارهای ایمنی و کنترل فراهم کند.
به گفته او، رقابت تجاری میان شرکتهای فناوری ممکن است آنها را به سمت توسعه هرچه سریعتر قابلیتهای مدلها سوق دهد و در نتیجه، خطرات این فناوری را تشدید کند.
مدیرعامل آنتروپیک بهویژه نسبت به پدیده «خودبهبود بازگشتی» هشدار داد؛ وضعیتی که در آن سامانههای هوش مصنوعی بهطور فزایندهای در ساخت نسلهای بعدی مدلها مشارکت میکنند.
او معتقد است این روند ممکن است در نهایت سرعت پیشرفت هوش مصنوعی را از توانایی انسان برای درک و کنترل آن فراتر ببرد و به همین دلیل باید با احتیاط زیادی دنبال شود.
آمودی همچنین هشدار داد که حوادثی مانند رویداد اخیر مرتبط با «اوپنایآی» و «هاگینگفیس» نباید صرفاً به دلیل محدود بودن خسارت اقتصادی نادیده گرفته شوند.
او پیشبینی کرد که با ادامه روند فعلی، ممکن است طی ۶ تا ۱۲ ماه آینده گروهی از عاملهای هوش مصنوعی بتوانند یک باتنت پایدار ایجاد کرده و بخش بزرگی از اینترنت را تحت کنترل خود درآورند.
او برای مدیریت این خطرات سه اقدام پیشنهاد کرد: استفاده از ارزیابهای مستقل با دسترسیهایی مشابه کارکنان شرکتها برای بررسی اقدامات ایمنی، همکاری شرکتهای پیشرو در تدوین استانداردهای مشترک ایمنی و افزایش هماهنگی میان دولتها.
سم آلتمن، مدیرعامل اوپنایآی، و ایلان ماسک، مدیرعامل اکسایآی، با این پیشنهادها موافقت کردهاند.
آلتمن اعلام کرد اوپنایآی نیز از ارزیابهای مستقل با دسترسی گسترده استفاده خواهد کرد.
این هشدارها در شرایطی مطرح شده که نگرانی در میان دانشمندان هوش مصنوعی افزایش یافته است.
جیکوب کاکسون، پژوهشگر مستعفی آنتروپیک، نیز هشدار داده بود شرکتهای هوش مصنوعی با سرعتی خطرناک به سوی ابرهوش خودبهبوددهنده حرکت میکنند.
همچنین یاکوب پاچوکی، دانشمند ارشد اوپنایآی، در مقالهای خواستار «احتیاط شدید» شده و هشدار داده بود ادامه رشد سریع هوش ماشینی میتواند پیامدهایی داشته باشد که جهان برای آن آماده نیست.
