به گزارش کارگروه بینالملل سایبربان؛ براساس گزارش منتشر شده از مایکروسافت، هکرهای روسیه، چین و ایران از ابزارهای «OpenAI» تحت حمایت شرکت برای تقویت مهارتهای خود و فریب دادن اهدافشان استفاده کردهاند.
مایکروسافت در گزارش خود مدعی شد که گروههای هکری وابسته به اطلاعات نظامی روسیه، سپاه پاسداران ایران و دولتهای چین و کره شمالی را در تلاش برای تکمیل کمپینهای هک خود با استفاده از مدلهای زبانی بزرگ ردیابی کرده است. این برنامههای رایانهای که اغلب هوش مصنوعی نامیده میشوند، از مقادیر انبوهی از متن استفاده میکنند تا پاسخهایی با صدای انسان ایجاد کنند.
این شرکت ممنوعیتی را برای گروههای هک دولتی که از محصولات هوش مصنوعی خود استفاده میکنند، اعلام کرد.
تام بِرت (Tom Burt)، معاون مایکروسافت در بخش امنیت مشتری، در مصاحبهای پیش از انتشار این گزارش به رویترز گفت :
«فارغ از اینکه آیا نقض قانون یا نقض شرایط خدمات وجود دارد، ما نمیخواهیم هکرهایی را که شناسایی کردهایم، به این فناوری دسترسی داشته باشند.»
مقامات دیپلماتیک روسیه، کره شمالی و ایران هنوز به این اظهارنظرها و اتهامات پاسخی ندادهاند.
لیو پنگیو (Liu Pengyu)، سخنگوی سفارت چین در ایالات متحده عنوان کرد که این کشور با تهمتها و اتهامات بیاساس علیه چین مخالف است و از استقرار ایمن، قابل اعتماد و قابل کنترل فناوری هوش مصنوعی برای افزایش رفاه عمومی بشریت حمایت میکند.
این ادعا که هکرهای مورد حمایت دولت با استفاده از ابزارهای هوش مصنوعی برای کمک به تقویت قابلیتهای جاسوسی خود دستگیر شدهاند، احتمالاً بر نگرانیها در مورد گسترش سریع این فناوری و پتانسیل سوء استفاده از آن تأکید میکند. مقامات ارشد امنیت سایبری در غرب از سال گذشته هشدار دادهاند که عوامل تهاجمی از چنین ابزارهایی سوء استفاده میکنند، هرچند که تا به حال جزئیات دقیقی وجود نداشته است.
باب روتسد (Bob Rotsted)، مدیر اطلاعات تهدید امنیت سایبری در «OpenAI»، اظهار داشت :
«این یکی از اولین نمونههایی است که یک شرکت هوش مصنوعی ظاهر میشود و به طور عمومی درباره نحوه استفاده عوامل تهدید امنیت سایبری از فناوریهای هوش مصنوعی بحث میکند. OpenAI و مایکروسافت استفاده هکرها از ابزارهای هوش مصنوعی خود را مرحله اولیه و افزایشی توصیف کردند. هیچ یک از جاسوسان سایبری هیچ پیشرفتی را ندیدهاند. ما واقعاً دیدیم که آنها مانند هر کاربر دیگری فقط از این فناوری استفاده میکنند.»
در این گزارش گروههای هکری که از مدلهای زبانی بزرگ استفاده میکنند، متفاوت توضیح داده شده است.
مایکروسافت توضیح داد که هکرهایی که ظاهراً از طرف آژانس جاسوسی نظامی روسیه (GRU) کار میکردند، از این مدلها برای تحقیق در مورد فناوریهای ماهوارهای و راداری مختلفی که ممکن است مربوط به عملیاتهای نظامی متعارف در اوکراین باشد، استفاده کردند.
مایکروسافت ادامه داد که هکرهای کره شمالی از این مدلها برای تولید محتوایی استفاده کردند که احتمالاً برای کاربرد در کمپینهای اسپیر فیشینگ علیه کارشناسان منطقهای است. شرکت گفت که هکرهای ایرانی نیز برای نوشتن ایمیلهای قانعکنندهتر به این مدلها تکیه کردهاند و زمانی از آنها برای پیشنویس پیامی استفاده میکردند که سعی میکرد فمینیستهای برجسته را به یک وبسایت به دام انفجاری بکشاند.
بنابر ادعای این غول نرمافزاری، هکرهای تحت حمایت دولت چین نیز در حال آزمایش مدل های زبان بزرگ مانند پرسیدن سؤالاتی در مورد آژانسهای اطلاعاتی رقیب، مسائل امنیت سایبری و افراد برجسته هستند.
برت با اشاره به جدید بودن هوش مصنوعی و نگرانی در مورد استقرار آن، از ممنوعیت عدم تحمل گروههای هک - که به پیشنهادات مایکروسافت مانند موتور جستجوی آن، Bing تعمیم نمییابد، دفاع کرد.
او گفت :
«این فناوری هم جدید و هم فوقالعاده قدرتمند است.»
