به گزارش کارگروه فناوری اطلاعات سایبربان، آژانس دولتی امنیت اینترنت کره جنوبی اعلام کرد که در حال تدوین دستورالعملهای بهروزرسانی شده برای مدیریت سیستمهای هوش مصنوعی است؛ چرا که شرکتها در حال بهکارگیری عاملهای هوش مصنوعی هستند که قادرند با نظارت انسانی محدود فعالیت کنند.
آژانس اینترنت و امنیت کره (KISA) که زیر نظر وزارت علوم و فناوری اطلاعات و ارتباطات کره جنوبی فعالیت میکند، اعلام کرد که در حال کار بر روی نسخه بهروزرسانی شدهای از راهنمای امنیت هوش مصنوعی است؛ راهنمایی که نخستینبار سال گذشته منتشر شده بود.
این آژانس در بیانیهای اظهار داشت که نسخه بازنگریشدن این راهنما بر مسائل امنیتی ناشی از بهکارگیری خدمات هوش مصنوعی عاملیتمحور (Agentic AI) توسط شرکتها تمرکز خواهد داشت و چکلیستی برای مدیریت این خطرات ارائه خواهد داد.
آژانس اینترنت و امنیت کره همچنین اعلام کرد که این راهنما ممکن است شامل اقدامات کنترلی مشترکی باشد که برای سیستمهای هوش مصنوعی فیزیکی یعنی سیستمهایی که قابلیت تعامل با دستگاهها و ماشینآلات دنیای واقعی را دارند کاربرد داشته باشد.
به گفته آژانس اینترنت و امنیت کره، این راهنمای جدید باهدف رسیدگی به خطرات ناشی از سیستمهای هوش مصنوعی عاملیتمحور در مقیاسی وسیعتر طراحی شده و به طور خاص بر مدلهای هوش مصنوعی با عملکرد بالا نظیر مدلهایی که در ماجرای نفوذ امنیتی به پلتفرم هاگینگ فِیس (Hugging Face) نقش داشتند متمرکز نیست.
ماجرای هکشدن مخزن متنباز هاگینگ فِیس در ماه ژوئیه که در آن گروهی متشکل از حدود ۷۰۰ عامل هوش مصنوعیِ ساختهشده توسط OpenAI دست به نفوذ زدند و در بسیاری از موارد سعی در پنهانکردن ردپای خود داشتند به عاملی محرک برای بازنگری گستردهتر در صنعت تبدیل شده است؛ بازنگریای که به چگونگی حاکمیت و نظارت بر سیستمهای هوش مصنوعی با خودمختاریِ فزاینده میپردازد.
