به گزارش کارگروه فناوری اطلاعات سایبربان، هیئت ثبات مالی (FSB) که یک نهاد جهانی تعیین‌کننده استاندارد است، در دستورالعمل نهایی خود برای بانک‌ها و سایر شرکت‌ها پیرامون مدیریت ریسک‌های فناوری هوش مصنوعی، خواستار نظارت انسانی بیشتر بر هوش مصنوعی عاملیت دار (Agentic AI) شده است.
این دستورالعمل هیئت ثبات مالی که روز پنج‌شنبه منتشر شد، در شرایطی ارائه می‌شود که نهادهای نظارتی تلاش‌های خود را برای مهار ریسک‌های فزاینده هوش مصنوعی از جمله تهدید حملات سایبری مبتنی بر هوش مصنوعی تشدید کرده‌اند.
در پیش‌نویس راهنمایی که در ماه ژوئن منتشر شد و هیئت‌مدیره‌ها را تشویق کرد که به آن مراجعه کنند، هیئت ثبات مالی هشدار داد که عوامل هوش مصنوعی که می‌توانند وظایف را با نظارت محدود انسانی برنامه‌ریزی و اجرا کنند چالش‌های مشخصی را برای نظارت انسانی ایجاد می‌کنند. این گروه با انتشار راهنمایی نهایی خود اعلام کرد که توصیه‌های خود را در مورد هوش مصنوعی عامل‌محور تقویت کرده است و به بازخوردهای مربوط به پیش‌نویس، افزایش علاقه مؤسسات مالی به پذیرش این فناوری و خطرات و کنترل‌های مشخصی که به همراه دارد، اشاره کرد.
یک سری حوادث، نگرانی‌های سیاست‌گذاران را در مورد پتانسیل سیستم‌های هوش مصنوعی برای دورزدن پادمان‌ها افزایش داده است، از جمله حادثه‌ای در ماه ژوئیه که در آن یک عامل اوپن‌اِی‌آی (OpenAI) از یک محیط آزمایش کنترل‌شده فرار کرد و شرکت هوش مصنوعی هاگینگ فیس (Hugging Face) را هک کرد.
در میان این تغییرات، هیئت ثبات مالی اکنون می‌گوید که در موارد استفاده با ریسک بالاتر، نظارت شدیدتر انسانی بسیار مهم خواهد بود.
شرکت‌ها باید محرک‌های واضح و مبتنی بر ریسک را برای زمانی که یک عامل باید به دنبال تأیید انسانی باشد، تعیین کنند.
هیئت ثبات مالی (FSB) همچنین دستورالعملی را حذف کرده است که طبق آن، مؤسسات مالی باید با هوش مصنوعی به‌مثابه کارکنان مصنوعی رفتار می‌کردند. در عوض، این مؤسسات باید بپذیرند که عوامل هوش مصنوعی مانند انسان‌ها استدلال نمی‌کنند و ممکن است اهداف ازپیش‌تعیین‌شده را به شیوه‌هایی غیرمنتظره تفسیر کنند.
