هوش مصنوعی نظامی و خلأ پاسخگویی

 به گزارش کارگروه فناوری اطلاعات سایبربان، هوش مصنوعی در حال تغییر شکل میدان نبرد است و از سیستم‌های تحت کنترل انسان به فناوری‌های بسیار خودمختاری که تصمیمات مرگ و زندگی می‌گیرند، تغییر می‌کند.

 از پروژه ماون (Maven) ایالات متحده گرفته تا هدف‌گیری مبتنی بر هوش مصنوعی رژیم صهیونیستی در غزه و پهپادهای نیمه‌خودکار اوکراین، هوش مصنوعی نظامی دیگر یک مفهوم آینده‌نگرانه نیست، بلکه یک واقعیت کنونی است.

 درحالی‌که این سیستم‌ها برای بهبود دقت و کاهش خطرات طراحی شده‌اند، خطرات پنهانی را به همراه دارند. تصمیمات مبهم «جعبه سیاه»، سوگیری‌های ریشه‌دار در داده‌های ناقص و رفتار غیرقابل‌پیش‌بینی در موقعیت‌های پرفشار.

 اپراتورها یا به هوش مصنوعی بی‌اعتماد هستند یا بیش از حد به آن تکیه می‌کنند، گاهی اوقات بدون درک چگونگی دستیابی به نتایج که لایه جدیدی از خطر را در جنگ مدرن ایجاد می‌کند.

 سوگیری همچنان یک چالش حیاتی است. هوش مصنوعی می‌تواند تعصبات اجتماعی را از داده‌هایی که بر اساس آنها آموزش‌دیده است به ارث ببرد، الگوها را از طریق نقص‌های الگوریتمی اشتباه تفسیر کند، یا سوگیری اتوماسیون را تشویق کند، جایی که انسان‌ها حتی زمانی که نباید به خروجی‌های هوش مصنوعی اعتماد کنند.

 این نقص‌ها می‌توانند عواقب مخربی در زمینه‌های نظامی داشته باشند و منجر به هدف‌گیری نادرست یا تشدید درگیری شوند. علی‌رغم تلاش‌ها برای تضمین «کنترل معنادار انسانی» بر سلاح‌های خودمختار، این مفهوم فاقد وضوح است و به دولت‌ها و تولیدکنندگان اجازه می‌دهد نظارت را به طور ناموزون اعمال کنند.

 این عدم قطعیت به یک بحران امنیتی جهانی روبه‌رشد دامن می‌زند. مقررات از پیشرفت فناوری بسیار عقب مانده‌اند و مجامع بین‌المللی در مورد نحوه مدیریت هوش مصنوعی نظامی اختلاف‌نظر دارند.

 در همین حال، مسابقه تسلیحاتی هوش مصنوعی بین ایالات متحده و چین که ناشی از نوآوری بخش خصوصی و رقابت استراتژیک است، شتاب می‌گیرد. کنترل صادرات بر نیمه‌رساناها و مواد کلیدی تنها بی‌اعتمادی را تشدید می‌کند، درحالی‌که کشورهای کمتر پیشرفته از نظر فناوری از عقب ماندن و تبدیل‌شدن به اهداف جنگ هوش مصنوعی می‌ترسند.

 این خطر فراتر از کشورها گسترش می‌یابد، زیرا عوامل سرکش و گروه‌های غیردولتی می‌توانند به سیستم‌های پیشرفته دسترسی پیدا کنند و مهار درگیری‌ها را دشوارتر کنند.

 استفاده روزافزون از هوش مصنوعی نظامی، سرعت درگیری را افزایش داده و پاسخگویی را کم‌رنگ می‌کند. بدون حکمرانی قوی و همکاری جهانی، می‌تواند جنگ‌ها را سریع‌تر از آنکه انسان‌ها بتوانند آنها را کاهش دهند، تشدید کند، میدان نبرد را از سربازان به زیرساخت‌های غیرنظامی منتقل کند و بشریت را در برابر خطاهایی که ممکن است از آنها جان سالم به در نبرند، آسیب‌پذیر سازد.