شکل‌گیری تهدیدها و دفاع‌های سایبری مبتنی بر هوش مصنوعی تا سال ۲۰۲۵

به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، لوری یانسن-انسی، مدیر ارزیابی‌های سایبری خارجی در شرکت بلو وویانت (BlueVoyant)، برخی از تحولات کلیدی در حوزه امنیت سایبری در سال ۲۰۲۴ را مشخص کرد.

او به افزایش خلاقیت و پیچیدگی عوامل تهدید سایبری که از هوش مصنوعی در فعالیت‌هایی نظیر حملات فیشینگ، مهندسی اجتماعی، و ایجاد بدافزارهای خودکار استفاده می‌کنند، اشاره کرد.

وی در این باره بیان کرد:

عوامل تهدید سایبری همچنان از دیپ‌فیک‌ها در شبکه‌های اجتماعی یا کلاهبرداری‌های ساده استفاده می‌کنند. نباید این ابزار را دست‌کم گرفت.

او همچنین به کمبود مستمر نیروی کار ماهر در حوزه امنیت سایبری اشاره کرد که ممکن است سازمان‌ها را به سمت استفاده بیشتر از اتوماسیون و هوش مصنوعی برای پر کردن شکاف‌های نظارتی و واکنشی سوق دهد.

این تغییر می‌تواند به طور بالقوه پویایی نیروی کار این صنعت را دگرگون کند.

یکی از روندهای مثبت در سال ۲۰۲۴ کاهش حملات باج‌افزاری بود، که یانسن-انسی آن را به اتخاذ اقدامات امنیتی پیشگیرانه‌تر از سوی سازمان‌ها نسبت داد و اظهار کرد:

این کاهش می‌تواند به آگاهی کلی و بهبود برنامه‌های واکنش به حوادث نیز مرتبط باشد.

او همچنین پیش‌بینی کرد که تغییرات قابل توجهی در مقررات بین‌المللی رخ خواهد داد، با اجرای شدیدتر و هماهنگ‌تر استانداردها.

در سال ۲۰۲۵، چشم‌انداز رعایت قوانین و نظارت بر امنیت سایبری می‌تواند به طور قابل توجهی تغییر کند.

آستین برگلس، مدیر جهانی خدمات حرفه‌ای در همین شرکت، درباره خطرات وابستگی بیش از حد به هوش مصنوعی هشدار داد، زیرا شرکت‌ها به دنبال کاهش هزینه‌ها و نیروی انسانی هستند.

وی عنوان کرد:

اتکا به هوش مصنوعی ممکن است نظارت انسانی را کاهش دهد و احتمال خطاها و سوگیری‌ها را در سیستم‌های خودکار افزایش دهد.

او همچنین پیچیدگی فزاینده حملات فیشینگ، به‌ویژه با پیشرفت فناوری‌های هوش مصنوعی و دیپ‌فیک را برجسته کرده و افزود:

فناوری دیپ‌فیک... این فناوری تهدید را با دقت شگفت‌انگیزی در تقلید از افراد قابل اعتماد افزایش می‌دهد.

برگلس به افزایش دیجیتالی‌سازی و اتصال سیستم‌ها که زیرساخت‌های حیاتی را آسیب‌پذیرتر می‌کند نیز اشاره کرد و فعالیت گروه‌هایی مانند طوفان ولت یا ولت تایفون (Volt Typhoon) را نمونه‌هایی از تهدیدهای پیچیده دانست.

استو شوورمن، مدیرعامل شرکت نوبیفور (KnowBe4)، درباره نقش دوگانه هوش مصنوعی در تقویت حملات و دفاع‌های سایبری ابراز نگرانی و تاکید کرد:

ابزارهای پیشرفته مبتنی بر هوش مصنوعی که تهدیدات را به صورت کارآمدتری شناسایی و به آن‌ها پاسخ می‌دهند، در حال توسعه هستند.

او به امکان استفاده از هوش مصنوعی در مهندسی اجتماعی برای دشوارتر کردن تشخیص حملات اشاره کرد و بر اهمیت آموزش آگاهی امنیتی مداوم تأکید کرده و اذعان نمود:

سازمان‌ها اهمیت آموزش مکرر آگاهی امنیتی را درک خواهند کرد.

شوورمن همچنین به پیشرفت در فناوری‌های تشخیص دیپ‌فیک و پذیرش گسترده‌تر ذهنیت اعتماد صفر و هوشیاری سایبری اشاره کرد:

این تغییر ذهنیت، گامی حیاتی برای کاهش خطرات داخلی خواهد بود.

او در نهایت بر اهمیت عنصر انسانی در امنیت سایبری تأکید کرد و گفت:

یکی از بهترین شکل‌های دفاع، پرورش یک فرهنگ امنیتی قوی است.