به گزارش کارگروه حملات سایبری خبرگزاری سایبربان، این موضوع که روز دوشنبه توسط یک شرکت امنیتی کره جنوبی اعلام شد، یکی از نخستین موارد تأییدشده استفاده از هوش مصنوعی به‌عنوان سلاح در جعل هویت در کره جنوبی محسوب می‌شود.
شرکت امنیت سایبری کره‌ای «جنیانس» در گزارشی روز دوشنبه فاش کرد که گروه «کیمسکی» که گفته می‌شود تحت حمایت پیونگ‌یانگ فعالیت می‌کند، در ماه ژوئیه تلاش کرده است با استفاده از تصاویر دیپ‌فیک ساخته‌شده با هوش مصنوعی مولد، حملات هکری در کره جنوبی ترتیب دهد.
بر اساس تحقیقات، هکرها عکس‌های پروفایل جعلی را با کمک چت جی پی تی (ChatGPT) تولید کرده و از آن‌ها برای جعل کارت شناسایی یک کارمند نظامی استفاده کردند.
با وجود آن‌که مدل‌هایی مانند چت جی پی تی درخواست‌های مستقیم برای تولید کارت شناسایی را مسدود می‌کنند، اما هکرها با استفاده از دستورهای خاص و سوءاستفاده از حفره‌های امنیتی این محدودیت‌ها را دور زدند.
سپس تصاویر جعلی را به ایمیل‌های فیشینگ با عنوان «درخواست بازبینی پیش‌نویس کارت شناسایی» پیوست کرده و از یک دامنه جعلی با نشانی «mli.kr» استفاده کردند که شباهت زیادی به آدرس رسمی نظامی کره جنوبی «mil.kr» داشت.
گروه کیمسکی همچنین در ماه ژوئیه پژوهشگران غیرنظامی و روزنامه‌نگارانی را که در حوزه کره شمالی تخصص دارند، هدف گرفت.
این گروه ایمیل‌هایی ارسال کرد که ظاهراً معرفی یک ابزار هوش مصنوعی جدید برای مدیریت حساب‌های ایمیلی بود، اما در حقیقت حاوی بدافزار بودند.
این پرونده تأیید کرد که هکرها در کره جنوبی اکنون از هویت‌ها و تصاویر جعلی تولیدشده با هوش مصنوعی در حملات سایبری استفاده می‌کنند.
در گزارش جنیانس آمده است که تحلیل شاخص‌های فنی مانند بدافزار و زیرساخت، همراه با نشانه‌های زمینه‌ای همچون نوع اهداف، الگوهای زبانی و فعالیت‌های گذشته نشان داده که موارد متعدد دیپ‌فیک با شاخص‌های تهدیدی که پیش‌تر به گروه کیمسکی نسبت داده شده بود، همبستگی داشته است.
به گفته منابع صنعت فناوری اطلاعات، تلاش‌های هکری مبتنی بر هوش مصنوعی در سراسر جهان رو به افزایش است.
در ماه اوت، شرکت آنتروپیک (Anthropic) گزارش داد که هکرهای کره شمالی از مدل هوش مصنوعی این شرکت، کلاود (Claude)، برای به‌دست‌آوردن جعلی مشاغل دورکار در شرکت‌های فناوری فورچون 500 (Fortune 500) استفاده کرده‌اند.
این اقدام شامل ایجاد مدارک جعلی و دریافت کمک در کدنویسی طی فرآیند درخواست کار بود.
همچنین شرکت اوپن ای آی (OpenAI) در ماه ژوئن اعلام کرد که هکرهای کره شمالی با استفاده از هوش مصنوعی، رزومه‌ها و نامه‌های پوششی جعلی تولید کرده‌اند تا در عملیات‌های سایبری هویت‌های ساختگی ایجاد کنند.
