به گزارش کارگروه فناوری اطلاعات سایبربان؛ محققان شرکت ادورسا Adversa نوعی حمله سایبری به نام Adversarial Octopus ایجاد کردهاند که میتواند حملهای هدفمند به سیستمهای تشخیص چهره انجام دهد. این ابزار بر روی چندین ابزار شناسایی چهره مبتنی بر هوش مصنوعی تأثیرگذار بوده و میتواند آنها را در معرض حملات شدید قرار دهد.
محققان این حمله جدید را به صورتی بر روی سیستمهای تشخیص چهره مبتنی بر هوش مصنوعی ایجاد کردند که میتواند عکسها را بهگونهای تغییر دهد که یک سیستم هوش مصنوعی فرد دیگری یا هر فرد موردنظر را تشخیص دهد.
ویژگی اصلی این حمله این است که میتواند سیستمهای مختلف هوش مصنوعی مانند دستگاههای فیزیکی و API های آنلاین را هدف قرار دهد و خود را با محیط هدف حمله سازگار کند.
این نوع حمله ممکن است از طریق گول زدن الگوریتمهای دید رایانه یا ایجاد دیپ فیک های تدریجی (تغییر یک تصویر و جایگزین کردن تصویری دیگر بهجای آن) منجر به عواقب جدی شود.
همچنین این حمله میتواند سرویسها، برنامهها و API های شناسایی چهره را دور بزند. علاوه بر این میتواند پیشرفتهترین موتور جستجوی آنلاین شناسایی چهره معروف به PimEyes را هم تأثیر قرار دهد.
نحوه حمله به موتور جستجوی PimEyes
حمله به موتور جستجوی PimEyes با استفاده از تکنیکهای زیر انجام شده است.
برای قابلیت انتقال بهتر، این حمله در مدلهای تشخیص چهره مختلفی همراه با تیرگیها و صداهای تصادفی ایجاد شده است.
برای دقت بهتر، این سیستم تغییرات خصمانه در هر لایه از یک شبکه عصبی را محاسبه میکند و از یک چهارچوب تشخیص چهره تصادفی استفاده میکند.
برای دیده نشدن بهتر، این سیستم برای تغییرات جزئی در هر پیکسل بهینهشده است و از عملکردهای ویژهای برای صاف کردن صداهای مزاحم استفاده میکند.
درنتیجه این حمله نشان میدهد که جبهه امنیتی سیستمهای هوش مصنوعی نیاز به توجه بیشتری دارد و چنین روشهای جدید حمله، به افزایش آگاهی کمک میکند. این امر به شرکتها کمک خواهد کرد تا با مشکلاتی که در سیستمهای یادگیری ماشینی وجود دارد، کنار بیایند. علاوه بر این، محققان در حال همکاری با شرکتها هستند تا از برنامههای مبتنی بر هوش مصنوعی آنها در برابر این حمله حفاظت کنند.
