به گزارش کارگروه فناوری اطلاعات سایبربان ؛ این تیم توانسته با استفاده از یادگیری ماشینی، تصویری خلق کند که در چشم انسان شبیه به یک نفر به نظر برسد، اما الگوریتم شناسایی چهره آن را یک فرد دیگر تشخیص دهد.
نویسنده ارشد این پژوهش، «استیو پالوونی» اعلام کرده:
«اگر ما جلوی دوربینی که از سیستم تشحیص چهره برای شناسایی افراد و مقایسه آن‌ها با عکس پاسپورت استفاده می‌کند، برویم، می‌توانیم باعث طبقه‌بندی اشتباه شویم.»
محققان برای گمراه کردن این الگوریتم از الگوریتم ترجمه چهره با نام «CycleGAN» استفاده کردند که می‌تواند سبک تصاویر را عوض کند. برای مثال می‌توان توسط این الگوریتم عکسی که در تابستان گرفته شده را به گونه‌ای تغییر داد که شبیه به یک تصویر در زمستان به نظر برسد و حتی امکان تغییر حیوانات مانند اسب به گورخر نیز توسط آن وجود دارد.
تیم مک‌آفی ۱۵۰۰ تصویر از هر یک از افراد حاضر در این پروژه، A و B استفاده کرد و آن‌ها را در اختیار الگوریتم CycleGAN قرار داد تا آن‌ها را تبدیل به یک نفر کند. به صورت همزمان این تیم از سیستم تشخیص چهره برای شناسایی فرد درون تصویر خلق شده توسط CycleGAN استفاده کرد. پس از تولید صدها تصویر، در نهایت این الگوریتم موفق به خلق عکس جعلی شد که از دید انسان فرد A به نظر می‌رسد، اما سیستم تشخیص چهره آن را به عنوان فرد B شناسایی می‌کند.
در حالی که این پژوهش نگرانی‌های جدی درباره سیستم‌های تشخیص چهره ایجاد می‌کند، نقص‌هایی نیز در آن به چشم می‌خورد. اول از همه محققان به سیستم واقعی مورد استفاده در فرودگاه‌ها دسترسی نداشته‌اند. علاوه بر این، حملات با این سبک به زمان و منابع زیادی نیاز دارند. CycleGAN به کامپیوترهای قدرتمندی برای آموزش و اجرا نیاز دارد.
استفاده از سیستم‌های تشخیص چهره و کنترل خودکار پاسپورت در فرودگاه‌های کشورهای مختلف در حال افزایش است و شیوع ویروس کرونا سرعت این تغییر را افزایش داده است. این سیستم در بخش‌های مختلفی مانند اجرای قانون، استخدام افراد و همچنین رویدادهای امنیتی مورد استفاده قرار می‌گیرد، بنابراین امنیت آن‌ها اهمیت بالایی دارد.
