به گزارش کارگروه امنیت سایبربان؛ محققان یک حمله خصمانه جدید را کشف کردهاند که میتواند فناوریهای هوش مصنوعی را فریب دهد. در این حمله جدید که اوپاد (OPAD) نام دارد دوربین، پروژکتور کمهزینه و رایانه سه عنصر اصلی برای انجام حمله هستند.
اوپاد مبتنی بر یک سیستم دوربین پروژکتور کمهزینه است که در آن محققان الگوهای محاسبهشدهای را برای اصلاح ظاهر اجسام سهبعدی پیشبینی کردهاند.
برای انجام این حمله، محققان اشیاء موجود را که توسط هوش مصنوعی مشاهده شده بود، تغییر دادند. بهعنوانمثال، آنها تصاویر بسکتبال را تغییر داده و آنها را بهعنوان چیز دیگری ارائه کردهاند. این کار با نشان دادن برخی الگوهای محاسبهشده روی تصاویر انجام شد.
روش اوپاد غیرقابل تکرار است و بنابراین، میتواند اشیاء سهبعدی واقعی را در یک عکس هدف قرار دهد. علاوه بر این، از این روش حمله میتوان در حملات غیرهدفمند، هدفمند، جعبه سیاه و جعبه سفید نیز استفاده کرد.
این احتمالاً اولین روشی است که بهطور مشخص محیط و ابزار بهکاربرده شده را مدلسازی میکند؛ بنابراین، بهینهسازی عملکرد مخرب اوپاد بهوضوح برای کاربران قابلمشاهده است.
یکی از ویژگیهای مهم چنین حملهای این است که هیچ دسترسی فیزیکی برای اشیاء لازم نیست. حملات اوپاد میتوانند هرگونه نتایج دیجیتالی شناختهشده را به اشیاء سهبعدی واقعی تبدیل کنند.
امکانسنجی این حمله تنها به مواد سطح جسم و اشباع رنگ آن شی محدود میشود.
روش اوپاد میتواند خودروهای خودران را هم فریب داده و بهعنوانمثال، میتواند یک سیگنال توقف را بهعنوان سیگنال محدودیت سرعت نشان داده و موجب تصادف شود.
علاوه بر این، دوربینهای امنیتی دارای هوش مصنوعی را نیز میتوان فریب داد که عواقب جدی را در پی خواهد داشت.
همچنین نمایش موفقیتآمیز اوپاد امکان استفاده از یک سیستم نوری برای تغییر چهره یا کارهای نظارتی را نشان میدهد.
درنتیجه؛ اوپاد نشان داد سازمانهایی که فناوریهای هوش مصنوعی را توسعه میدهند باید نسبت به مشکلات احتمالی امنیتی مدلهای هوش مصنوعی خود هوشیار باشند. همچنین، آنها باید قبل از استفاده از فناوریهای هوش مصنوعی در دنیای واقعی، بر امنیت و آزمایش این فناوریها بیشتر سرمایهگذاری کنند.
