about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
جایزه
1404/03/25 - 08:09- تروریسم سایبری

جایزه 10 میلیون دلاری برای گروه هکری نجات دهنده سامانه‌های پدافندی

ایالات متحده اخیراً با اعلام بیانیه‌ای از تعیین جایزه 10 میلیون دلاری برای مرموزترین دشمن سایبری خود به نام مِستر سول خبر داد.

اعتراف
1404/03/28 - 09:08- تروریسم سایبری

اعتراف منابع صهیونیستی به نفوذ سایبری ایران در پخش تصاویر پشت‌پرده

منابع صهیونیستی به نفوذ سایبری ایران در پخش تصاویر پشت‌پرده اعتراف کردند.

محققان نوع جدیدی از حمله سایبری را شناسایی کرده‌اند که می‌تواند سیستم‌های تشخیص چهره مبتنی بر هوش مصنوعی را دور بزند.

به گزارش کارگروه فناوری اطلاعات سایبربان؛ محققان شرکت ادورسا Adversa نوعی حمله سایبری به نام Adversarial Octopus ایجاد کرده‌اند که می‌تواند حمله‌ای هدفمند به سیستم‌های تشخیص چهره انجام دهد. این ابزار بر روی چندین ابزار شناسایی چهره مبتنی بر هوش مصنوعی تأثیرگذار بوده و می‌تواند آن‌ها را در معرض حملات شدید قرار دهد.

محققان این حمله جدید را به صورتی بر روی سیستم‌های تشخیص چهره مبتنی بر هوش مصنوعی ایجاد کردند که می‌تواند عکس‌ها را به‌گونه‌ای تغییر دهد که یک سیستم هوش مصنوعی فرد دیگری یا هر فرد موردنظر را تشخیص دهد.

ویژگی اصلی این حمله این است که می‌تواند سیستم‌های مختلف هوش مصنوعی مانند دستگاه‌های فیزیکی و API های آنلاین را هدف قرار دهد و خود را با محیط هدف حمله سازگار کند.

این نوع حمله ممکن است از طریق گول زدن الگوریتم‌های دید رایانه یا ایجاد دیپ فیک های تدریجی (تغییر یک تصویر و جایگزین کردن تصویری دیگر به‌جای آن) منجر به عواقب جدی شود.

همچنین این حمله می‌تواند سرویس‌ها، برنامه‌ها و API های شناسایی چهره را دور بزند. علاوه بر این می‌تواند پیشرفته‌ترین موتور جستجوی آنلاین شناسایی چهره معروف به PimEyes را هم تأثیر قرار دهد.

نحوه حمله به موتور جستجوی PimEyes

حمله به موتور جستجوی PimEyes با استفاده از تکنیک‌های زیر انجام شده است.
برای قابلیت انتقال بهتر، این حمله در مدل‌های تشخیص چهره مختلفی همراه با تیرگی‌ها و صداهای تصادفی ایجاد شده است.

برای دقت بهتر، این سیستم تغییرات خصمانه در هر لایه از یک شبکه عصبی را محاسبه می‌کند و از یک چهارچوب تشخیص چهره تصادفی استفاده می‌کند.

برای دیده نشدن بهتر، این سیستم برای تغییرات جزئی در هر پیکسل بهینه‌شده است و از عملکردهای ویژه‌ای برای صاف کردن صداهای مزاحم استفاده می‌کند.

درنتیجه این حمله نشان می‌دهد که جبهه امنیتی سیستم‌های هوش مصنوعی نیاز به توجه بیشتری دارد و چنین روش‌های جدید حمله، به افزایش آگاهی کمک می‌کند. این امر به شرکت‌ها کمک خواهد کرد تا با مشکلاتی که در سیستم‌های یادگیری ماشینی وجود دارد، کنار بیایند. علاوه بر این، محققان در حال همکاری با شرکت‌ها هستند تا از برنامه‌های مبتنی بر هوش مصنوعی آن‌ها در برابر این حمله حفاظت کنند.

منبع:

تازه ترین ها
درگیری
1404/05/23 - 16:44- هوش مصنوعي

درگیری ماسک و آلتمن بالا گرفت

درگیری ماسک و آلتمن بر سر تعصب ادعایی اپل در زمینه هوش مصنوعی تشدید شد.

سیاست‌گذاری
1404/05/23 - 16:02- هوش مصنوعي

سیاست‌گذاری غلط متا در حوزه هوش مصنوعی

سیاست‌های مربوط به رفتار چت‌بات شرکت متا، کودکان را درگیر مسائل جنسی می‌کند.

راه‌اندازی
1404/05/23 - 15:21- سایرفناوری ها

راه‌اندازی ویژگی جدید توسط گوگل

گوگل منابع ترجیحی را برای نتایج جستجوی سفارشی ارائه می‌دهد.

مطالب مرتبط

در این بخش مطالبی که از نظر دسته بندی و تگ بندی مرتبط با محتوای جاری می باشند نمایش داده می‌شوند.