مقابله با تعصب هوش مصنوعی در تشخیص چهره

به گزارش کارگروه فناوری اطلاعات سایبربان؛ اونفیدو (Onfido)، استارت‌آپ تأیید هویت در حال آموزش سیستم یادگیری ماشینی خود برای کاهش تعصبی است که باعث می‌شود هوش مصنوعی خطاهای تشخیص چهره را بیشتر برای مشتریان رنگین پوست به جای سفید پوست داشته باشد.

اهمیت موضوع : افزایش تشخیص و درمان از راه دور در پزشکی و فین‌تک باعث افزایش اهمیت فناوری از راه دور تأیید هویت دقیق شده است؛ اما این سیستم‌ها تنها در صورتی منصفانه عمل خواهند کرد که بتوانند مشتریان در هر نژاد و قومیتی را شناسایی کنند.

نحوه عملکرد : اونفیدو، تأیید هویت از راه دور را با تجزیه و تحلیل چهره در یک سند آی‌دی دولتی و مقایسه آن با یک عکس سلفی یا فیلم تازه ضبط شده انجام می‌دهد.

• الگوریتم تطبیق چهره این شرکت قادر است از فناوری تشخیص تصویر برای تعیین یکی بودن عکس سلفی و عکس کارت شناسایی، تأیید از راه دور هویت بانکی و پذیرش در یک رویداد استفاده کند.
• حسین کسایی (Husayn Kassai)، مدیرعامل اونفیدو گفت که اساساً این فناوری به یکی بودن اطلاعات شناسایی افراد به صورت حضوری و دیجیتال کمک می‎کند.
• ارزش این سرویس بسیار زیاد است، زیرا همه‌گیری ویروس کرونا باعث انجام تعاملات آنلاین شده است.

تعداد : نرخ پذیرش کاذب پیشرو در بازار اونفیدو 0.01 درصد است، بدین معنی که فقط یک در هر 10 هزار احتمال تطبیق نادرست یک سلفی با شناسه وجود دارد.

• در حالیکه دارندگان شناسه آی‌دی با تابعیت اروپایی میزان پذیرش کاذب 0.019 درصدی دارند و در آمریکا 0.008 درصد است، درصد پذیرش کاذب دارندگان آی‌دی‌هایی با ملیت آفریقایی 0.038 درصد است.

نرخ اونفیدو برای ملیت‌های آفریقایی هنوز نشان از پیشرفت 60 برابری نسبت به سال گذشته دارد و برای این پیشرفت باید آموزش‌های بیشتری انجام می‌شد.

• از آنجا که اونفیدو مشتریان بیشتری در اروپا دارد، مجموعه اطلاعات مورد استفاده برای آموزش الگوریتم نامتعادل بود. این الگوریتم در چهره‌های با رنگ پوست روشن، عملکرد بسیار بهتری داشت.
• برای کاهش این مشکل، سوزانا لوپز (Susana Lopes)، مدیر محصولات شرکت اعلام کرد که اونفیدو روش آموزش الگوریتم را برای یادگیری از یک مجموعه داده نامتعادل تغییر داده است.
• اونفیدو با دفتر کمیسیونر اطلاعات بریتانیا برای مقابله مستقیم با تعصب تشخیص چهره همکاری می‌کند.

نتیجه‌گیری : تعصب هوش مصنوعی نتیجه تعصب در دنیای واقعی است. به گفته کسایی، اگر شرکت‌ها از راه‌حل‌های هوش مصنوعی برای تغییر این مشکل استفاده می‌کنند، باید روی انصاف و عدالت تمرکز داشته باشند.