بهمن ۰۵
دبیر خبر | ۶ بهمن ۱۳۹۷

تبعیض نژادی سامانه تشخیص چهره آمازون

عده‌ای از پژوهشگران و مدافعان حریم خصوصی توضیح دادند که سیستم تشخیص چهره‌ی آمازون با توجه به داشتن خصوصیت تبعیض نژادی، باید متوقف گردد.

به گزارش کارگروه فناوری اطلاعات سایبربان، به نقل از «techxplore»؛ به گفته‌ی محققان دانشگاه‌های MIT و تورنتو، سامانه تشخیص چهره‌ی آمازون که با هدف بازاریابی و اجرای قانون، توسعه پیدا کرده بود، بیشتر زنان و به خصوص تیره پوستان را به اشتباه تشخیص داده، تبعیض قائل می‌شود.

مدافعان حقوق مدنی و حریم خصوصی به تازگی از آمازون درخواست کرده‌اند که خدمات تشخیص چهره خود را متوقف کند؛ زیرا این فناوری، در زمینه شناسایی اقلیت‌ها تبعیض قائل می‌شود. تعدادی از سرمایه‌گذاران آمازون نیز درخواستی مشابه دارند؛ زیرا نگران هستند این دستاورد در بررسی پرونده‌های قضایی آسیب‌پذیری ایجاد مي‌کند.

محققان شرح دادند:

هوش مصنوعی آمازون در 31 درصد مواقع زنان تیره پوست را به اشتباه مرد در نظر می‌گیرد. این مسئله درباره زنانی با پوست روشن 7 درصد است. خطای رخ‌داده در مورد مردان سیاه‌پوست، یا دارنده پوست روشن نیز به ترتیب یک درصد و بدون خطا است.

با وجود این که گفته می‌شود هوش‌های مصنوعی، از تعصبات انسانی بی‌بهره‌اند؛ اما در هر صورت توسط دانشمندانی ساخته می‌شوند که هر یک عقاید خاص خود را دارند و آن‌ها را وارد برنامه نیز می‌کنند. مشكل پديدآمده نشان‌دهنده تهدیدی برای حریم خصوصی و آزادی‌های مدنی است که توسط فناوری تشخیص چهره به وجود می‌آید.

جوی بولاموینی (Joy Buolamwini)، یکی از پژوهشگران MIT به دنبال اتفاق رخ‌داده اظهار کرد:

شرکت‌ها باید همه‌ی سیستم‌های خود را که برای تشخیص چهره به کار می‌گيرند، به منظور وجود، یا عدم وجود تعصب و تبعیض بررسی کنند.

وی ادامه داد:

اگر شما سیستم تشخیص چهره‌ای را به فروش می‌رسانید که تعصب دارد، ممكن است که دیگر محصولاتتان هم، در این رده به طور کامل تبعیض قائل شوند.

منبع:

نظرات

CAPTCHA
This question is for testing whether or not you are a human visitor and to prevent automated spam submissions.