به گزارش کارگروه شبکه اجتماعی سایبربان؛ توئیتر به دنبال آن بود تا متوجه شود به چه دلیلی سیستم شبکه عصبی مورد استفاده آن ها عکس های افراد سفید پوست را به سیاه پوستان ترجیح می دهد و اکثر اوقات میان تصاویر موجود، تنها عکس های سفید پوستان را پیش نمایش می دهد؟
چندین کاربر توئیتر این مشکل را با پست کردن نمونه هایی از مقایسه عکس های سفید پوستان و سیاه پوستان، مطرح کردند. سیستم پیش نمایش توئیتر در اکثر اوقات عکس های سفید پوستان را به عکس های سیاه پوستان ترجیح می داد و آن ها را به نمایش می گذاشت.
انجام تست های متعدد بر روی این معضل، به طور غیر رسمی از زمانی آغاز شد که یکی از کاربران توئیتر اقدام به پست گذاشتن در مورد نشان ندادن صورت افراد سیاه پوست در سیستم تخیص چهره برنامه زوم کرد. هنگامی که او پست خود را در توئیتر منتشر کرد، متوجه شد که این شبکه اجتماعی هم صورت سفید رنگ او را به چهره سیاه رنگ همکارانش ترجیح می دهد.
کاربران همچنین متوجه شدند که الگوریتم پیش نمایش توئیتر، شخصیت های کارتونی سفید پوست را به سیاه پوست ترجیح می دهد و آن را انتخاب می کند.
زمانی که توئیتر برای اولین بار شروع به استفاده از شبکه عصبی برای برش زدن پیش نمایش عکس ها کرد، متوجه شدند که این سیستم دارای مشکلاتی است. چون همه تصاویر دارای صورت نمی باشند.
این الگوریتم در ابتدا تنها برای تخیص چهره افراد معروف مورد استفاده قرار می گرفت .بنابراین دارای محدودیت هایی می باشد.
به گفته مسئولین این شرکت، آن ها آزمایش و تست های مختلفی را انجام داده اند و هیچ نشانی از تبعیض و نژاد پرستی را در آن مشاهده نکردند.
با همه این حال مشکل نژاد پرستی در این الگوریتم، نیاز به انجام بررسی ها و تست های زیادی دارد. این امکان برای کاربران نیز مهیا می شود تا آن ها بتوانند سیستم را مورد بررسی قرار دهند و نظرات خود را منعکس کنند.
