همکاری محرمانه IBM با اداره پلیس نیویورک
به گزارش کارگروه امنیت سایبربان؛ براساس آخرین گزارشها، IBM چند سال قبل در راستای توسعهی نرمافزار نظارتی سیستمهای نظارت تصویری نیویورک، بهصورت محرمانه وارد همکاری با اداره پلیس نیویورک شده است. پروژه همکاری در جهت ارتقاء نرمافزار نظارتی برای اضافه کردن امکان جستجوی شهروندان براساس ویژگیهایی همچون سن، جنسیت و رنگ پوست آنها بوده است. ظاهر آیبیام به اطلاعات دوربینهای نظارت تصویری نیویورک بهصورت محرمانه دسترسی داشته است.
براساس آخرین گزارش Intercept و مصاحبه با یکی از محققان اسبق IBM و همچنین اظهارات یکی از مقامات اداره پلیس نیویورک (NYPD)، آیبیام بهصورت محرمان و مخفیانه به ویدئوهای مربوط به سیستمهای نظارت تصویری نیویورک دسترسی داشته است تا بتواند نرمافزار نظارتی را توسعه دهد. هدف توسعهی نرم افزار نظارتی IBM، امکان جستجوی افراد براساس برخی ویژگیها از جمله سن، جنسیت و رنگ پوست آنها است.
باوجودی که IBM در مورد توسعهی نرمافزار و قابلیت تجزیهوتحلیل دادههای ویدئویی و امکان جستجوی افراد بر اساس سن، جنسیت و رنگ پوست، گزارشهایی را منتشر کرده بود؛ ولی به هیچوجه اشارهای به استفادهی محرمانه و مخفیانه از ویدئوهای دوربینهای مداربستهی نیویورک در این گزارشها نشده بود. ظاهرا IBM و اداره پلیس نیویورک، بهصورت محرمانه در این پروژه همکاری نزدیکی داشتهاند؛ که به اعتقاد برخی، چنین همکاری نزدیکی برای یک شرکت فناوری نگرانکننده است. وقتی شرکتهای فناوری بهصورت محرمانه و بدون اطلاعرسانی عمومی با نهادهای دولتی وارد همکاری در حوزهیهای امنیت میشوند؛ عموما چنین شرایطی از دید تحلیلگران نگرانکننده است.
استفاده از فناوریهای مبتنی بر هوش مصنوعی برای سیستمهای نظارتی، میتواند بهنوعی ناقض حریم خصوصی شهروندان شود. از سوی دیگر با توجه به عدم دقت بالای چنین سیستمهای نظارتی در تشخیص افرادی با رنگ پوست خاص، عموما این شهروندان در مضان اتهام قرار میگیرند. از طرفی، هنوز قوانین روشن و مشخصی برای سیستمهای نظارتی مبتنی بر هوش مصنوعی و برای چنین خطاهای سیستمی درنظر گرفته نشده است.
براساس آخرین گزارش منتشرشده از سوی اینترسپت، اداره پلیس نیویورک در سال ۲۰۰۷ میلادی، در ابتدا از طریق شرکت زیرمجموعهی مایکروسافت به نام Vexcel با نرمافزار تجزیهوتحلیل ویدئویی IBM آشنا شد. این فناوری در ماه مارس ۲۰۱۰ در مرکز فرماندهی مبارزه با تروریسم شهر نیویورک، که شامل بخشی از مناطق جنوبی منهتن بود، مورد آزمایش قرار گرفت. پیتر دونالد، سخنگوی پلیس نیویورک به اینترسپت گفت:
در آن زمان، این نرمافزار در کمتر از ۵۰ درصد دوربینهای نظارت تصویری مورد استفاده قرار گرفت. در اصل در حدود ۵۱۲ دوربین مداربسته در آن دورهی زمانی با این نرمافزار مورد تست قرار گرفتند.
در سال ۲۰۱۲، IBM گزارش کرد که در حال تست نرمافزار تجزیهوتحلیل ویدئویی روی بدن و چهرهی شهروندان نیویورکی است. وقتی شهروندان نیویورکی در حال تردد در سطح شهر هستند، این فناوری جدید دادههای تصویری را ضبط، ذخیرهسازی و مورد تجزیهوتحلیل قرار میدهد. پس از آن شرکت IBM، به توسعهی نرم افزار نظارتی خود ادامه داد و تصمیم گرفت سیستم جستجوی شهروندان را بر اساس سن، جنسیت، رنگ مو، محاسن صورت و رنگ پوست به فناوری موجود اضافه کند.
در عین حال، NYPD نیز اعلام کرده است که بهمنظور جلوگیری از بروز بحثهای نژادپرستانه، هرگز از این فناوری استفاده نکرده است. سخنگوی اداره پلیس نیویورک سیتی در گفتگو با اینترسپت اعلام کرد:
با وجودی که سیستمهایی برای جستجوی شهروندان براساس رنگ پوست و نژاد آنها به ادارهی پلیس پیشنهاد شده است؛ ولی اداره پلیس نیویورک بهصراحت، استفاده از این فناوریها را رد کرده و نپذیرفته است.
ریک کیلدسن، محقق سابق IBM ادعا میکند که طی سالهای ۲۰۰۹ تا ۲۰۱۳، همکاری نزدیکی با اداره پلیس نیویورک داشته و در پروژهای مرتبط با همین مباحث مشغول فعالیت بوده است. ریک کیلدسن ادعا میکند چنین بحثهایی از سوی اداره پلیس نیویورک، کمی گمراهکننده هستند. کیلدسن به اینترسپت اعلام کرد:
هیچ شرکتی روی محصولاتی که مشتری ندارد، هزینه نمیکند!
کیلدستن ادعا میکند که حتی تعدادی از محققان IBM که در این پروژه مشغول بهکار بودند، نسبت به سوءاستفادههای احتمالی از این فناوری نگران بودند. یکی از اعتراضات اصلی کیلدستن به چنین فناوری، مطرح نکردن موضوع به شهروندان و عملکرد مخفیانهی شرکت آیبیام است. او معتقد است:
حق طبیعی شهروندان است تا در جریان انجام چنین پروژههایی قرار بگیرند.
البته اداره پلیس نیویورک سیتی اعلام کرده است که فناوری IBM در سال ۲۰۱۶ متوقف شده است. هرچند ظاهرا سخنگوی آیبیام به تمامی سوالات مطرحشده پاسخ نداده است؛ ولی در نهایت اعلام کرده که در مورد توسعهی فناوریهای جدید کاملا متعهد و پاسخگو خواهد بود.
