الگوریتم هوش مصنوعی فیسبوک برای حذف حساب‌های کاربری تقلبی

ابزار شناسایی فیسبوک پس از جمع‌آوری داده‌های اولیه‌ی تحلیلی از هر حساب کاربری، آن‌ها را تحلیل و پردازش می‌کند. به‌عنوان مثال، تعداد میانه‌ی اعضا در گروه‌هایی محاسبه می‌شود که حساب کاربری هدف در آن‌ها عضویت دارد. همچنین، مواردی دیگر مانند حداکثر تعداد گروه‌های حساب‌های کاربری دوست نیز محاسبه می‌شوند. درنهایت، DEC نقشه‌ای می‌‌سازد که شبکه‌ی دوستان،‌ گروه‌ها، صفحه‌ها و بسیاری موارد دیگر حساب کاربری را مشخص می‌کند.

دنیل برناردت، مدیر مهندسی فیسبوک، درباره‌ی ابزار جدید می‌گوید:

با ده‌هاهزار قابلیت و مشخصه برای هر حساب کاربری روبه‌رو می‌شوید که مدل کلی پیرامونی آن را مشخص می‌کند؛ درنتیجه، از میان تعداد زیادی سیگنال می‌توانید تلاش هر کاربر برای نادرست نشان دادن هویت را تشخیص دهید. روند ما ارتباط زیادی به محتوای حساب کاربری ندارد؛ بلکه چگونگی تعامل آن را با دیگران بررسی می‌کند.

ابزار شناسایی فیسبوک برای هر حساب کاربری حدود ۲۰ هزار مشخصه را جمع‌آوری می‌کند و مزیت اصلی آن در دشواری مهندسی معکوس روند دیده می‌شود. برناردت می‌گوید مجرمان به‌راحتی روش‌های یادگیری ماشین را مهندسی معکوس می‌کنند و ساختارهای آن را می‌آموزند. اگر الگوریتم فقط تعداد محدودی مشخصه را برای شناسایی تقلبی‌بودن حساب کاربری بررسی کند، اسپمرها به‌راحتی می‌توانند همان مشخصه‌ها را به‌‌صورتی تغییر دهند که واقعی به‌نظر برسند؛ روندی که ویروس‌ها هم انجام می‌دهند.

برنادت درادامه‌ی مصاحبه می‌گوید اکثر ابزارهای مقابله با حساب کاربری تقلبی حساب‌ها را با مدلی ساده شناسایی می‌کنند. درواقع، مهندسان سیستم یادگیری ماشین را با مشخصه‌های محدود آموزش می‌دهند که به‌صورت مستقیم با حساب کاربری در ارتباط هستند. مدل‌های مرسوم ویژگی‌هایی همچون کامنت‌های اسپم یا نرخ تعامل را برای شناسایی حساب‌های کاربری تقلبی به‌کار می‌برند. گاربائولی می‌گوید متخلفان با تغییر همان چند خصوصیت محدود، روشی برای دورزدن ابزارهای شناسایی پیدا می‌کنند. به‌عنوان مثال، آن‌ها درخواست‌های دوستی حساب تقلبی را محدود می‌کنند و به‌‌دلیل همین محدودیت‌ها، برای شناسایی بهتر حساب‌های تقلبی باید عمیق‌تر رفتار‌ آن‌ها را بررسی کرد.

فیسبوک می‌گوید DEC تاکنون نتایج درخورتوجهی در مقابله با حساب‌های کاربری تقلبی به‌دست آورده است. ابزار مذکور از چند ماه پیش که به‌صورت نهایی در پلتفرم فیسبوک اجرا شد، میلیاردها حساب کاربری تقلبی را حذف کرد؛ درنتیجه‌، حجم اسپمرها و تخلف‌های کاربری در فیسبوک کاهش یافت. دراین‌میان، مهندسان شرکت ادعا می‌کنند نرخ حساب‌های کاربری تقلبی به ۵ درصد کاهش یافته است.

اگرچه ابزار جدید فیسبوک را در یکی از نبردها دربرابر حساب‌های کاربری متخلف و مجرمان پیروز کرد، آن‌ها هنوز فاصله‌ی زیادی تا پیروزی در جنگ علیه حساب‌های کاربری تقلبی دارند؛ زیرا قطعا با گذشته زمان، مجرمان بازهم راهی برای دورزدن ابزار هوش مصنوعی فیسبوک پیدا خواهند کرد. مهندسان پلتفرم نیز همین نظر را دارند و می‌گویند خراب‌کاران اینترنتی با سرعت زیادی پیشرفت و خود را سریعا با ابزارهای شناسایی هماهنگ می‌کنند.

مجرمان سایبری با سرعتی بیشتر از شرکت‌ها و محققان امنیتی ابزارهای خود را توسعه می‌دهند

نبرد و مقابله با حساب‌های کاربری تقلبی و اقدام‌های خراب‌کارانه در پلتفرم شبکه‌ی اجتماعی هرسال شدیدتر می‌شود. فیسبوک سال گذشته شبکه‌ای جهانی از ۹۰۰ میلیون حساب کاربری تقلبی را از بین برد. شبکه‌ی مذکور از ساختارهایی پیچیده مانند تصاویر پروفایل ساخت هوش مصنوعی استفاده می‌کرد و در تلاش بود روایت‌های حمایت از ترامپ را به ۵۵ میلیون کاربر گسترش دهد. پروفایل‌های تقلبی را افرادی در آمریکا و ویتنام مدیریت می‌کردند. این افراد گروه‌هایی پیچیده با اعضای زیاد تشکیل می‌دادند که کاربرد اصلی‌شان لایک‌کردن پست‌ها در صفحه‌های گوناگون بود.

فیسبوک سال گذشته نبرد جدی دیگری هم با پروفایل‌های تقلبی و مجرمان سازنده‌ی آن‌ها داشت و ۲،۶۰۰ حساب کاربری تقلبی را حذف کرد که رفتار غیرقانونی هدایت‌شده و هماهنگ داشتند. نیتان گلیچر، مدیر سیاست‌های امنیت سایبری فیسبوک دراین‌باره گفته بود:

اگرچه در شناسایی و مقابله با بدرفتاری‌ها پیشرفت خیره‌کننده‌ای داریم، مشکل موجود همیشه ادامه‌دار خواهد بود. درواقع، افرادی که مسئول گسترش فعالیت‌ها هستند، سرمایه‌‌ی هنگفتی دراختیار دارند و همیشه برای مقابله آماده خواهند بود. دائما در تلاش هستیم تا چند قدم از آن‌ها جلوتر باشیم.

باتوجه‌به پیچیدگی ذاتی اقدام‌های مخرب در شبکه‌های اجتماعی و پیشرفت همیشگی آن‌ها، نمی‌توان پیش‌بینی کرد ابزار جدید فیسبوک تا کِی درمقابل آن‌ها مقاوم باشد. به‌علاوه، مجرمان همیشه انگیزه‌های متعددی برای پیشرفت فعالیت‌های خود دارند و متوقف نمی‌شوند. درنهایت، مهندسان فیسبوک اعتقاد دارند زمین نبرد کنونی تا حد زیادی در کنترل مهاجمان است.

با تغییر روش‌ها و فناوری‌های استفاده‌شده‌ی مجرمان شبکه‌ی اجتماعی، ابزار فیسبوک نیز باید مجددا آموزش ببیند. ناگفته نماند توسعه‌ی ابزار نیازمند درک روش‌هایی است که مجرمان به‌کار می‌گیرند. به‌هرحال، نبرد کنونی بین متخصصان امنیت و حریم خصوصی با خراب‌کاران در شبکه‌های اجتماعی نبردی تازه با خصوصیات ناشناخته‌ی متعددی محسوب می‌شود و قطعا نمی‌توان زمان دقیقی برای پایان‌یافتن آن متصور شد.