به گزارش کارگروه فناوری اطلاعات سایبربان، واتساپ عرضه محدود بِتا (هشدار کلاهبرداری) را آغاز کرده است، یک ویژگی اختیاری که از یک مدل یادگیری ماشینی روی دستگاه برای شناسایی پیامهای کلاهبرداری بالقوه استفاده میکند.
پس از فعالشدن، این ویژگی یک مدل طبقهبندی را روی دستگاه کاربر دانلود میکند. این مدل، پیامهای دریافتی از افراد خارج از مخاطبین کاربر را برای ساختارهای مکالمهای و سیگنالهای زبانی مرتبط با کلاهبرداریهای شناخته شده تجزیهوتحلیل میکند.
واتساپ اعلام کرد که محتوای پیام در حین طبقهبندی روی دستگاه باقی میماند و به طور خودکار به مِتا یا هیچ شخص ثالثی گزارش نمیشود؛ بنابراین، رمزگذاری سرتاسری دستنخورده باقی میماند.
هنگامی که مدل، یک کلاهبرداری احتمالی را شناسایی میکند، کاربر یک هشدار خصوصی دریافت میکند که برای فرستنده قابلمشاهده نیست. آنها میتوانند حساب را مسدود یا گزارش کنند، مکالمه را ادامه دهند یا چت را بهعنوان مورداعتماد علامتگذاری کنند.
علامتگذاری یک مکالمه بهعنوان مورداعتماد، هشدار را حذف و از هشدارهای بیشتر برای آن چت جلوگیری میکند. کاربران همچنین میتوانند به طور جداگانه پنج پیام دریافتی اخیر را با واتساپ به اشتراک بگذارند تا به بهبود دقت تشخیص کمک کنند.
اگرچه محتوای پیام به طور پیشفرض محلی باقی میماند، سیستم اطلاعات کلی محدودی در مورد تعداد دفعات نمایش هشدارها و نحوه پاسخ کاربران جمعآوری میکند. دادهها از طریق یک محیط محاسباتی محرمانه پردازش میشوند و فقط بهصورت دادههای ناشناس محافظتشده توسط حریم خصوصی تفاضلی در اختیار واتساپ قرار میگیرند.
واتساپ اعلام کرد که آمار حاصل حاوی هیچ یک از محتوای پیام، دادههای شخصی کاربر یا اطلاعات سطح مکالمه نیست.
این شرکت همچنین اقدامات حفاظتی را برای جلوگیری از تحویل یک مدل خاص به یک کاربر هدف معرفی کرده است. هر نسخه مدل، از جمله انواع آزمایشی، باید قبل از استقرار در یک دفترکل شفافیت فقط الحاقی شخص ثالث ثبت شود.
کلودفلر، بیانیههای مدل را نشانهگذاری میکند، درحالیکه درخواستهای دانلود ناشناس مانع از شناسایی کاربر درخواستکننده مدل توسط سرور میشوند. برنامه واتساپ قبل از بارگذاری مدل، نشانه، ورودی دفترکل و هشهای فایل را تأیید میکند.
واتساپ همچنین قصد دارد مصنوعات مدل را منتشر کند و گزارشهای شفافیت درون برنامهای را ارائه دهد که نشان میدهد کدام پیامها تجزیهوتحلیل شدهاند، آیا علامتگذاری شدهاند و از کدام نسخه مدل استفاده شده است.
