شناسایی کامنت‌های نامناسب و فیلتر آن‌ها

به گزارش واحد فناوری اطلاعات سایبربان؛ یکی از قوانین اصلی اینترنت، نخواندن و بی‌توجهی به کامنت‌های نامناسب است. بخشی از کامنت‌های موجود در اینترنت غالباً حاوی مضامین نامناسب هستند و به‌ندرت پیش می‌آید که یک نفر بدون آزرده‌خاطر شدن، از کنار آن‌ها رد شود.

شرکت Jigsaw، از شرکت‌های تابعه آلفابت، در حال تلاش برای مبارزه با این مشکل از طریق یک پروژه به نام پرسپکتیو (Perspective) است.
یک رابط برنامه‌نویسی کاربردی (API) که با استفاده از هوش مصنوعی به جست‌وجوی کلمات آنلاین می‌پردازد. باوجوداین محققان کشف کرده‌اند که بازی دادن این سیستم آسان است.
پروژه پرسپکتیو به نظرات و کامنت‌ها براساس تأثیری که ممکن است در یک مکالمه داشته باشند نمره می‌دهد. برای مثال در جمله «این احمقانه و اشتباه است»، پرسپکتیو ممکن است آن را ۸۹ درصد مشکل‌دار تشخیص دهد.
محققان آزمایشگاه امنیت شبکه در دانشگاه واشنگتن دریافتند که می‌توان این برنامه را با غلط املایی نوشتن عبارات، فریب داد. از طرفی اگر این جمله به «این احمقانه و اشتباه نیست» تغییر یابد که جمله مثبتی است، پرسپکتیو بازهم آن را منفی می‌بیند.
باوجوداین باید گفت که پرسپکتیو هنوز یک تکنولوژی در مراحل اولیه است و همان‌طور که محققان به‌درستی اشاره کردند، در حال حاضر تنها قادر به تشخیص الگوهای بسیار شبیه به نمونه‌هاست و به کاربران و محققان این امکان را می‌دهد که به ارائه اصلاحات به‌منظور بهبود آن بپردازند.