به گزارش کارگروه فناوری اطلاعات سایبربان به نقل از وایرد، در هفته‌های گذشته صد‌ها نفر از افرادی که در آلمان به انتشار محتواهای مستهجن دست زده بودند، نامه‌ای از پلیس این کشور دریافت کرده و با دادرسی کیفری روبرو شده‌اند. نامه‌ها و اقدامات پلیس نشان‌دهنده تشدید این برخورد‌ها در این کشور است. مقامات آلمان از سیستم هوش مصنوعی برای تشخیص این محتوا‌ها استفاده می‌کنند.
تنظیم گران، سیستم هوش مصنوعی با نام "کی وی " (Kivi) را ایجاد کرده‌اند تا هر روز در توییتر، تیک تاک، یوتیوب، تلگرام و موارد دیگر هزاران پست و صفحه وب را پایش کنند.
در سال‌های اخیر مقامات رسانه‌ای آلمان ضد پورنوگرافی که توسط فناوری‌های تأیید سن محافظت نمی‌شود، اقداماتی انجام داده‌اند که افراد را ملزم می‌کند، قبل از دیدن هرگونه عکس یا فیلم‌های بزرگسالان، سن بالاتر از ۱۸ سال را اثبات کنند. مقامات آلمان به توییتر دستور داده‌اند حساب‌ها را مسدود کنند و سعی کردند تا یکی از بزرگترین وب‌سایت‌های پورنوگرافی جهان را برای کل جمعیت آلمان مسدود کنند.
در آلمان، کمیسیون حمایت از خردسالان در رسانه‌ها (KJM) وظیفه محافظت از کودکان را به صورت برخط بر عهده دارد. در زیرمجموعه این نهاد ۱۴ مقام رسانه‌ای دولتی قرار دارند که مسئولیت مناطق خاص را بر عهده دارند. قوانین این کشور می‌گوید، در دسترس بودن محتوای مستهجن برای افراد زیر ۱۸ سال غیرقانونی است.
بسیاری از گزارش‌های اخیر پلیس مربوط به مواردی است که در توییتر به اشتراک گذاشته شده است. برخی افراد از توییتر اعلامیه‌هایی دریافت کرده‌اند که می‌گویند حساب‌های آن‌ها قوانین محتوای آلمان را زیر پا می‌گذارد و باید حذف شود، در حالی که برخی دیگر نامه‌هایی را از پلیس دریافت کرده‌اند.
«آنکه پلاس» مدیر ارتباطات و سخنگوی سازمان رسانه‌ای برلین و براندنبورگ اعلام کرد: در ماه دسامبر حساب‌های مرتبط با به اشتراک گذاشتن محتوای مستهجن به دادستان عمومی گزارش شده است و در ماه مارس این مقام ۱۰۴ پرونده را به دادستان ارسال کرد. وی می‌گوید ارائه‌دهندگان محتوای مربوط به بزرگسالان وظیفه دارند، اطمینان حاصل کنند که کودکان و نوجوانان به محتوا دسترسی پیدا نمی‌کنند و اگر ارائه‌دهندگان این الزامات را برآورده نکنند، طبق قانون با حبس تا یک سال یا جریمه مجازات می‌شوند. «پلاس» تخمین می‌زند که بیشتر موارد منجر به جریمه ۳۰۰ یورویی (۳۲۲ دلار) شوند.
نظارت بر شبکه‌های اجتماعی در آلمان با استفاده از هوش مصنوعی
تنظیم‌کننده‌های (رگولاتورها) رسانه‌ای آلمان از سال ۲۰۱۹، در حال توسعه هستند و از سیستم هوش مصنوعی برای تشخیص محتوای آنلاینی که ممکن است خلاف قوانین این کشور باشد، استفاده می‌کنند. سیستم هوش مصنوعی به نام "کی وی" (Kivi) توسط همه مقامات رسانه‌ای در سراسر آلمان مورد استفاده قرار می‌گیرد.
Kivi قادر به اسکن پست‌های عمومی در هفت برنامه رسانه‌های اجتماعی و پیام‌رسانی از جمله توییتر، یوتیوب، تیک تاک، تلگرام و VK (نسخه روس فیسبوک) و همچنین وب‌سایت‌های موجود در اینترنت باز است. این ابزار می‌تواند ۱۰ هزار صفحه را در روز پایش کند.
سخنگوی رسانه‌های ایالت نوردراین - وستفالن می‌گوید: از سال ۲۰۲۱ این ابزار تقریباً ۵ هزار تخلف را تشخیص داده است. این سیستم با جستجوی کلمات کلیدی و پیوند‌های از پیش تعیین‌شده آلمانی، محتوای مشکل‌ساز را جستجو و از ترکیب شناسایی تصویر و متن برای تشخیص نتایج مثبت استفاده می‌کند.
Kivi به دنبال انواع مختلفی از محتوا از جمله افراط گرایی سیاسی، خشونت و موارد مستهجن است. با این حال، بر اساس آمار و ارقام به اشتراک گذاشته شده، تخلفات مربوط به موارد مستهجن در صدر این لیست قرار دارد. این سیستم نقض احتمالی قوانین را پرچم‌گذاری می‌کند و سپس اشخاص نتایج را بررسی می‌کنند و تصمیم می‌گیرند که آیا باید اقدامی انجام شود یا خیر.
وب‌سایت خبر فناوری آلمانی Netpolitik کتابچه راهنمای عملیاتی KIVI را در ژوئیه ۲۰۲۲ به دست آورد. این سندی ۲۳۴ صفحه‌ای نحوه عملکرد سیستم را نشان می‌دهد و به اپراتور‌ها آموزش می‌دهد که چگونه می‌توانند مسائل را به شرکت‌های فنی گزارش دهند.
