به گزارش کارگروه فناوری اطلاعات سایبربان، اداره ارتباطات جهانی سازمان ملل متحد خواستار اقدامات حفاظتی قوی در برابر خطرات اطلاعات آنلاین که کودکان و نوجوانان را تحتتأثیر قرار میدهد، از جمله اطلاعات نادرست، آزار و اذیت، تعصب الگوریتمی و استفاده مضر از هوش مصنوعی، شده است.
گزارش شماره جدید این وزارتخانه با عنوان (کودکان، جوانان و یکپارچگی اطلاعات)، از دولتها، شرکتهای فناوری، تبلیغکنندگان، سازمانهای رسانهای و محققان خواست که اصول موجود را به حفاظتهای عملی تبدیل کنند و درعینحال به جوانان نقش معناداری در شکلدهی سیاستهای دیجیتال بدهند.
این گزارش تأکید میکند که بسیاری از آسیبهای آنلاین ناشی از مدلهای کسبوکار پلتفرم و انتخابهای طراحی است که از توجه و دادههای شخصی پول در میآورند. الگوریتمهای مبتنی بر تعامل، تبلیغات رفتاری، الگوهای تاریک و سایر ویژگیهای اقناعی میتوانند از ظرفیتهای شناختی و عاطفی درحالتوسعه کودکان سوءاستفاده کنند.
هوش مصنوعی از طریق محتوای مصنوعی، سوءاستفاده تسهیلشدن توسط فناوری، سیستمهای توصیه مبهم و رباتهای چت که به طور فزایندهای نحوه یافتن اطلاعات توسط جوانان را شکل میدهند، خطرات بیشتری را ایجاد میکند. سازمان ملل متحد نسبت به انتظار برای تثبیت آسیبها قبل از گنجاندن حقوق کودکان در مدیریت هوش مصنوعی هشدار میدهد.
طبق این گزارش، سیاستهای ایمنی آنلاین نباید بار اصلی را بر دوش کودکان، والدین یا انتخابهای فردی در مورد زمان استفاده از صفحهنمایش بگذارند. دولتها باید ایمنی طراحیشده، پاسخگویی قویتر شرکتها، خدمات متناسب با سن و بالاترین تنظیمات حریم خصوصی و ایمنی مناسب را به طور پیشفرض الزامی کنند.
محدودیتهای سنی و سیستمهای تأیید بهتنهایی بعید است که محافظت کافی را ارائه دهند. این گزارش هشدار میدهد که چنین اقداماتی را میتوان دور زد، خطرات حریم خصوصی ایجاد کرد و از دسترسی کودکان آسیبپذیر به آموزش، شبکههای پشتیبانی و اطلاعات مفید جلوگیری کرد.
شرکتهای فناوری همچنین تشویق میشوند که به محققان مستقل دسترسی به دادههای پلتفرم با حفظ حریم خصوصی ارائه دهند. سازمان ملل متحد اعلام کرد که شفافیت بیشتری برای ارزیابی چگونگی تأثیر سیستمهای توصیه، مدلهای تبلیغاتی و محصولات هوش مصنوعی بر کاربران جوانتر و اینکه آیا اقدامات حفاظتی شرکت مؤثر است یا خیر، موردنیاز است.
در همین حال، کودکان و نوجوانان باید بهعنوان شریک و نه ذینفع منفعل در نظر گرفته شوند. این گزارش توصیه میکند که آنها در طول توسعه، ارزیابی و مدیریت فناوریهای دیجیتال، از جمله از طریق مکانیسمهای مشاوره جوانان و مشارکت در تعیین استاندارد هوش مصنوعی، مشارکت داده شوند.
این گزارش همچنین خواستار سرمایهگذاری قویتر در سواد دیجیتال، رسانهای و هوش مصنوعی، روزنامهنگاری متمرکز بر جوانان و ظرفیت تحقیقاتی در کشورهای جنوب جهان است، جایی که شواهد مربوط به تجربیات دیجیتال کودکان نسبتاً محدود است.
