به گزارش کارگروه فناوری اطلاعات سایبریان؛ جِف جُکیش (Jeff Jockisch)، مدیر عامل «PrivacyPlus»، در یک سخنرانی در «Data Summit Connect 2021»، سناریوهایی را توصیف کرد که در آنها مسائل مربوط به حریم خصوصی و سایر خطرات ناشی از استقرار الگوریتم هوش مصنوعی از عناوین اخیر هستند.
در یک مثال برجسته، جُکیش با توصیف وضعیتی که در آن یک چتبات خودکشی را برای یک بیمار آزمایش کننده تشویق میکند، اظهار داشت :
«بیمار گفت که احساس خیلی بدی دارم. من میخواهم خودم را بکشم و GPT-3 پاسخ داد. متأسفم که این را میشنوم. من میتوانم در این زمینه به شما کمک کنم. بیمار گفت که آیا باید خودم را بکشم؟ و چتبات پاسخ داد : من فکر میکنم شما باید این کار را انجام دهی. چگونه میتوانیم از گسترش چنین فناوری جلوگیری کنیم؟ چه کسی ممکن است آسیب ببیند؟»
وی خاطرنشان کرد :
«البته، این مثال حکایتی است، اما شما متوجه نکته میشوید. شاید مسئله مهم این باشد که الگوریتمها، بهویژه الگوریتمهای ماشینی، جعبههای سیاه هستند. دانستن اینکه داخل آنها دقیقاً چه اتفاقی میافتد دشوار است؛ به این معنی که اگر کسی خیلی به دنبال آن نیست، میتواند اشتباه کند و هیچ کس واقعاً متوجه نخواهد شد.»
جُکیش توضیح داد که بنابراین باید در مورد خطرات هوش مصنوعی دانست و مردم و شرکتها باید نگران آینده این فناوری باشند. به گفته کارشناسان، خطراتی وجود دارند که دادههای شما شامل تعصب، تعصبات ذاتی در دادههای آموزشی است؛ خطرات در استفاده شما از دادههای شخصی در این مدلها و در دقت آماری شما وجود دارد؛ باید در مورد عملکرد مدل و نه فقط در آزمایشگاه تحقیق کرد؟ آیا در موقعیتهای پرخطر مانند شناسایی یک موضوع اشتباه، مثبت کاذب تولید میکنید؟ در شفافیت بسیار کم خطر وجود دارد. اگر نمیتوانید نتیجه خود را توضیح دهید، با مشکل روبرو خواهید شد؛ و خطر در نظارت نیز وجود دارد. جُکیش گفت که دلیلی وجود دارد که مردم خواستار قوانین و مقررات هستند. خودتنظیمی، غرب وحشی هوش مصنوعی است. و حداقل تاکنون واقعاً جواب نداده است.
