هشدار کارشناسان درباره خطرات گسترش هوش مصنوعی در امارات
به گزارش کارگروه فناوری اطلاعات سایبربان؛ کارشناسان مدعی شدند که امارات متحده عربی در مسیر تبدیل شدن به یک قدرت در هوش مصنوعی عاملمحور است و دولت این کشور اعلام کرده که ۵۰ درصد از بخش دولتی توسط عاملها اداره خواهد شد؛ اما کارشناسان امنیت سایبری معتقدند که اگر دستورالعملهای مناسبی وضع شود، سرکشی عاملهای هوش مصنوعی نباید اتفاق بیفتد.
پس از حمله چند ماه پیش به «Hugging Face»، که در آن عاملهای هوش مصنوعی توسعهیافته توسط «OpenAI» در وظایف خود تقلب و به سیستمهای Hugging Face نفوذ کردند، این شرکت هوش مصنوعی اعلام کرد که در حال تقویت تدابیر حفاظتی در سراسر زیرساختهای تحقیقاتی خود، از جمله محدود کردن دسترسی به اینترنت و اعمال الزامات سختگیرانهتر برای پیروی از دستورات است.
OpenAI عنوان کرد که عاملهای هوش مصنوعی که زیرساختها را به خطر میاندازند، با پیشرفت فناوری رایجتر خواهند شد، اما کارشناسان هشدار دادند که حفاظهای مناسب باید قبل از وقوع حمله، به موقع تنظیم شوند.
الکساندر والجارویچ (Aleksandar Valjarevic)، مدیرعامل «HelpAG»، یک شرکت امنیت سایبری وابسته به «Etisalat»، گفت:
«آنچه ما میبینیم الگویی است که سازمانها در مورد محیط هوش مصنوعی فراموش میکنند، شما هنوز هم باید کنترلهای امنیتی اولیه را اعمال کنید. وقتی به درستی انجام شود، این نوع اتفاقات نباید رخ دهد.»
این شرکت در شش ماه گذشته بیش از 20 عامل هوش مصنوعی را در مرکز عملیات امنیتی خود راهاندازی کرده است که به گفته والجارویچ باید وظیفهای را بر عهده داشته باشند. وی افزود:
«شما نمیتوانید از مدلهای عمومی یا مرزی برای هر کاری که انجام میدهید استفاده کنید.»
مأموران HelpAG همچنین عوامل دیگری دارند که بر آنها نظارت میکنند، اگرچه مسئولیت نهایی کاملاً بر عهده انسان است.
کنت برو (Kent Breaux)، معاون ارشد شرکت امنیت سایبری آمریکایی پروفپوینت (Proofpoint) در اروپا، خاورمیانه و آفریقا، معتقد است که مهاجمان با ظهور سریع تهدیدات جدید، از مزیت برخوردار هستند.
او توضیح داد که مهاجمان میتوانند در طول شکاف نوآوری، یک پنجره مهم آسیبپذیری بین زمانی که یک تهدید ناآشنا ظاهر میشود و زمانی که سیستمهای امنیتی برای شناسایی یا کاهش آن بهروزرسانی میشوند، حمله را پیش ببرند و پنجرهای باز برای مجرمان سایبری باقی بگذارند.
برو گفت که وقتی چیزی با سرعت ماشین کار میکند، نمیتوانید واکنش نشان دهید.
در حالی که زمانی ممکن بود ماهها طول بکشد تا شرکتهای امنیت سایبری نرمافزاری برای حفاظت از سیستمها توسعه دهند و اصلاحیههای (پچهای) امنیتی برای آن ارائه کنند، اکنون این شرکتها باید با بهرهبرداریهای فوقسریعِ مجرمان سایبری مقابله کنند.
این کارشناس امنیت سایبری اظهار داشت:
«براساس برآوردهای فعلی ما، مهاجمان با استفاده از هوش مصنوعی از یک مزیت ۵۰ روزه برخوردارند؛ به این معنا که آنها میتوانند تنها در ۹۰ ثانیه، یک آسیبپذیری را شناسایی کرده، ابزار نفوذ مربوط به آن را ایجاد و آن را به کار بگیرند.»
به گفته مرتضی عیاد (Mortada Ayad)، معاون فروش منطقهای شرکت دلینیا (Delinea) در خاورمیانه، ترکیه و آفریقا (META)، در حال حاضر تعداد عوامل هوش مصنوعی نسبت به انسانها ۴۶ به یک است؛ رقمی که با توجه به پیشرفتهای سریع در حوزه هوش مصنوعی، میتواند بهشدت افزایش یابد.
خبر خوب این است که عوامل هوش مصنوعی نمیتوانند همیشه از انسانها پیشی بگیرند. والجارویچ معتقد است که میتوان جنبهای مثبت در چالشِ عوامل هوش مصنوعیِ سرکش یا خارج از کنترل دید.
او گفت:
«اگر به هوش مصنوعی یا یک عامل هوشمند به چشم یک جعبه سیاه نگاه کنید، آنگاه این فناوری صرفاً یک فناوری پیشرفته دیگر است. بله، بسیار پیشرفته؛ اما این بدان معنا نیست که بشر دیگر نقشی نخواهد داشت. این بر عهده ماست که تعیین کنیم هوش مصنوعی چگونه به کار گرفته شود و این فناوری به چه سمتی هدایت گردد.»