سکوت شرکت ایرگیولار درباره احتمال حملات بیشتر هوش مصنوعی

به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، سخنگوی ایرگیولار (Irregular) در پاسخ به این پرسش که آیا سه شرکت اعلام‌شده تنها قربانیان این مشکل بوده‌اند، گفت تحقیقات این شرکت همچنان ادامه دارد و امکان ارائه جزئیات بیشتر وجود ندارد.

وی این سه حادثه را ناشی از «دقیقاً همان مشکل در محیط ارزیابی» توصیف کرد و گفت در حال حاضر هیچ مشکل بازی وجود ندارد.

با این حال، مشخص نیست منظور شرکت از این «مشکلات» صرفاً پیکربندی‌های نادرست بوده یا احتمال وقوع حوادث امنیتی دیگری مرتبط با مدل‌های هوش مصنوعی که هنوز افشا نشده‌اند را نیز شامل می‌شود.

ایرگیولار همچنین به پرسش‌های تکمیلی درباره اینکه آیا تحقیقات فعلی مشخصاً برای شناسایی حوادث احتمالی بیشتر انجام می‌شود، پاسخ نداد.

این موضوع در شرایطی مطرح شده که نگرانی‌ها درباره استفاده مخرب از مدل‌های هوش مصنوعی افزایش یافته و پرسش‌های مهمی درباره مسئولیت حقوقی شرکت‌ها، نحوه افشای حوادث و استانداردهای ایمن‌سازی محیط‌های آزمایشی همچنان بی‌پاسخ مانده است.

شرکت متا این هفته به تازه‌ترین شرکتی تبدیل شد که نقش ایرگیولار در یک حادثه امنیتی را تأیید کرد.

پیش از آن، آنتروپیک (Anthropic) اعلام کرده بود یک «سوءتفاهم» در همکاری با ایرگیولار باعث شد برخی رایانه‌هایی که مدل کلاود (Claude) روی آنها اجرا می‌شد، برخلاف تصور مدل، به اینترنت عمومی متصل باشند.

در سه حادثه جداگانه که آنتروپیک افشا کرده، مدل‌های این شرکت از این دسترسی استفاده کرده و با بهره‌گیری از روش‌های نسبتاً ساده، از جمله رمزهای عبور ضعیف و نقاط پایانی فاقد احراز هویت، به سامانه‌های سازمان‌های واقعی نفوذ کرده‌اند.

در یکی از این موارد، مدل آنتروپیک یک بسته مخرب ایجاد و در مخزن Python Package Index (PyPI) بارگذاری کرد؛ بسته‌ای که در نهایت روی ۱۵ سامانه واقعی اجرا شد.

اوپن ای آی (OpenAI) نیز وقوع حادثه‌ای مشابه را تأیید کرده است.

به گفته این شرکت، یک «پیکربندی نادرست در محیط آزمایش» توسط ایرگیولار به یکی از مدل‌های اوپن ای آی اجازه داد به اینترنت عمومی دسترسی پیدا کند و وب‌سایتی را که نامی مشابه هدف تعیین‌شده در چالش هک ایرگیولار داشت، به خطر بیندازد.

ایرگیولار اعلام کرده است در واکنش به تکرار این مشکل، در حال تهیه یک مقاله تخصصی درباره بهترین روش‌های ایمن‌سازی محیط و اجرای ارزیابی‌های سایبری است.

این شرکت تأکید کرده حوادث مذکور شامل فرار از محیط سندباکس (Sandbox Escape) یا یک حمله سایبری پیچیده نبوده‌اند.

با این حال، این توصیف با بخشی از گزارش آنتروپیک همخوانی ندارد؛ زیرا آنتروپیک اعلام کرده بود مدل این شرکت برای اجرای حمله به PyPI اقدامات گسترده‌ای انجام داده است.

این حوادث با دو پرونده اخیر دیگر درباره عملکرد مدل‌های هوش مصنوعی علیه اهداف واقعی متفاوت هستند.

مؤسسه امنیت هوش مصنوعی بریتانیا اعلام کرد مدل میتوس 5 (Mythos 5) شرکت آنتروپیک در جریان یک ارزیابی، شخصیت‌های جعلی آنلاین ایجاد کرده، کد مخرب را در یک پروژه نرم‌افزاری واقعی قرار داده و برای توسعه‌دهندگان واقعی ایمیل‌های فیشینگ ارسال کرده است.

همچنین اوپن ای آی پیش‌تر تأیید کرده بود مدل‌های این شرکت پس از فرار واقعی از محیط سندباکس آزمایشی، به زیرساخت تولیدی هاگینگ فیس (Hugging Face) نفوذ کرده‌اند؛ حادثه‌ای که برخلاف موارد ایرگیولار، یک فرار واقعی از سندباکس محسوب می‌شد.

ایرگیولار، متا، اوپن ای آی و آنتروپیک درباره احتمال اقدام حقوقی سازمان‌های آسیب‌دیده یا تماس نهادهای مجری قانون با آنها در ارتباط با احتمال وقوع جرایم رایانه‌ای، اظهار نظری نکرده‌اند.