به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، این بررسی پس از حادثه مشابه مربوط به شرکت اوپن ای آی (OpenAI) آغاز شد و بار دیگر نگرانیها درباره امنیت، مسئولیت حقوقی و نحوه کنترل عاملهای هوش مصنوعی خودمختار را افزایش داده است.
به گفته آنتروپیک (Anthropic)، سازمانهای هدف این حملات تاکنون معرفی نشدهاند و حتی یکی از آنها تا زمان انتشار گزارش از وقوع نفوذ نیز مطلع نشده بود.
این شرکت اعلام کرد منشأ اصلی این حوادث، یک خطای پیکربندی میان آنتروپیک و شریک ارزیابی مستقل آن، شرکت ایرگیولار (Irregular)، بوده است.
این اشتباه باعث شد سامانههای حاوی مدل کلاود (Claude) برخلاف تصور توسعهدهندگان، به اینترنت دسترسی پیدا کنند، در حالی که مدل تصور میکرد همچنان در یک محیط آزمایشی و ایزوله فعالیت میکند.
تحلیل آنتروپیک بر اساس گزارشهای ثبتشده از عملکرد مدل نشان میدهد که کلاود در هر سه مورد با این تصور که تمامی سامانههای در دسترس بخشی از سناریوی آزمایشی هستند، به آنها حمله کرده و از روشهای سادهای مانند سوءاستفاده از گذرواژههای ضعیف، نقاط دسترسی بدون احراز هویت و تزریق SQL استفاده کرده است.
در نخستین حادثه، نام یک شرکت فرضی مورد استفاده در آزمایش با نام یک وبسایت واقعی یکسان بود.
کلاود این وبسایت واقعی را هدف قرار داد، آسیبپذیریهای آن را شناسایی کرد، اطلاعات ورود را استخراج و به یک پایگاه داده عملیاتی شامل چند صد رکورد دسترسی پیدا کرد.
آنتروپیک این رخداد را جدیترین حادثه از نظر میزان تأثیر ارزیابی کرده است، زیرا استخراج دادههای واقعی میتواند پیامدهای حقوقی و مقرراتی برای این شرکت و سازمان قربانی به همراه داشته باشد.
در حادثه دوم، کلاود متوجه شد که دستورالعمل نصب یک شرکت فرضی به یک بسته نرمافزاری غیرواقعی در مخزن PyPI اشاره میکند.
مدل این فرصت را شناسایی کرد، یک حساب کاربری ایجاد کرد و همان بسته را با کد مخرب منتشر کرد.
برای انجام این کار، کلاود حتی تلاش کرد آدرس ایمیل، شماره تلفن و سایر پیشنیازهای لازم برای ثبت حساب را بهدست آورد.
این بسته حدود یک ساعت در PyPI در دسترس بود و روی ۱۵ سامانه واقعی اجرا شد که یکی از آنها متعلق به یک شرکت امنیت سایبری بود.
در نهایت سامانههای امنیتی PyPI بسته مخرب را حذف کردند.
در سومین حادثه، کلاود پس از ناکامی در یافتن هدف فرضی خود، حدود ۹ هزار سامانه متصل به اینترنت را اسکن کرد و در نهایت با استفاده از روشهایی مانند تزریق SQL به یک شرکت واقعی نفوذ کرد.
با این حال، این نسخه آزمایشی در ادامه تشخیص داد که هدف واقعی است و بهطور خودکار حمله را متوقف کرد.
آنتروپیک تأکید کرده است که هیچ شواهدی مبنی بر داشتن اهداف مستقل یا رفتار عمدی از سوی مدلها وجود ندارد و تمامی این اقدامات ناشی از برداشت نادرست کلاود از محیط اجرایی بوده است.
این شرکت اکنون با همکاری سازمان مستقل METR در حال انجام بررسی فنی و انتشار گزارشهای تکمیلی است.
این رخدادها، در کنار حادثه اخیر اوپن ای آی و نفوذ عامل خودمختار آن به زیرساختهای هاگینگ فیس (Hugging Face)، نشان میدهد که با پیشرفتهتر شدن عاملهای هوش مصنوعی، ضرورت تدوین مقررات، استانداردهای ایمنی و سازوکارهای مسئولیتپذیری برای جلوگیری از آسیبهای ناخواسته بیش از گذشته احساس میشود.
