به گزارش کارگروه امنیت سایبربان ؛ هوش مصنوعی تولیدی (Generative AI) به‌طور چشمگیری ابزارهایی که در اختیار هکرها و سایر افراد مخرب قرار دارد را گسترش داده است. اکنون امکان انجام همه‌چیز از جعل چهره یک مدیرعامل گرفته تا ساخت رسیدهای تقلبی وجود دارد. بنابراین OpenAI تصمیم گرفته که فعالیت خود را در حوزه امنیت سایبری آغاز کند.
OpenAI، بزرگ‌ترین استارتاپ فعال در حوزه هوش مصنوعی تولیدی، از این موضوع بهتر از هر کس دیگری آگاه است. این شرکت به‌تازگی در یک استارتاپ دیگر سرمایه‌گذاری کرده که به شرکت‌ها کمک می‌کند در برابر این نوع حملات از خود دفاع کنند.
استارتاپی به نام Adaptive Security که در نیویورک مستقر است، اعلام کرد که در دور سرمایه‌گذاری سری A موفق به جذب 43 میلیون دلار شده و این حرکت به‌طور مشترک توسط صندوق سرمایه‌گذاری استارتاپ‌های OpenAI و شرکت Andreessen Horowitz انجام شده است. OpenAI تأیید کرده که این اولین سرمایه‌گذاری شرکت در حوزه امنیت سایبری محسوب می‌شود.
Adaptive Security با شبیه‌سازی هک‌های ایجادشده توسط هوش مصنوعی، کارکنان شرکت‌ها را آموزش می‌دهد تا بتوانند این تهدیدات را تشخیص دهند. در حال حاضر، ممکن است گوشی خود را بردارید و صدای مدیر ارشد فناوری شرکت‌تان (CTO) را بشنوید که از شما کدی برای تأیید می‌خواهد؛ اما آن شخص در واقع مدیر واقعی‌تان نباشد، بلکه صدایی جعلی و ساختگی باشد که توسط Adaptive Security تولید شده است.
پلتفرم Adaptive Security فقط تماس‌های تلفنی جعلی را شبیه‌سازی نمی‌کند، بلکه پیامک‌ها و ایمیل‌ها را هم شامل می‌شود. این پلتفرم بخش‌هایی از یک شرکت را که بیشتر در معرض آسیب هستند شناسایی کرده و کارکنان را برای شناسایی این خطرات آموزش می‌دهد.
فعالیت‌های استارتاپ Adaptive Security
تمرکز این استارتاپ روی نوعی از هک‌هاست که به مشارکت انسان نیاز دارد؛ یعنی مواردی که در آن کارمند باید کاری انجام دهد که عواقب بدی به‌دنبال دلرد، مثل کلیککردن روی یک لینک آلوده. این نوع حملات که به «مهندسی اجتماعی» معروف‌اند، با اینکه ساده هستند، زیان‌های بزرگی به بار آورده‌اند؛مثل آنچه برای بازی Axie Infinity رخ داد. این شرکت در سال 2022 بیش از 600 میلیون دلار را به خاطر یک پیشنهاد شغلی جعلی برای یکی از توسعه‌دهندگانش از دست داد.
برایان لانگ، یکی از بنیان‌گذاران و مدیرعامل Adaptive گفت که ابزارهای هوش مصنوعی اجرای حملات مهندسی اجتماعی را از همیشه آسان‌تر کرده‌اند. استارتاپ Adaptive در سال 2023 راه‌اندازی شده و اکنون بیش از 100 مشتری دارد. لانگ می‌گوید بازخورد مثبت مشتریان یکی از دلایلی بود که OpenAI را جذب سرمایه‌گذاری در این شرکت کرد.
نکته مهم دیگر این است که لانگ یک کارآفرین باسابقه است که دو استارتاپ موفق پیش از این داشته: نخست، شرکت تبلیغات موبایلی TapCommerce که در سال 2014 به قیمت بیش از 100 میلیون دلار به توییتر فروخته شد؛و دوم، شرکت فناوری تبلیغاتی Attentive که طبق گفته یکی از سرمایه‌گذارانش در سال 2021 بیش از 10 میلیارد دلار ارزش‌گذاری شد.
لانگ توضیح دادکه Adaptive Security قصد دارد بیشتر سرمایه جدیدش را صرف استخدام مهندسان و توسعه محصولش کند تا در «رقابت تسلیحاتی» هوش مصنوعی علیه عوامل مخرب عقب نماند.
Adaptive Security اکنون به فهرستی طولانی از استارتاپ‌های سایبری می‌پیوندد که روی تهدیدات ناشی از هوش مصنوعی کار می‌کنند. به گزارش فوربز، شرکت Cyberhaven به‌تازگی 100 میلیون دلار سرمایه با ارزش‌گذاری یک میلیارد دلاری جذب کرده تا از افشای اطلاعات حساس کارکنان در ابزارهایی مانند ChatGPT جلوگیری کند. همچنین شرکت Snyk وجود دارد که رشد درآمد سالانه‌اش (ARR) را تا حدی مدیون افزایش کدهای ناامن تولیدشده توسط هوش مصنوعی می‌داند و این رشد از 300 میلیون دلار عبور کرده است. همچنین استارتاپ GetReal، که در زمینه شناسایی جعل عمیق (Deepfake) فعالیت می‌کند، ماه گذشته 17.5 میلیون دلار جذب سرمایه داشته است.
در حالی که تهدیدات مبتنی بر هوش مصنوعی روزبه‌روز پیچیده‌تر می‌شوند، لانگ یک توصیه ساده برای کارکنان شرکت‌ها دارد که نگران جعل صدای خود توسط هکرها هستند: پیغام‌گیر گوشی خود را پاک کنید.
