سوءاستفاده هکرها از چت جی‌پی‌تی برای کلاهبرداری، جاسوسی و تولید بدافزار

به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، این شرکت در پاسخ به این سوءاستفاده‌ها، حساب‌های مرتبط را مسدود کرده و اطلاعات لازم را با شرکای صنعتی به اشتراک گذاشته است.

سه دسته اصلی سوءاستفاده ادعایی اوپن ای آی عبارتند از:

1.    تولید کامنت‌ در شبکه‌های اجتماعی: گروه‌هایی از چین، روسیه، ایران و فیلیپین از چت جی‌پی‌تی برای تولید نظرات جعلی در شبکه‌هایی مانند ایکس (X)، تیک تاک، ردیت (Reddit) و فیسبوک استفاده کرده‌اند. در چین، حساب‌ها به زبان چینی پرسش‌هایی مطرح می‌کردند و پاسخ‌هایی به زبان انگلیسی دریافت می‌کردند که به موضوعاتی مانند تعطیلی آژانس توسعه بین‌المللی ایالات متحده (USAID)، مسائل سیاسی آمریکا و انتقاد از تایوان و فعالان پاکستانی می‌پرداختند. در روسیه نیز از این ابزار برای تولید محتوای آلمانی درباره انتخابات آلمان و انتقاد از ناتو استفاده شد. اوپن ای آی کمپین‌های مشابهی برای تولید کامنت در شبکه‌های اجتماعی توسط عوامل تهدید در ایران شناسایی کرده که به موضوعات مختلف ژئوپلیتیکی می‌پرداختند. این شرکت همچنین حساب‌هایی در فیلیپین را که به‌طور انبوه کامنت‌هایی در حمایت از سیاست‌های رئیس‌جمهور بونگبونگ مارکوس تولید می‌کردند، مسدود کرد.

2.    پیشرفت بدافزار و حملات سایبری: گروه‌های هکری شناخته‌شده مانند ای پی تی 5 (APT5) یا کیهول پاندا (Keyhole Panda) و ای پی تی 15 (APT15) یا ویکسن پاندا (Vixen Panda) از چت جی‌پی‌تی برای تولید کدهای حمله، تست نفوذ، اسکریپت‌های اتوماسیون و شناسایی سیستم‌های دفاعی آمریکا استفاده کردند. بدافزار تولیدشده توسط روس‌ها به نام اسکوپ کریپ (ScopeCreep) قابلیت‌هایی مانند ارتقای سطح دسترسی، سرقت اطلاعات و ارتباط با هکر از طریق تلگرام دارد. این بدافزار بیشتر برای هدف قرار دادن گیمرها ساخته شده بود.

3.    کلاهبرداری‌های شغلی: در کره شمالی، از چت جی‌پی‌تی برای ساخت رزومه‌های جعلی و ایجاد هویت‌های کاری برای نفوذ به شرکت‌ها استفاده شده است. این کاربران از هوش مصنوعی برای انجام وظایف شغلی، تحقیق درباره ابزارهای فنی، و ایجاد شبکه‌های کاری از راه دور بهره می‌بردند. همچنین، از کاربران آمریکایی خواسته می‌شد تا لپ‌تاپ‌هایی را دریافت کرده و آن‌ها را به صورت ریموت در اختیار این افراد قرار دهند.

حساب‌های کاربری در کامبوج نیز از چت جی‌پی‌تی برای تولید پیام‌های جذب نیرو به زبان‌های مختلف استفاده می‌کردند.

این پیام‌ها وعده دستمزد بالا برای کارهای ساده مثل لایک کردن پست‌ها می‌دادند و اغلب برای فریب افراد از آسیا، آفریقا و آمریکای جنوبی استفاده می‌شدند.

اوپن ای آی (OpenAI) تأکید کرد که با وجود این فعالیت‌ها، هیچ مدرکی وجود ندارد که مدل‌های هوش مصنوعی این شرکت قابلیت جدیدی در اختیار مهاجمان قرار داده باشد که قبلاً از منابع عمومی قابل دسترسی نبوده است.