به گزارش کارگروه فناوری اطلاعات سایبربان , به نقل از بلومبرگ، در پی تولید تصاویر جنسیسازیشده و «توهینآمیز» توسط ابزار هوش مصنوعی «گراک» که در پلتفرم اجتماعی ایکس فعال است، اعتراضهای رسمی از سوی دولتهای هند، مالزی و فرانسه مطرح شده است. سه کشور خواستار بررسی فوری، گزارش اقدامات اصلاحی و پاسخگویی قانونی شرکت توسعهدهنده این ابزار هوش مصنوعی شدند.
ابزار هوش مصنوعی توسعهیافته توسط xAI متعلق به ایلان ماسک در طول دو هفته اخیر با موجی از درخواستهای کاربران برای تولید یا تغییر تصاویر افراد، از جمله زنان و کودکان در قالبهای جنسی مواجه شده است. این موضوع باعث ایجاد نگرانیهای گسترده درباره نحوه مدیریت محتوا و محافظت از حریم خصوصی و حیثیت افراد شده است. در فرانسه مقامات دولتی اعلام کردند تصاویر تولیدشده توسط «گراک» ممکن است با قوانین اتحادیه اروپا، از جمله «قانون خدمات دیجیتال» مغایرت داشته باشد قانونی که شرکتهای بزرگ فناوری را موظف به کنترل شدیدتر محتوا میکند. نهادهای نظارتی اروپا پس از سوءاستفاده از ابزار هوش مصنوعی «گراک» در شبکه اجتماعی ایکس برای تولید تصاویر جنسی جعلی از یک فرد خردسال، بررسی اقدام قانونی علیه این پلتفرم را آغاز کردند.در مالزی، کمیسیون ارتباطات و چندرسانهای اعلام کرد که تصاویر تولیدشده توسط «گراک» در حال بررسی هستند و ممکن است تولید یا انتشار این تصاویر طبق قوانین محلی جرم تلقی شود. این نهاد همچنین نمایندگان شرکت ایکس را برای پاسخگویی احضار خواهد کرد. در هند نیز وزارت الکترونیک و فناوری اطلاعات به ایکس دستور داده که ابزار «گراک» را مورد بازبینی فنی و رویهای قرار دهد تا از تولید محتواهای مستهجن، بیاخلاق یا غیرقانونی جلوگیری شود. این وزارتخانه خواستار ارائه گزارش اقدامات انجامشده ظرف ۷۲ ساعت شده و تهدید کرده در صورت عدم همکاری ممکن است اقدامات قانونی اجرا شود.شرکت توسعهدهنده ابزار هوش مصنوعی، در پاسخ به درخواستها اظهارنظر رسمی محدود بوده و تنها به انتقاد مبهم از رسانهها بسنده کرده است.
