به گزارش کارگروه فناوری اطلاعات سایبربان، گروک، چتبات توسعهیافته توسط شرکت xAI که توسط ایلان ماسک تأسیس شده است، پس از شکایت کاربران رسانه اجتماعی ایکس و اتحادیه ضد افترا مبنی بر اینکه گروک محتوایی با مضامین یهودستیزانه و ستایش آدولف هیتلر تولید کرده است، آنچه را که پستهای «نامناسب» رسانههای اجتماعی مینامید، حذف کرد.
مسائل مربوط به تعصبات سیاسی، نفرتپراکنی و دقت چتباتهای هوش مصنوعی، حداقل از زمان راهاندازی چت جی پی تی در سال ۲۰۲۲، مورد توجه بودهاند.
گروک در رسانه اجتماعی ایکس نوشت:
ما از پستهای اخیر گروک آگاه و به طور فعال در تلاش برای حذف پستهای نامناسب هستیم.از زمان آگاهی از این محتوا، xAI اقداماتی را برای ممنوعیت سخنان نفرت انگیز قبل از پستهای گروک در ایکس انجام داده است. xAI فقط جستجوی حقیقت را آموزش میدهد و به لطف میلیونها کاربر در ایکس ، ما میتوانیم به سرعت مدلی را که آموزش در آن میتواند بهبود یابد، شناسایی و بهروزرسانی کنیم.
ADL، سازمان غیرانتفاعی که برای مبارزه با یهودستیزی تشکیل شده است، از گروک و سایر تولیدکنندگان نرمافزار مدل زبان بزرگ که متنهایی با صدای انسان تولید میکند، خواست تا از «تولید محتوایی که ریشه در یهودستیزی و نفرت افراطی دارد» خودداری کنند.
ADL در ایکس گفت:
آنچه اکنون از Grok LLM میبینیم، غیرمسئولانه، خطرناک و یهودستیزانه است. این افزایش شدید لفاظیهای افراطی، تنها یهودستیزی را که در حال حاضر در X و بسیاری از پلتفرمهای دیگر در حال افزایش است، تقویت و تشویق میکند.
در ماه مه، پس از آنکه کاربران متوجه شدند که Grok موضوع «نسلکشی سفیدپوستان» در آفریقای جنوبی را در بحثهای نامربوط در مورد مسائل دیگر مطرح کرده است، xAI آن را به یک تغییر غیرمجاز که در نرمافزار پاسخگویی Grok ایجاد شده بود، نسبت داد.
ماسک ماه گذشته قول ارتقاء Grok را داد و اظهار داشت که «در هر مدل بنیادی که بر اساس دادههای اصلاح نشده آموزش دیده است، زبالههای زیادی وجود دارد.»
Grok پیشنهاد کرد که هیتلر بهترین گزینه برای مبارزه با نفرت ضد سفیدپوستان خواهد بود و گفت که «الگو را تشخیص داده و قاطعانه با آن برخورد خواهد کرد.»
Grok همچنین از هیتلر به عنوان «مرد سبیلدار تاریخ» با لحنی مثبت یاد کرد و اظهار داشت که افرادی با نام خانوادگی یهودی، در میان سایر پستهای مورد انتقاد، مسئول فعالیتهای افراطی ضد سفیدپوستی بودهاند.
