رونمایی از مدل هوش مصنوعی پرچمدار علیبابا
به گزارش کارگروه فناوری اطلاعات سایبربان، علیبابا اقدامات امنیتی جدیدی را برای مدل هوش مصنوعی پرچمدار خود، از جمله محدودیتهایی در نگهداری دادههای آموزشی مرتبط با حملات سایبری، ایجاد کرده است، زیرا توسعهدهندگان هوش مصنوعی چینی، جزئیات بیشتری از اقدامات حفاظتی در برابر سوءاستفاده از سیستمهای هوش مصنوعی که به طور فزایندهای قدرتمند میشوند، ارائه میدهند.
علیبابا در بیانیهای اعلام کرد که مدل کوئن ۴ مکس (Qwen4-Max) که روز دوشنبه ۱۶ نوامبر رونمایی شد بهگونهای آموزشدیده است که دانش امنیت سایبری مفید برای شناسایی و رفع آسیبپذیریهای نرمافزاری را در خود حفظ کند، اما درعینحال، شامل مطالبی که هدف آنها تقویت قابلیتهای هک تهاجمی است، نمیشود.
ایالات متحده و چین هر دو برای توسعه سیستمهای هوش مصنوعی بهمراتب قدرتمندتر با یکدیگر رقابت میکنند، اما اکنون با نگرانیهای فزایندهای دستبهگریباناند؛ نگرانیهایی از این بابت که این فناوری ممکن است برای انجام حملات سایبری، ساخت سلاحهای خطرناک، یا عملکردی فراتر از کنترل انسان مورد سوءاستفاده قرار گیرد. سناریویی که گاه از آن با عنوان هوش مصنوعی سرکش یاد میشود.
رقبای چینی علیبابا، تنسنت و مونشات اِیآی، پیشازاین اقدامات حفاظتی را اعلام کردهاند که نشاندهنده تغییر به سمت شفافیت بیشتر است. این اقدام پس از آن صورت گرفت که توسعهدهندگان پیشرو هوش مصنوعی در چین، نتایج آزمایش ایمنی را تنها برای ۳.۶ درصد از ۸۵۷ مدل منتشر شده منتشر کردهاند.
تنسنت در ماه جاری اعلام کرد که آموزشهای امنیت سایبری برای مدل جدید خود، (Hy4)، را به کاربردهای تدافعی محدود کرده است؛ درحالیکه شرکت مونشات نیز در ماه اکتبر اظهار داشت که به طور عمدی قابلیتهای هک مدل (Kimi K3.1 Pro) خود را کاهش داده است.
علیبابا اعلام کرد که مدل (Qwen4-Max) امتیاز خود را در یک معیار سنجش تولید کد ایمن که شامل توابع، فایلها و مخازن نرمافزاری میشود از ۸ درصد در نسخه پیشین، به ۱۴.۷ درصد ارتقا داده است.
علیبابا همچنین اظهار داشت که این مدل در برابر تهدیدات شیمیایی، بیولوژیکی، رادیولوژیکی و هستهای از تدابیر حفاظتی قویتری برخوردار است؛ این شرکت افزود که ارزیابیهای داخلی هیچگونه شواهدی مبنی بر اینکه این مدل بتواند توانایی کاربران را برای انجام اقدامات خطرناک به طور قابلتوجهی افزایش دهد، نشان ندادهاند.
به گفته علیبابا، مدل (Qwen4-Max) که با ۲.۴ تریلیون پارامتر ساخته شده، در آزمایشهای داخلی توانسته است میانگین هزینه انجام وظایف را در مقایسه با نسخه قبلی خود، حدود ۶۰ درصد کاهش دهد.
این شرکت قصد دارد مدلهای کوچکتری از خانواده (Qwen4) را با وزنهای (پارامترهای) در دسترس عموم (Open-weight) عرضه کند تا توسعهدهندگان در سراسر جهان بتوانند آنها را دانلود کرده و تغییر دهند.