به گزارش کارگروه فناوری اطلاعات سایبربان، شرکت مایکروسافت پیشنویس منشور رفتاری را برای هوش مصنوعی داخلی خود رونمایی کرد؛ اقدامی که بازتابدهنده نگرانی فزاینده مبنی بر اینکه شرکتها باید هوش مصنوعی قدرتمندِ آینده را تحت کنترل انسان نگه دارند.
این سند که تدوین آن پنج تا شش ماه به طول انجامیده است، هوش مصنوعی مایکروسافت را ملزم میکند که هرگز در برابر اصلاح یا خاموششدن مقاومت نکند، به شیوهای قابلفهم برای انسانها ارتباط برقرار سازد و هرگونه تخلف رفتاری را به منزله شکست تلقی کند؛ اقدامی که باهدف رفع نگرانیها درباره احتمال توسل هوش مصنوعی به اقدامات خطرناک برای انجام یک وظیفه صورت میگیرد.
انتشار این قانون چند روز پس از آن صورت میگیرد که داریو آمودی، مدیرعامل شرکت آنتروپیک و سم آلتمن، رئیس OpenAI، بار دیگر از صنعت خواستند تا توسعه هوش مصنوعی را برای تضمین ایمنی آن تسریع کند. مایکروسافت در راستای چشمانداز قبلی خود برای (ابرهوش انسانگرا) اعلام کرد:
انسانها مهمتر از هوش مصنوعی هستند.
مصطفی سلیمان، مدیرعامل مایکروسافت گفت:
این قانون رفتاری، نوعی قانون اساسی برای مدلهای آینده ساخته شده توسط این شرکت است.
مایکروسافت این قانون را پس از مشاورههای تخصصی تدوین کرده و اکنون خواستار دریافت بازخورد عمومی طی شش هفته است، از جمله در مورد سؤالات باز مانند اینکه آیا هوش مصنوعی باید به مرزهای کاربر احترام بگذارد و چگونه باید با کسی که در یک وضعیت حساس قرار دارد، تعامل کند.
سلیمان درباره این کد گفت:
پس از آن، از این کد برای آموزش مدلهایی که میسازیم استفاده خواهد شد.
مشهورترین منشور (مجموعه اصول راهنما) در صنعت هوش مصنوعی، همان سندی است که شرکت آنتروپیک (Anthropic) سالها پیش برای هوش مصنوعی خود، یعنی کلود (Claude)تدوین کرد. این منشور از برخی جهات با منشور مایکروسافت تفاوت دارد؛ برای مثال، آنتروپیک در سند خود اعلام میکند که در مورد احتمال دستیابی کلود به خودآگاهی یا برخورداری از جایگاه اخلاقی، تردید عمیقی وجود دارد.
در مقابل، مایکروسافت تأکید میکند که هوش مصنوعیاش فاقد آگاهی است و میافزاید:
ما پیگیری اعطای شخصیت حقوقی [به هوش مصنوعی]، یا این ایده که مدلها ممکن است مستحق رفاه یا برخوردار از حقوق باشند را رد میکنیم.
سلیمان اظهار داشت که بحث پیرامون ایمنی هوش مصنوعی پس از آنکه گروهی متشکل از حدود ۷۰۰ عامل (ایجنت) هوش مصنوعیِ شرکت اوپنایآی (OpenAI) در ماه ژوئیه اقدام به هککردن پلتفرم متنباز هاگینگ فیس (Hugging Face) کردند و در مواردی سعی در پنهانکردن ردپای خود داشتند به موضوعی فوری و حیاتی تبدیل شده است.
سلیمان گفت:
این یک زنگ خطر است. اکنون آشکارا زمان آن فرارسیده است که میان آزمایشگاهها هماهنگی ایجاد کنیم تا اطمینان یابیم که بر این فناوری کنترل داریم.
