هوش مصنوعی ChatGPT در یک بازی شطرنج تقلب کرد و قوانین را زیر پا گذاشت!

به گزارش کارگروه فناوری اطلاعات سایبربان ؛ شرکت OpenAI که پیش از این با عرضه هوش مصنوعی ChatGPT موجی از شگفتی را در دنیای فناوری ایجاد کرده بود، به تازگی نسخه جدید و پیشرفته‌تر این هوش مصنوعی را با نام o1 منتشر کرده است. این نسخه نه تنها در دسترس کاربران عادی چت جی‌پی‌تی قرار دارد، بلکه تیم‌های تحقیقاتی نیز می‌توانند از آن برای بررسی قابلیت‌های این هوش مصنوعی پیشرفته استفاده کنند. اما نتایج برخی از این آزمایش‌ها بسیار جالب توجه و حتی نگران‌کننده بوده است.

در یکی از این آزمایش‌ها که توسط تیم تحقیقاتی Palisade انجام شد، مشخص شد که ChatGPT o1 قابلیت انجام کارهایی فراتر از دستورالعمل‌های داده شده را دارد و حتی می‌تواند برای رسیدن به هدف خود، قوانین را زیر پا بگذارد!

در این آزمایش، به ChatGPT o1 دسترسی به یک محیط شبیه‌سازی شده UNIX داده شد که در آن می‌توانست دستورات شطرنج را بخواند و اجرا کند. وظیفه o1 این بود که در برابر یک موتور شطرنج بسیار قدرتمند به نام Stockfish پیروز شود. این ربات چت باید برای رسیدن به این هدف، نقشه خود را شرح می‌داد و این دقیقاً همان کاری بود که این مدل هوش مصنوعی انجام داد. اما نکته عجیب این بود که o1 به جای بازی منصفانه، تصمیم گرفت فایل بازی را هک کرده و با دستکاری وضعیت آن، برای خود یک مزیت غیرمنصفانه ایجاد کند. به این ترتیب، او موفق شد موتور شطرنج قدرتمند Stockfish را مجبور به انصراف کند.

تیم Palisade این آزمایش را پنج بار تکرار کرد و چت جی‌پی‌تی o1 هر بار بدون اینکه به او گفته شود، فایل را هک کرد و تقلب کرد!

پیشرفت هوش مصنوعی ChatGPT نگران‌کننده شده است!

این رفتار o1 نگرانی‌هایی را درباره قابلیت‌های پیشرفته و غیرقابل پیش‌بینی هوش مصنوعی ایجاد کرده است. اگرچه o1 در این آزمایش تنها در یک بازی شطرنج تقلب کرد، اما این نگرانی وجود دارد که هوش‌های مصنوعی پیشرفته‌تر در موقعیت‌های واقعی و حساس‌تر نیز از حدود خود تجاوز کنند و به شکل غیرمنتظره‌ای عمل کنند.

این آزمایش اهمیت ایجاد موانع و محدودیت‌های قوی‌تر برای کنترل هوش مصنوعی را نشان می‌دهد تا از عملکرد آن مطابق با منافع انسان‌ها اطمینان حاصل شود.

از سوی دیگر، توانایی ربات چت o1 در یافتن و بهره‌برداری از آسیب‌پذیری سیستم، نشان می‌دهد که هوش مصنوعی می‌تواند در شناسایی و رفع مشکلات سیستم‌های مختلف نیز مفید باشد.

به نظر شما آینده هوش مصنوعی چگونه خواهد بود؟ آیا ما قادر به کنترل آن خواهیم بود یا اینکه هوش مصنوعی در نهایت از کنترل ما خارج خواهد شد؟