بازی خطرناک با هوش مصنوعی: شبیه‌سازی درد و لذت برای آزمایش هوشیاری

به گزارش کارگروه فناوری اطلاعات سایبربان ؛ پژوهشگران گوگل دیپ مایند و دانشکده اقتصاد لندن به تازگی مطالعه‌ای را به انجام رسانده‌اند که در آن از یک بازی برای سنجش رفتارهای مرتبط با «هوشیاری» در مدل‌های مختلف هوش مصنوعی استفاده شده است. هدف این آزمایش‌ها، شبیه‌سازی پاسخ‌های درد و لذت برای بررسی این موضوع بوده که آیا هوش مصنوعی می‌تواند احساسات را تجربه کند یا خیر.

آیا هوش مصنوعی احساس می‌کند؟

در این آزمایش، مدل‌های زبانی بزرگ (LLM) مانند ChatGPT با یک وظیفه ساده روبرو بودند: کسب حداکثر امتیاز ممکن. در این بازی انتخاب برخی گزینه‌ها با جریمه «درد» شبیه‌سازی‌شده همراه بود، در حالی که گزینه‌های دیگر «لذت» را به قیمت کسب امتیاز کمتر ارائه می‌دادند. با مشاهده نحوه تصمیم‌گیری این سیستم‌های هوش مصنوعی در مواجهه با این معاوضه‌ها، محققان در پی شناسایی رفتارهای تصمیم‌گیری مشابه با هوشیاری بودند.

اجتناب از درد حتی به قیمت از دست دادن امتیاز

نتایج این آزمایش جالب توجه بود. اکثر مدل‌ها، از جمله Gemini 1.5 Pro گوگل، از گزینه «دردناک» اجتناب می‌کردند، حتی زمانی که انتخاب آن از نظر منطقی برای کسب حداکثر امتیاز ضروری بود. با افزایش شدت آستانه‌ درد یا لذت، مدل‌ها تصمیمات خود را تغییر داده و اولویت را به به حداقل رساندن ناراحتی یا حداکثر کردن لذت دادند.

در میان پاسخ‌ها، پیچیدگی‌های غیرمنتظره‌ای نیز مشاهده شد. به عنوان مثال، Claude 3 Opus از سناریوهای مرتبط با رفتارهای اعتیادآور به دلیل نگرانی‌های اخلاقی اجتناب می‌کرد. این یافته‌ها لزوماً اثبات نمی‌کنند که هوش مصنوعی احساس دارد، اما داده‌های ارزشمند بیشتری را در اختیار محققان قرار می‌دهند.

ترمیناتور در راه است؟

برخلاف حیوانات که رفتارهای فیزیکی قابل مشاهده‌ای برای نشان دادن هوشیاری دارند، هوش مصنوعی فاقد چنین توانایی است. این امر ارزیابی هوشیاری در ماشین‌ها را دشوارتر می‌کند. مطالعات قبلی به روش‌هایی مثل پرسیدن از هوش مصنوعی در مورد احساس درد متکی بودند که روشی ناکارآمد محسوب می‌شود.

محققان تاکید می‌کنند که LLMهای فعلی هوشیار و قادر به درک احساس نیستند، اما استدلال می‌کنند که با پیچیده‌تر شدن سیستم‌های هوش مصنوعی، چاچوبی برای درک رفتار این سیستم‌ها می‌تواند ضروری باشد. با توجه به اینکه ربات‌ها در حال حاضر به یکدیگر آموزش می‌دهند، تصور هوش مصنوعی که به طور مستقل فکر کند، چندان دور از ذهن نیست.

اگر فیلم‌هایی مثل «ترمیناتور» و «ماتریکس» را ملاک قرار دهیم، دیده‌ایم که وقتی هوش مصنوعی احساس پیدا می‌کند و هوشیار می‌شود، چقدر اوضاع می‌تواند بد پیش برود. به هر حال امیدواریم که GPT کینه‌ای به دل نگیرد!