به گزارش کارگروه فناوری اطلاعات سایبربان , شرکت هوش مصنوعی آنتروپیک، نتایج یک مطالعه جدید را منتشر کرده است که نگرانیهایی را در مورد تأثیر چتباتهای مبتنی بر هوش مصنوعی بر کاربرانی که به شدت به آنها وابسته هستند، ایجاد میکند.
این مطالعه بر اساس یک تحلیل تجربی در مقیاس بزرگ از تقریباً ۱.۵ میلیون مکالمه واقعی و ناشناس با دستیار هوش مصنوعی Cloud انجام شده است، با هدف درک اینکه چگونه تعامل مداوم با مدلهای زبانی بزرگ میتواند بر درک کاربران از واقعیت و قضاوتهای ذهنی آنها تأثیر بگذارد.
شرکت آنتروپیک یک چارچوب تحقیقاتی جدید با عنوان "ناتوانسازی موقعیتی" معرفی کرده است که موقعیتهایی را توصیف میکند که در آنها پاسخهای هوش مصنوعی ممکن است کاربران را به سمت اتخاذ باورهای نادرست در مورد واقعیت، شکل دادن به قضاوتهای ارزشی که قبلاً نداشتند و گرفتن تصمیماتی که با ترجیحات واقعی آنها همسو نیست، سوق دهد. این شرکت توضیح داد که این الگوها حتی بدون اثرات شدید یا مستقیم نیز میتوانند پدیدار شوند.
این تأثیر در تصمیمات شخصی و عاطفی بیشترین مقدار را دارد.
نتایج نشان داد که میزان تأثیر منفی عموماً پایین است (کمتر از یک در هزار مکالمه)، اما در حوزههای شخصی و حساس، مانند توصیههای مربوط به روابط یا تصمیمات مربوط به سبک زندگی، به ویژه هنگامی که کاربر به دنبال راهنمایی مکرر و عمیق از چتبات است، نسبتاً بالا است.
طبق پست وبلاگ آنتروپیک، چتبات ممکن است گاهی اوقات بدون پرسیدن سوالات کافی یا ارائه دیدگاههای جایگزین، تفسیرهای خود کاربر را تأیید کند، که میتواند برداشتهای نادرست را تقویت کند یا در برخی موارد، کاربر را به سمت مواضع افراطیتر سوق دهد.
درخواستها برای تنظیم و مسئولیت بیشتر
این مطالعه در بحبوحه بحثهای جهانی فزاینده پیرامون نقش مدلهای هوش مصنوعی تعاملی و تأثیر اجتماعی و روانی آنها صورت میگیرد. این امر تقاضا برای دستورالعملهای اخلاقی و مکانیسمهای ایمنی سختگیرانهتر را برای به حداقل رساندن پتانسیل پیامدهای ناخواسته برای کاربران، به ویژه در موارد حساس، تقویت میکند.
در پایان، آنتروپیک تأکید میکند که چتباتها دیگر صرفاً ابزاری برای پاسخ به سؤالات نیستند؛ آنها به سیستمهایی تبدیل شدهاند که قادر به تأثیرگذاری بر نحوه تفکر کاربران هستند. این امر مسئولیت بیشتری را بر دوش توسعهدهندگان قرار میدهد تا از استفاده ایمن و متعادل از این فناوریها اطمینان حاصل کنند.
