به گزارش کارگروه فناوری اطلاعات سایبربان، گوگل، زیرمجموعه آلفابت، اعلام کرد که پس از به اشتراک گذاشتن تصاویری که به نظر میرسید ناقض سیاستهای این شرکت است، ویژگی تولید تصویر هوش مصنوعی را که تنها یک روز پیش در گوگل اِرث (Google Earth) معرفی کرده بود، به حالت تعلیق در آورد.
این ویژگی که توسط مدل هوش مصنوعی نانو بنانا 2 (2Nano Banana) گوگل پشتیبانی میشود، به کاربران این امکان را میداد تا با تایپکردن یک متن برای هر مکانی در جهان، تصاویر واقعگرایانهای را بر اساس تصاویر ماهوارهای، هوایی و سهبعدی گوگل اِرث تولید کنند.
این ابزار به دلیل پتانسیل ارائه اطلاعات نادرست مورد انتقاد قرار گرفته بود، زیرا به کاربران اجازه میداد سناریوهای جعلی را بر روی تصاویر واقعی بناهای تاریخی و مکانهای دیدنی ایجاد کنند.
گوگل در شبکه اجتماعی ایکس نوشت:
ما متخصصان جغرافیایی را دیدهایم که از این ویژگی برای طیف وسیعی از اهداف مفید استفاده میکنند، بااینحال، افرادی را نیز دیدهایم که تصاویر تولید شده را به اشتراک میگذارند که به نظر میرسد ناقض سیاستهای ما هستند.
گوگل عنوان کرد که این قابلیت را تا زمانی که روی محافظهای قویتر کار میکند، متوقف خواهد کرد. گوگل مشخص نکرد که چه نوع تصاویری سیاستهای آن را نقض میکنند.
این شرکت اعلام کرد که این تصاویر در تجربه اصلی گوگل اِرث ظاهر نمیشوند و هنگام تولید توسط هوش مصنوعی، واترمارک شدهاند.
درحالیکه غولهای فناوری بهسرعت ابزارهای هوش مصنوعی را در محصولات خود ادغام کردهاند، در پاسخ به تخلفات کاربران، اطلاعات نادرست و نگرانیهای مربوط به سیاستها، مجبور به تنظیم، محدودکردن یا غیرفعالکردن موقت ویژگیها شدهاند.
شرکت مِتا اوایل این ماه پس از آنکه انتقادات گستردهای را در مورد نگرانیهای مربوط به حریم خصوصی، از جمله از سوی یک اتحادیه هالیوود، متوجه خود کرد، ویژگی (Muse Image)، یک ویژگی هوش مصنوعی که به کاربران اجازه میداد با استفاده از حسابهای عمومی اینستاگرام تصاویر تولید کنند، را متوقف کرد.
