به گزارش کارگروه فناوری اطلاعات سایبربان ، بچه فیل‌های تازه‌متولدشده در حالت عادی ممکن است حدود یک متر قد و ۱۰۰ کیلوگرم وزن داشته باشند؛ بنابراین چنین موجودی با این اندازه و وزن نمی‌تواند روی کف دست انسان جا بگیرد اما به نظر می‌رسد هوش مصنوعی گوگل نظر دیگری دارد.
به نقل از دیجیاتو، اگر کلمه «baby elephant» یا بچه فیل را در گوگل جستجو کنید، با نتایجی که AI Overview خلاصه کرده، روبه‌رو میشوید که اطلاعاتی درباره بچه فیل‌ها به شما می‌دهد اما در همین بخش تصویری جعلی از بچه فیلی بسیار کوچک مشاهده کنید که کف دست انسان جای گرفته است. این تصویر را هوش مصنوعی و کاربری به نام DazzlingVisions تولید کرده است. این کاربر عکس‌های مصنوعی از حیوانات تولید می‌کند و می‌فروشد.
گوگل هنوز واکنشی به این اشتباه هوش مصنوعی خود نشان نداده است اما از زمان عرضه گسترده مدل‌های هوش مصنوعی مولد، مسئله هذیان و توهم این سرویس‌ها مشکلی اساسی شده است.
قابلیت AI Overview گوگل از سال ۲۰۲۳ که عرضه شد با همین مشکل دست‌وپنجه نرم می‌کند و بارها نیز به‌دلیل نشان‌دادن نتایج عجیب‌وغریب به کاربران مسخره شده است. سال گذشته میلادی این اشتباهات به اوج خود رسید. این سرویس هوش مصنوعی در مواردی به کاربران توصیه کرده بود برای سلامتی‌شان سنگ بخورند یا چسب را با سس پیتزا مخلوط کنند تا مطمئن شوند پنیر پیتزا به‌اندازه کافی چسبندگی دارد.
از طرفی هوش مصنوعی Character.ai که گوگل از آن حمایت می‌کند، پیش‌ازاین به‌دلیل توصیه‌های خطرناک به کاربران و حتی تشویق نوجوانی ۱۷ساله به کشتن والدینش حاشیه‌ساز شده بود. درموردی مشابه، هوش مصنوعی اپل نیز حداقل ۳ بار تیتر خبرهای بی‌بی‌سی را تحریف کرد و حاشیه‌های زیادی به وجود آورد.
