به گزارش کارگروه فناوری اطلاعات سایبربان، یک قاضی فدرال در کالیفرنیا دو شرکت حقوقی را به دلیل ارائه خلاصه حقوقی حاوی استنادهای جعلی تولید شده توسط ابزارهای هوش مصنوعی، مجازات کرد.
قاضی مایکل ویلنر، ارجاعات تولید شده توسط هوش مصنوعی را «ساختگی» توصیف کرد و این شرکت‌ها را 31 هزار دلار جریمه و از آنها به دلیل عدم بررسی صحیح منابع انتقاد کرد.
سند حقوقی مورد بحث بر اساس طرحی بود که باهوش مصنوعی جمینای گوگل (Google Gemini) و ابزارهای هوش مصنوعی در وِست لا (Westlaw) ایجاد شده بود. بااین‌حال، این پیش‌نویس به شرکت دیگری به نام K&L Gates تحویل داده شد که شامل استنادهای ساختگی بدون تأیید صحت آنها بود.
قاضی ویلنر خاطرنشان کرد که حداقل دو مورد ذکر شده در پرونده اصلاً وجود خارجی نداشتند و هشدار داد که اتکای نامشخص به هوش مصنوعی می‌تواند دادگاه‌های ایالات متحده را گمراه کند و تمامیت قانونی را به خطر بیندازد.
این پرونده به فهرست روبه‌رشدی از مواردی اضافه می‌شود که در آن وکلا از هوش مصنوعی سوءاستفاده کرده و به‌اشتباه چت‌بات‌ها را به‌عنوان ابزارهای تحقیقاتی مشروع در نظر گرفته‌اند.
قاضی این اقدامات را از نظر حرفه‌ای بی‌ملاحظه خواند و گفت:
هیچ وکیل ذی‌صلاحی نباید تحقیقات را بدون نظارت دقیق به هوش مصنوعی برون‌سپاری کند.
