به گزارش کارگروه بین الملل خبرگزاری سایبربان، این قانون که تحت عنوان "AB 2655" شناخته می‌شود، بخشی از مجموعه قوانینی بود که توسط فرماندار گاوین نیوسام امضا شد تا در آستانه انتخابات، محتوای فریبنده در تبلیغات و رسانه‌های اجتماعی را تنظیم کند.
یک قانون مرتبط دیگر که انتشار تبلیغات انتخاباتی یا محتوای ارتباطات انتخاباتی با ویدیوها یا صداهای دستکاری‌شده را ممنوع می‌کرد، در ماه اکتبر توسط قاضی فدرال، جان آ. مندز، متوقف شد.
او در حکم خود نوشت که این قانون به جای استفاده از رویکرد دقیق، مانند چکش عمل می‌کند.
ماسک در پلتفرم ایکس (توییتر سابق) از این تصمیم تمجید کرد و اکنون به دنبال لغو دیگر اقدامات کالیفرنیا برای محدود کردن دیپ‌فیک‌ها است.
او در شکایت خود اظهار داشت که این سیستم به طور اجتناب‌ناپذیری منجر به سانسور گسترده سخنان و اظهارنظرهای سیاسی ارزشمند خواهد شد.
این قانون پلتفرم‌های بزرگ آنلاین (با بیش از یک میلیون کاربر در کالیفرنیا) را ملزم می‌کند تا مکانیزمی فراهم کنند که کاربران بتوانند دیپ‌فیک‌های مشکوک مرتبط با مقامات انتخاباتی، روند انتخابات یا نامزدهای سیاسی را گزارش دهند.
پلتفرم‌ها باید ظرف ۷۲ ساعت به این درخواست‌ها پاسخ دهند و در صورت تأیید جعلی بودن محتوا، آن را حذف یا برچسب‌گذاری کنند.
این قانون محتوای طنز را مستثنی می‌کند.
همچنین اگر پلتفرمی به گزارش‌ها درباره محتوای فریبنده به درستی پاسخ نداده باشد، نامزدها، مقامات منتخب، دادستان کل و دیگر مقامات ایالتی می‌توانند درخواست صدور حکم قضایی کنند.
به گفته شرکت ایکس (X)، این قانون هر دو اصلاحیه اول و چهاردهم قانون اساسی آمریکا را نقض می‌کند و باعث می‌شود دولت به جای تصمیم‌گیری پلتفرم‌ها درباره محتوای مناسب، خود تصمیم بگیرد.
این قانون پلتفرم‌ها را تشویق می‌کند تا محتوای مشکوک را حذف یا برچسب‌گذاری کنند، اما هیچ راه حلی برای کاربران یا سازندگان محتوا که معتقدند به ناحق سانسور شده‌اند، ارائه نمی‌دهد.
در شکایت آمده است:
دولت در هر مرحله از این سیستم دخالت دارد: قوانین گزارش‌دهی، تعریف و شناسایی سخنرانی هدفمند را تعیین می‌کند؛ به مقامات ایالتی اجازه می‌دهد که برای حذف محتوا اقدام کنند؛ و در نهایت از طریق دادگاه‌ها، تصمیم نهایی درباره مجاز بودن سخنرانی را می‌گیرد. تصویب چنین قانونی کاملاً با اصول اصلی اصلاحیه اول مغایرت دارد.
پیش از تصویب این قوانین، گروه‌های حامی آزادی بیان مانند اتحادیه آزادی‌های مدنی آمریکا مخالفت خود را اعلام کرده و عنوان کردند که نگرانی‌ها درباره قابلیت‌های هوش مصنوعی در تولید محتوای فریبنده نمی‌تواند توجیهی برای محدود کردن آزادی بیان باشد.
این گروه اظهار داشت:
حتی اگر سخنرانی نادرست، گیج‌کننده یا توهین‌آمیز باشد، همچنان از حمایت قانون اساسی به عنوان بخشی از گفتمان آزاد برخوردار است.
فرماندار نیوسام پیش از تصویب این قانون به یک ویدیوی ساخته‌شده توسط کاربر "Mr. Reagan" اشاره کرد که در آن صدای شبیه‌سازی‌شده کامالا هریس به کار رفته بود که در آن او خود را "یک انتخاب بر اساس تنوع" معرفی می‌کرد.
نیوسام گفت که دستکاری صدا در چنین تبلیغاتی باید غیرقانونی باشد و وعده داد که ظرف چند هفته قانونی در این زمینه امضا خواهد کرد.
کاربر ایکس، کریستوفر کولز، در روز تصویب این قوانین، شکایتی علیه ایالت ارائه کرد و مدعی شد که محتوای او طنزآمیز است و این قوانین "پارودی ساخته‌شده توسط کامپیوتر" و "طنز سیاسی" را جرم‌انگاری می‌کنند.
قاضی مندز در حکم خود به نفع کولز نوشت:
ویدیوهای یوتیوب، پست‌های فیس‌بوک و توییت‌های ایکس معادل تبلیغات روزنامه‌ای و کاریکاتورهای سیاسی امروزی هستند و اصلاحیه اول از حق افراد برای بیان عقایدشان بدون توجه به رسانه جدید حمایت می‌کند.
آژانس‌های اطلاعاتی آمریکا نیز پیش از انتخابات ریاست‌جمهوری هشدار داده بودند که عملیات نفوذ روسیه با استفاده از دیپ‌فیک‌ها، که گاهی با هوش مصنوعی ساخته شده‌اند، در حال تخریب کمپین کامالا هریس است.
