تشدید نظارت اتحادیه اروپا بر شرکت‌های هوش مصنوعی

به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، بر اساس این مقررات، ارائه‌دهندگان سامانه‌های هوش مصنوعی موظف هستند محتوای تولید یا دستکاری‌شده توسط هوش مصنوعی را به‌گونه‌ای برچسب‌گذاری کنند که قابل شناسایی باشد.

همچنین کاربران باید هنگام تعامل با برخی سامانه‌های هوش مصنوعی از این موضوع آگاه شوند و تولیدکنندگان تصاویر، ویدئوها و فایل‌های صوتی واقع‌گرایانه باید به‌طور شفاف اعلام کنند که این محتوا با استفاده از هوش مصنوعی ایجاد یا ویرایش شده است.

مقام‌های اروپایی با اجرای این مرحله از قانون، اختیارات گسترده‌تری برای نظارت بر مدل‌های پیشرفته هوش مصنوعی به دست آورده‌اند.

این نهادها می‌توانند اسناد فنی شرکت‌ها را مطالبه کنند، نحوه عملکرد مدل‌های هوش مصنوعی را بررسی کنند، از کارکنان شرکت‌ها توضیح بخواهند و در صورت مشاهده تخلف، اصلاح یا توقف فعالیت سامانه‌های غیرمنطبق با قانون را الزامی کنند.

همچنین کانال‌های محرمانه‌ای برای دریافت گزارش کارکنان و کاربران درباره تخلفات احتمالی ایجاد شده است.

کمیسیون اروپا اعلام کرده است که افزایش توانمندی سامانه‌های هوش مصنوعی، نگرانی‌ها درباره سوءاستفاده‌های سایبری را نیز افزایش داده است.

در همین راستا، شرکت‌های اوپن ای آی (OpenAI) و آنتروپیک (Anthropic) اخیراً موارد جداگانه‌ای از فعالیت‌های سایبری غیرمجاز مرتبط با سامانه‌های هوش مصنوعی خود را به مقام‌های اروپایی گزارش کرده‌اند.

این رویدادها نشان داده‌اند که نظارت بر ایمنی مدل‌های هوش مصنوعی نباید تنها به مرحله آزمایش محدود شود و لازم است پس از عرضه نیز به‌صورت مستمر ادامه یابد.

مطابق ماده ۵۰ مقررات اتحادیه اروپا، هدف اصلی قانون جدید ممنوعیت کامل دیپ‌فیک‌ها نیست، بلکه افزایش شفافیت و کاهش خطراتی مانند کلاهبرداری، جعل هویت و عملیات فریب از طریق قابل‌شناسایی کردن محتوای مصنوعی است.

در عین حال، دیپ‌فیک‌هایی که برای اهداف مجرمانه مورد استفاده قرار گیرند، همچنان مشمول سایر قوانین کیفری، حریم خصوصی و مقررات پلتفرم‌ها خواهند بود.

در این گزارش به پرونده هوش مصنوعی گروک (Grok AI) نیز اشاره شده است؛ سامانه‌ای که به دلیل تولید تصاویر جعلی و غیراخلاقی بدون رضایت افراد، به‌ویژه زنان و افراد کم‌سن، با انتقادهای گسترده و تحقیقات نظارتی مواجه شده است.

مقام‌های اروپایی این پرونده را نمونه‌ای از ضرورت پایش مداوم سامانه‌های هوش مصنوعی، به‌ویژه پس از انتشار به‌روزرسانی‌های جدید، عنوان کرده‌اند.

قانون هوش مصنوعی اتحادیه اروپا از اوت ۲۰۲۴ لازم‌الاجرا شده و به‌صورت مرحله‌ای اجرا می‌شود.

در مرحله جدید، علاوه بر الزامات شفافیت، نظارت بر مدل‌های هوش مصنوعی عمومی نیز تشدید خواهد شد.

بر اساس این قانون، تخلف از الزامات شفافیت می‌تواند تا ۱۵ میلیون یورو یا سه درصد از گردش مالی سالانه جهانی شرکت‌ها جریمه در پی داشته باشد و در موارد مربوط به کاربردهای ممنوعه هوش مصنوعی، این جریمه تا ۳۵ میلیون یورو یا هفت درصد از درآمد سالانه جهانی افزایش می‌یابد.