اولین قانون هوش مصنوعی جهان چه ویژگی‌هایی دارد؟

به گزارش کارگروه فناوری اطلاعات سایبربان ؛ به نقل از رویترز، سیاستگذاران و قانونگذاران اتحادیه اروپا برسر اولین مجموعه قوانین جامع هوش مصنوعی جهان به توافق رسیدند. این قانون استفاده از هوش مصنوعی  را در ابزارهایی مانند چت جی پی تی و نظارت بیومتریک تنظیم می کند.

آنها در هفته های آینده جزئیاتی را که می تواند قانون نهایی را تغییر دهد(که انتظار می رود در اوایل سال آینده لازم الاجرا شود و در سال 2026 اعمال شود) بررسی خواهند کرد.

تا آن زمان، شرکت‌ها تشویق می‌شوند تا برای اجرای تعهدات کلیدی قوانین، در یک پیمان هوش مصنوعی داوطلبانه شرکت کنند.

در ادامه نکات کلیدی مورد توافق آورده شده است:

سیستم های پر خطر

سیستم‌های هوش مصنوعی به اصطلاح پرخطر( آنهایی که پتانسیل قابل توجهی برای آسیب رساندن به سلامت، ایمنی، حقوق اساسی، محیط زیست، دموکراسی، انتخابات و حاکمیت قانون دارند)باید از مجموعه‌ای الزامات مانند ارزیابی تأثیر روی حقوق بنیادی و تعهدات برای دسترسی به بازار اتحادیه اروپا پیروی کنند.

سیستم‌های هوش مصنوعی که خطرات کمتری دارند مشمول تعهدات شفافیت بسیار سبکی خواهند بود، مانند برچسب‌هایی که اعلام می‌کنند محتوا توسط هوش مصنوعی تولید شده تا به کاربران اجازه دهد در مورد نحوه استفاده از آن تصمیم بگیرند.

استفاده از هوش مصنوعی در اجرای قانون

استفاده از سیستم‌های شناسایی بیومتریک در فضاهای عمومی توسط مجریان قانون تنها برای کمک به شناسایی قربانیان آدم‌ربایی، قاچاق انسان، بهره‌کشی جنسی و جلوگیری از تهدیدات تروریستی خواهد بود.

آنها همچنین در تلاش برای ردیابی افراد مظنون به جرایم تروریستی، قاچاق، بهره کشی جنسی، قتل، آدم ربایی، تجاوز جنسی، سرقت مسلحانه، مشارکت در یک سازمان جنایی و جنایت محیطی، مجاز خواهند بود.

سیستم های هوش مصنوعی با اهداف عمومی (GPAI) و مدل های بنیادی

سیستم‌های هوش مصنوعی با اهداف عمومی و مدل های بنیادی مشمول الزامات شفافیت مانند تهیه مستندات فنی، مطابقت با قانون حق چاپ اتحادیه اروپا و انتشار خلاصه‌های دقیق درباره محتوای مورد استفاده برای آموزش الگوریتم خواهند بود.

مدل‌های بنیادی طبقه‌بندی‌شده به‌عنوان دارای ریسک سیستمی و سیستم‌های هوش مصنوعی با اهداف عمومی با تأثیرگذاری بالا، باید ارزیابی‌های مدل، ارزیابی و کاهش خطرات، انجام آزمایش‌های خصمانه، گزارش به کمیسیون اروپا در مورد حوادث جدی، اطمینان از امنیت سایبری و گزارش کارایی خود را انجام دهند.

هوش مصنوعی ممنوعه

مقررات موارد زیر را ممنوع می کند:

•  سیستم های طبقه بندی بیومتریک که از ویژگی های حساسی مانند عقاید سیاسی، مذهبی، فلسفی، نژاد استفاده می کنند.
• برداشتن تصاویر چهره از اینترنت یا فیلم های دوربین مدار بسته برای ایجاد پایگاه های اطلاعاتی تشخیص چهره
• شناخت عواطف در محیط کار و موسسات آموزشی
• امتیازبندی اجتماعی بر اساس رفتار اجتماعی یا ویژگی های فردی
• سیستم های هوش مصنوعی که رفتار انسان را برای دور زدن اراده آزاد آنها دستکاری می کنند.
• هوش مصنوعی که برای سوء استفاده از آسیب پذیری افراد به دلیل سن، ناتوانی، موقعیت اجتماعی یا اقتصادی آنها به کار گرفته شود.

تحریم های درنظر گرفته شد برای نقض مقررات

بسته به تخلف و اندازه شرکت درگیر، جریمه ها از 7.5 میلیون یورو (8 میلیون دلار) یا 1.5 درصد گردش مالی سالانه شروع می شود و تا 35 میلیون یورو یا 7 درصد گردش مالی افزایش می یابد.

اولین پیش نویس قانون هوش مصنوعی اتحادیه اروپا در سال 2021 رونمایی شد که به دنبال همگام سازی قوانین برای تنظیم فناوری هوش مصنوعی در سراسر کشورهای عضو اتحادیه اروپا بود. تاکنون مذاکرات بر سر قوانینی که نظارت بیومتریک مانند تشخیص چهره و مدل‌های هوش مصنوعی مانند چت جی پی تی را تنظیم می‌کنند، بسیار بحث برانگیز بوده است.