نامه شرکت آنتروپیک به فرماندار کالیفرنیا
به گزارش کارگروه فناوری اطلاعات سایبربان، بر اساس نامهای شرکت آنتروپیک به فرماندار کالیفرنیا، گوین نیوسام، اطلاع داد که مقامات دولتی باید بتوانند از دادگاهها برای جلوگیری از انتشار مدلهای هوش مصنوعی که خطر جدی برای عموم ایجاد میکنند، دستور بگیرند.
شرکت آنتروپیک با محدودیتهای دولتی در سیستمهای هوش مصنوعی خود مواجه شده است. دولت ترامپ در ماه ژوئن به شرکت آنتروپیک دستور داد تا فوراً دسترسی خارجی به مدلهای Mythos 5 و Fable 5 با قابلیت سایبری خود را محدود کند و نگرانیهای امنیت ملی را مطرح کرد. وزارت بازرگانی ایالات متحده بعداً این دستور را لغو کرد.
در نامه به نیوسام آمده است:
وقتی یک بررسی نشان میدهد که یک مدل خطر جدی دارد، دولت باید بتواند از دادگاه بخواهد که آن را مسدود کند.
شرکت آنتروپیک این توصیهها را پس از آن ارائه کرد که فرماندار در ماه سپتامبر هیئتی از متخصصان هوش مصنوعی را برای تدوین پیشنهادهایی برای الزامات ایمنی هوش مصنوعی تشکیل داد.
این شرکت همچنین اعلام کرد که با الزاماتی که توسعهدهندگان را ملزم به ساخت کلیدهای مرگ میکند که قادر به خاموشکردن کل مدلهای هوش مصنوعی در صورت ازدستدادن کنترل یک شرکت بر اقدامات خود هستند، مخالف است. در عوض، طبق این نامه، شرکت آنتروپیک از مداخلات هدفمندتر، مانند غیرفعالکردن یک عامل هوش مصنوعی مشکلساز یا قطع دسترسی یک مشتری خاص به یک مدل، حمایت میکند و میگوید که این اقدامات مؤثرتر خواهند بود.
گروهی متشکل از سناتورهای هر دو حزب آمریکا در ماه سپتامبر مشغول بررسی لایحهای بودند که به دولت ایالات متحده اختیار میداد تا از انتشار برخی مدلهای هوش مصنوعی که ناامن تشخیص داده میشوند، جلوگیری کند؛ البته شرکتها نیز میتوانستند نسبت به این تصمیم در دادگاه فدرال اعتراض کنند. اندکی پس از آن، کنگره برای تعطیلات پیش از انتخابات کار خود را متوقف کرد و قانونگذاران دیگر این طرح را پیگیری نکردند.
در ماه ژوئیه، نمایندگان مجلس آمریکا طرحی با عنوان قانون کلید قطع اضطراری هوش مصنوعی (AI Kill Switch Act) پیشنهاد کردند که به مقامات آمریکایی اجازه میدهد به شرکتهای فعال در حوزه هوش مصنوعی دستور دهند مدلهایی را که جان انسانها یا اقتصاد را به خطر میاندازند، غیرفعال کنند.
شرکت آنتروپیک (Anthropic) در حال آمادهسازی برای عرضه اولیه سهام خود در بازار ایالات متحده است. این عرضه میتواند یکی از مهمترین و تأثیرگذارترین ورودهای سهام به بازار بورس در سالهای اخیر باشد و به طور بالقوه شاخصهای معیار، جریان سرمایه سرمایهگذاران و فضای کلی حاکم بر بازار سهام آمریکا را دگرگون سازد.