داده‌های داخلی نباید به سیستم‌های هوش مصنوعی خارجی پمپاژ شود

به گزارش کارگروه فناوری اطلاعات سایبربان ؛ محمود سلماسی زاده رئیس انجمن رمز ایران در خصوص امنیت داده‌ها در فضای مجازی به دنبال شکل گیری این فضا با هوش مصنوعی گفت: کاربردهای هوش مصنوعی در تأمین امنیت می‌تواند گسترده و مفید باشد اما هشدارها درباره جهت‌گیری مدل‌ها، حفاظت از داده‌های داخلی و خطرات استفاده از ابزارهای خارجی نشان می‌دهد که به‌کارگیری این فناوری باید با احتیاط، مدیریت و طراحی داخلی صورت گیرد تا استقلال دیجیتال و حریم خصوصی تهدید نشود.

وی توضیح داد: این فناوری در حوزه امنیت هم کاربردهای وسیعی می‌تواند داشته باشد. از هوش مصنوعی می‌توان برای ایجاد امنیت استفاده کرد.

این فعال حوزه امنیت سایبری اظهار کرد: باید ببینیم خود هوش مصنوعی چقدر اهمیت دارد، جهت‌گیری تصمیم‌گیری‌هایش چگونه است و مدل‌هایش چقدر امن هستند. اگر خاطرتان باشد شاید دو سه ماه پیش بود که یک مدل هوش مصنوعی که ایلان ماسک شرکتش را ساخته بود، از هیتلر ستایش کرد و بعد از اعتراض کاربران اعلام شد که مدل را تغییر می‌دهند؛ یعنی این مدل‌ها هدفدار و جهت‌دار هم هستند.

سلماسی در ادامه توضیح داد: استفاده از هوش مصنوعی در امنیت یک کارزار مهم است، اما موضوع این است که همه مسائل ما را نمی‌تواند حل کند و در کاربرد آن باید هوشیار بود. به ویژه داده‌های داخلی نباید به این سیستم‌های هوش مصنوعی پمپاژ شود با این کار اولاً پاسخ‌های هدفدار به آن‌ها داده می‌شود، دوماً وقتی داده رفت دیگر قابل بازپس‌گیری نیست؛ مثل یک جنگ فیزیکی نیست که پس از مدتی بتوان آن را بازگرداند.

وی تاکید کرد: استقلال و حفظ استقلال دیجیتال بسیار مشکل‌تر از دیگر موارد است و قابل پس گیری نیست.

رئیس انجمن رمز ایران در انتها به اقدامات مهم کنفرانس انجمن رمز در زمینه هوش مصنوعی اشاره کرد و گفت: این موضوع یکی از محورهای کنفرانس ما بوده است. اکنون فراخوان برای شماره ویژه هم در مجله انگلیسی‌زبان و هم در مجله فارسی‌زبان درباره امنیت و هوش مصنوعی منتشر شده تا به توجه ایجادشده در کشور پاسخ داده شود و جوانان علاقه‌مند بتوانند فعال شوند. هدف آن است که به شکل علمی بررسی کنیم کجاها می‌توانیم از هوش مصنوعی استفاده کنیم و کجاها استفاده از هوش مصنوعی حریم خصوصی افراد یا حتی آمار ملی کشور را به خطر می‌اندازد.