مخالفت بزرگان دنیای فناوری با ساخت روبات های قاتل
به گزارش کارگروه فناوری اطلاعات سایبربان؛ هوش مصنوعی (AI) با پیشبینی بلایای طبیعی، جلوگیری از قاچاق انسانها و تشخیص بیماریهای مرگبار، پتانسیل حفظ جان بسیاری از انسانها را دارد. متاسفانه، این فناوری قادر به گرفتن جان انسانها نیز هست. هماکنون تلاشها برای توسعه روبات های قاتل آغاز شده است؛ اسلحههایی که با استفاده از هوش مصنوعی برای کشتن یا نکشتن انسانها تصمیم میگیرند.
هفته گذشته، موسسه آینده زندگی (Future of Life Institute) -سازمانی که فعالیت آن روی استفاده از تکنولوژی برای بهبود انسانیت متمرکز شده است- با انتشار یک عهدنامه، توسعه سلاحهای هوشمند مرگبار را محکوم کرد و از دولتها خواست مانع توسعه چنین سلاحهایی شوند. مکس تگمارک (Max Tegmark)، رییس FLI طی بیانهای اعلام کرد:
هوش مصنوعی پتانسیلی عظیم برای کمک به دنیا دارد؛ اگر ما مانع سوء استفاده از آن شویم. سلاحهای مبتنی بر هوش مصنوعی که خودشان تصمیم میگیرند مردم را بکشند، به اندازه سلاحهای بیولوژیکی، منزجرکننده و بیثباتکننده هستند و به همین روش باید به آنها رسیدگی شود.
170 سازمان و 2 هزار و 464 شخص با امضای این سوگندنامه، «عدم شرکت یا پشتیبانی از توسعه، ساخت، خرید و فروش و استفاده از سلاحهای خودمختار مرگبار» را متعهد شدهاند. ایلان ماسک از بنیانگذاران OpenAI؛ جان تالین به عنوان موسس اسکایپ و موسسه آینده زندگی و همچنین استوارت راسل به عنوان یکی از محققان پیشرو در توسعه هوش مصنوعی، از امضاکنندگان این پیمان بودند.
سه بنیانگذار گوگل دیپ مایند (دبیس هاسابیس، شین لگ و مصطفی سلیمان) هم از دیگر افرادی بودند که این پیمان را امضا کردند. “DeepMind” تیم تحقیقاتی پیشرفته گوگل در زمینه هوش مصنوعی است که چندی پیش، همکاری آن با وزارت دفاع آمریکا برای توسعه سلاحهای خودگردان جنجال زیادی به پا کرد. ماه ژوئن، گوگل سوگند خورد که این قرارداد را تجدید نخواهد کرد. بعدها گوگل دستورالعملهایی برای توسعه فناوری هوش مصنوعی خود منتشر کرد که در آن به ممنوعیت ساخت سلاحهای خودمختار نیز اشاره شده بود.
امضای عهدنامه به معنی عدم تولید روبات های قاتل نیست!
امضای این عهدنامه میتواند موضع کمپانیهای مختلف در رابطه با هوش مصنوعی را برای عموم مردم روشن کند. هرچند، مشخص نیست که واقعا این پیمان به اقدامی قطعی منتهی شود. بیست و شش نفر از اعضای سازمان ملل در اقدامی رسمی، ممنوعیت این سلاحها را تایید کردهاند، اما برخی از کشورهای قدرتمند از جمله آمریکا، انگلستان و روسیه هنوز پایبندی خود به این قانون را اعلام نکردهاند. البته، این نخستین باری نیست که کارشناسان و افراد پیشرو در زمینه هوش مصنوعی، عهدنامهای را بر علیه سلاحهای مرگبار و روبات های قاتل امضا میکنند. با این حال، وجود امضای برخی شرکتهای بزرگ این حوزه مثل دیپ مایند گوگل میتواند جالب باشد.
متاسفانه، حتی اگر کشورهای جهان موافق ممنوعیت تولید روبات های قاتل باشند، این پیمان لزوما مانع تولید مخفیانه آنها توسط کشورها یا شرکتهای مختلف نخواهد شد. با ورود به عصر هوش مصنوعی، ما انتخاب چندانی نداریم و تنها امیدواریم تعداد افراد خوب این بازی بیشتر از افراد بد آن باشد!
