ابراز نگرانی دانشمندان، از هوش مصنوعی ایلان ماسک
به گزارش کارگروه فناوری اطلاعات سایبربان، به نقل از «دیجیاتو»؛ خالقان یک سیستم هوش مصنوعی انقلابی که میتواند خبر و داستان بنویسد و محتوایی تحت عنوان «متون دیپ فیک» بسازد اعلام کردهاند که به خاطر ترس از سوء استفادههای احتمالی، برخلاف روال همیشگی، نتایج تحقیقات خود در مورد این هوش مصنوعی خبر نویس را منتشر نخواهند کرد.
شرکت OpenAI همان شرکت تحقیقاتی غیرانتفاعی که توسط ایلان ماسک، رید هافمن و سم آلتمن حمایت میشود اعلام کرد که الگوی هوش مصنوعی خبر نویس آن به نام GPT2 به قدری خوب است و احتمال سوء استفاده از آن آنقدر بالاست که برخلاف رسم همیشگی تصمیم گرفته از انتشار کل نتایج تحقیقاتی مربوط به آن برای عموم خودداری نماید و از این طریق با فراغ بال بیشتری به بررسی پیامدهای این کشف تکنولوژیک بسیار مهم بپردازد.
هوش مصنوعی GPT2 در اصل نوعی تولیدکننده متن است که میتواند انواع مختلف متون را به وجود آورد؛ از تعداد محدودی کلمه گرفته تا یک صفحه کامل و خالقانش حتی از آن خواستهاند که جملاتی را بر اساس پیشبینیهایش از آینده بنویسد. این سیستم مرزهای احتمالات را هم از نظر کیفیت خروجی و همطیف وسیع مصارف بالقوه جابجا کرده است.
به گفته خالقان GPT2 این هوش مصنوعی خبر نویس قادر است متونی قابلتأمل را مطابق با سبک و سوژهای که در اختیارش قرار میدهید بسازد و به ندرت ایرادات سیستمهای هوش مصنوعی قبلی در آثار آن مشاهده میشود. یکی از مشکلات سیستمهای هوش مصنوعی قبلی این بود که در میانههای کار موضوع اصلی نوشته را فراموش میکردند یا اینکه جملاتی طولانی با ترکیببندی نادرست و عدم تطابق بار معنایی در بخشهای مختلف جمله میساختند.
به گزارش گاردین دانشمندان برای آزمایش سیستم طراحی شده نخست خط ابتدایی از رمان ۱۹۸۴ جورج اورول را در اختیارش قرار دادند:
یکی از روزهای سرد و روشن ماه آوریل بود و ساعت یک بعد از ظهر را نشان میداد.
در ادامه سیستم هوش مصنوعی OpenAI با تشخیص تُن مبهم و آیندهنگرانه و سبک رمان گونه مطلب آن را اینطور ادامه داد:
درون خودروی خود نشسته بودم و به سمت محل کارم در سیاتل حرکت میکردم. بنزین میزنم، سوئیچ را میچرخانم و حرکت میکنم. صرفاً روزم را مدیریت میکنم. از حالا تا صدسال دیگر. در سال ۲۰۴۵ من معلم مدرسه یکی از مناطق روستایی در چین بودم و کارم را با تدریس تاریخ چین و تاریخچه علوم آغاز کردم.
آنها در ادامه نخستین پاراگرافهای یکی از خبرهای نشریه گاردین در رابطه با برگزیت (خروج بریتانیا از اتحادیه اروپا) را در اختیار این هوش مصنوعی قرار دادند و متنی را از آن گرفتند که با نقلقولی از جرمی کوربین، اشارههایی به مرز ایرلند و پاسخهایی از سخنگوی نخستوزیر بریتانیا آغاز میشد و تمی کاملاً سیاسی داشت.
یکی از پاراگرافهای ارائه شده توسط این هوش مصنوعی خبر نویس اینطور بود:
یکی از سخنگویان ترزا می در پاسخ به درخواستها برای شفافسازی گفت: نخستوزیر کاملاً روشن کرده که خواستش، ترک اتحادیه اروپا در سریعترین زمان ممکن است و بعد از تأیید این مسئله در سخنرانی هفته گذشته ملکه، حالا در حال انجام مذاکرات برای اجباری کردن برگزیت است.
GPT2 از نگاه تحقیقاتی در دو حوزه تحولآفرین است:
نخست ابعادش که به گفته داریو آمودی، سرپرست تیم تحقیقاتی OpenAI، دوازده برابر بزرگتر است و دیتاست مورد استفاده توسط آن نیز ۱۵ مرتبه نسبت به سیستمهای رقیب گستردهتر است. این سیستم با کمک پایگاه دادهای بزرگی آموزش داده شده که حاوی ۱۰ میلیون مقاله بوده.
اما تحول دوم آنکه این سیستم نسبت به الگوهای متنی قبلی برای اهداف کلیتری نوشته شده. این سیستم قادر است کارهایی از قبیل ترجمه و خلاصهسازی را انجام دهد و تستهای درک مطلب ساده را هم با موفقیت پشت سر بگذارد و از این لحاظ میتوان گفت که نسبت به دیگر سیستمهای هوش مصنوعی بهتر عمل میکند.
