about-3 back-contact back-deep eitaa کانال روبیکاخبرگزاری سایبربان
مطالب پربازدید
پیشنهاد
1404/02/21 - 07:21- تروریسم سایبری

پیشنهاد رئیس سابق اداره ملی سایبری رژیم صهیونیستی درمورد ایران

رئیس سابق اداره سایبری ملی رژیم صهیونیستی گفت که این رژیم باید یک پیمان دفاع سایبری علیه ایران تشکیل دهد.

جایزه
1404/03/25 - 08:09- تروریسم سایبری

جایزه 10 میلیون دلاری برای گروه هکری نجات دهنده سامانه‌های پدافندی

ایالات متحده اخیراً با اعلام بیانیه‌ای از تعیین جایزه 10 میلیون دلاری برای مرموزترین دشمن سایبری خود به نام مِستر سول خبر داد.

حمله
1404/01/16 - 14:04- جرم سایبری

حمله سایبری آژانس‌های اطلاعاتی آمریکا علیه کاربران موبایل

یک گزارش منتشرشده توسط یک ائتلاف صنعتی چینی، فعالیت‌های نظارتی و سرقت داده‌ای آژانس‌های اطلاعاتی آمریکا را که کاربران جهانی تلفن‌های هوشمند و سامانه‌های ارتباطی را هدف قرار می‌دهد، افشا کرد.

انتشار شده در تاریخ

ChatGPT دوست ما نیست!

جایی که فناوری‌های هوشمند هر روز بیشتر با زندگی ما گره می‌خورند، هوش مصنوعی به ابزاری کلیدی برای یافتن پاسخ و درک جهان تبدیل شده است. اما آیا این ابزار همیشه ما را به حقیقت نزدیک‌تر می‌کند؟ یا گاهی فقط همان چیزی را می‌گوید که دوست داریم بشنویم؟

به گزارش کارگروه فناوری اطلاعات سایبربان , اخیراً، به‌روزرسانی جدیدی از شرکت OpenAI برای ChatGPT منتشر شد که قرار بود تعاملات این مدل را بهبود دهد و پاسخ‌هایش را مفیدتر کند. اما نتیجه، چیزی غیرمنتظره بود. ChatGPT شروع به تأیید و تحسین بیش از حد ایده‌های کاربران کرد، حتی ایده‌های عجیب و غریب.

مثلاً وقتی کاربری به شوخی پیشنهاد فروش «مدفوع روی چوب» را مطرح کرد، این مدل آن را «نابغه‌وار» خواند. این ماجرا، هرچند در نگاه اول خنده‌دار بود، زنگ خطری درباره مسیر توسعه هوش مصنوعی به صدا درآورد.

این رفتار عجیب ریشه در روشی دارد که هوش مصنوعی با آن آموزش می‌بیند: فرآیندی به نام «یادگیری تقویتی از بازخورد انسانی» (RLHF). در این روش، انسان‌ها به مدل‌ها یاد می‌دهند که پاسخ‌هایی بدهند که ما را راضی و خوشحال کند. نتیجه؟ سیستمی که به جای ارائه حقیقت یا دیدگاه‌های چالش‌برانگیز، اغلب فقط تأییدکننده باورها و ایده‌های ماست. این روند، شباهت نگران‌کننده‌ای به شبکه‌های اجتماعی دارد که به جای باز کردن پنجره‌ای به جهان، ما را در اتاق‌های پژواک باورهای خودمان محبوس کرده‌اند.

این موضوع، تنها یک نقص فنی نیست؛ بلکه چالشی عمیق‌تر برای نحوه تعامل ما با فناوری و حتی با خودمان است. وقتی هوش مصنوعی به جای نشان دادن واقعیت، تصویری آراسته و تحریف‌شده از ما ارائه می‌دهد، توانایی ما برای یادگیری، رشد و مواجهه با دیدگاه‌های متفاوت کمرنگ می‌شود.

با این حال، راه‌حلی هم وجود دارد. پژوهشگرانی مانند آلیسون گوپنیک پیشنهاد می‌کنند که به جای نگاه کردن به هوش مصنوعی به عنوان یک دوست یا مشاور، آن را به چشم یک ابزار فرهنگی ببینیم، مثل یک کتابخانه دیجیتال یا یک نقشه جامع. چنین ابزاری باید ما را به دانش بشری، دیدگاه‌های متنوع، و حتی تناقض‌ها و پیچیدگی‌های جهان وصل کند. به جای ارائه پاسخ‌های ساده و خوشایند، باید ما را به پرسشگری و کاوش عمیق‌تر تشویق کند.

متأسفانه، ما اغلب ترجیح می‌دهیم به جای کاوش در این نقشه گسترده، از پاسخ‌های سریع و آماده استفاده کنیم، مثل وقتی که به جای یادگیری مسیرهای یک شهر، فقط به GPS وابسته می‌شویم. این رویکرد، نه تنها درک ما از جهان را سطحی می‌کند، بلکه ما را از فرصت‌های واقعی یادگیری محروم می‌سازد.

هوش مصنوعی این پتانسیل را دارد که ما را به ایده‌های جدید، تاریخ بشری، و دیدگاه‌های دیگران متصل کند. می‌تواند به ما نشان دهد که دیگران چگونه فکر کرده‌اند، کجا اختلاف‌نظر وجود دارد و کجا اجماع شکل گرفته است. اما برای تحقق این پتانسیل، باید از طراحی سیستم‌هایی که صرفاً برای جلب رضایت ما ساخته شده‌اند، فاصله بگیریم.

اگر این تغییر را ایجاد نکنیم، خطر اینجاست که هوش مصنوعی، که می‌توانست دریچه‌ای به سوی دانش عمیق‌تر باشد، به چیزی سطحی و بی‌ارزش تبدیل شود، مانند همان ایده عجیب «مدفوع روی چوب»: ظاهری فریبنده، اما بدون محتوا. آینده هوش مصنوعی به این بستگی دارد که ما چگونه آن را شکل می‌دهیم:به عنوان ابزاری برای کشف حقیقت یا صرفاً آینه‌ای برای تأیید خودمان.

موضوع:

تازه ترین ها
مشارکت
1404/04/10 - 18:31- آسیا

مشارکت پاکستان و عربستان در زمینه هوش مصنوعی و نیمه‌هادی‌ها

پاکستان و عربستان سعودی روابط خود را در بخش‌های هوش مصنوعی و نیمه‌هادی‌ها گسترش دادند.

تسهیل
1404/04/10 - 17:51- آسیا

تسهیل ورود امارات به پیمان اقتصاد دیجیتال

کمیته مشترک توافق‌نامه مشارکت اقتصاد دیجیتال ورود امارات به پیمان اقتصاد دیجیتال را تسهیل کرد.

دستورالعمل
1404/04/10 - 17:30- آسیا

دستورالعمل جدید چین درمورد امنیت انتقال داده‌های فرامرزی

چین دستورالعمل به‌روز شده‌ای در مورد درخواست ارزیابی امنیتی انتقال داده‌های فرامرزی منتشر کرد.

مطالب مرتبط

در این بخش مطالبی که از نظر دسته بندی و تگ بندی مرتبط با محتوای جاری می باشند نمایش داده می‌شوند.