به گزارش کارگروه فناوری اطلاعات سایبربان، ChatGPT، GPT-4 ، Bard و دیگر سرویس های جدید هوش مصنوعی میتوانند محتوای نوشتاری جذاب و مفیدی ایجاد کنند. مانند تمام تکنولوژی ها، این چت باتها نیز برای موارد خوب و بد استفاده میشود. این مدلها میتوانند نوشتن کدهای نرم افزاری را سریع تر و آسان تر کنند، اما خطاها و دروغ هایی را نیز ایجاد میکنند. بنابراین، توسعه راهی برای تشخیص اینکه متن موجود توسط هوش مصنوعی ایجاده شده و یا توسط انسان،امری ضروری است.
OpenAIابزاری را که قرار بود نوشتههای انسان را از هوش مصنوعی تشخیص دهد، به دلیل نرخ دقت پایین، حذف کرد.در یک وبلاگOpenAI اعلام کرد که تصمیم گرفته است تا طبقه بندی کننده هوش مصنوعی خود را از 20 جولای پایان دهد.
این شرکت گفت: ما در حال کار روی ترکیب فیدبکها و در حال تحقیق در مورد تکنیکهای موثرتر برای متن هستیم.
OpenAI اعلام کرد که قصد دارد مکانیسمهایی را توسعه دهد و بکار ببرد که کاربران را قادر سازد متوجه شوند که آیا محتوای صوتی یا بصری تولید شده توسط هوش مصنوعی است یا خیر. با این حال، هنوز درباره این مکانیسمها صحبتی نشده است.
OpenAI اعتراف کرد که طبقهبندیکننده هرگز در تشخیص دادن متنهای تولید شده با هوش مصنوعی خوب عمل نکرده است و هشدار داد که میتواند موارد کاذبی وجود داشته باشد که به صورت متون نوشته شده توسط انسان برچسبگذاری شده باشد.
اگر OpenAI نتواند نوشته های هوش مصنوعی را تشخیص دهد، دیگران چگونه میتوانند؟ OpenAI با پشتیبانی مایکروسافت، یکی از بهترینها در زمینه هوش مصنوعی محسوب میشود.
وقتی نتوانیم تفاوت بین هوش مصنوعی و متن انسان را تشخیص دهیم، دنیای اطلاعات آنلاین مشکل ساز میشود. در حال حاضر وب سایت های اسپم کننده ای وجود دارند که با استفاده از مدل های جدید هوش مصنوعی، محتوای خودکار منتشر می کنند. برخی از آنها به همراه دروغ هایی مانند بایدن مرده است درآمد تبلیغاتی کسب کرده اند.
OpenAI اخیراً اعتماد خود را از دست داده است و کمیسیون تجارت فدرال آمریکا در حال بررسی عملکرد OpenAI است تا ببیند چگونه اطلاعات و دادهها را بررسی میکند.
