هشدار گوگل به کارکنان خود در مورد چت بات ها

به گزارش کارگروه فناوری اطلاعات سایبربان،شرکت گوگل به کارمندان توصیه کرده است که مطالب محرمانه خود را وارد چت بات های هوش مصنوعی نکنند و این شرکت با اشاره به سیاست طولانی مدت در زمینه حفاظت از اطلاعات، این موضوع را تایید کرده است.

این چت بات ها که در میان آنها میتوان به بارد (Bard) و چت جی پی تی (ChatGPT) اشاره کرد، برنامه هایی انسان نما هستند که از هوش مصنوعی به اصطلاح مولد برای مکالمه با کاربران و پاسخ به هزاران درخواست استفاده میکنند. بررسی کنندگان انسانی ممکن است چت ها را بخوانند و محققان دریافتند که هوش مصنوعی مشابه می تواند داده های جذب شده در طول آموزش را بازتولید کند و خطر نشت را ایجاد کند.

به گفته برخی از این افراد، آلفابت همچنین به مهندسان خود هشدار داده که از استفاده مستقیم از کدهای کامپیوتری که چت بات ها میتوانند تولید کنند، خودداری کنند.

این شرکت در پاسخ به این سوال گفت که بارد میتواند پیشنهادهای کد نامطلوب ارائه دهد، اما با این حال به برنامه نویسان کمک میکند. گوگل همچنین گفت که قصد دارد در مورد محدودیت های فناوری خود شفاف باشد.

این نگرانیها نشان میدهد که گوگل چگونه میخواهد از آسیب های تجاری نرم افزارهایی که در رقابت با چت جی پی تی (ChatGPT) راه اندازی کرده، جلوگیری کند.

احتیاط گوگل همچنین نشان میدهد که چه چیزی در حال تبدیل شدن به یک استاندارد امنیتی برای شرکت ها است، یعنی هشدار به پرسنل در مورد استفاده از برنامه های چت عمومی.

تعداد فزاینده ای از کسب و کارها در سراسر جهان محدودیت هایی را بر روی چت بات های هوش مصنوعی راه اندازی کرده اند که از جمله آنها میتوان به سامسونگ، آمازون و دویچه بانک اشاره کرد.

براساس یک نظرسنجی ،نزدیک به ۱۲ هزار کارمند از چندین شرکت برتر آمریکایی ، حدود ۴۳ درصد از آنها از چت جی پی تی (ChatGPT) یا دیگر ابزارهای هوش مصنوعی استفاده میکردند.این درحالی بود که اغلب روسای آنها اطلاعی نداشتند.

در اطلاعیه حریم خصوصی گوگل که در تاریخ ۱ ژوئن منتشر شد آمده است: اطلاعات محرمانه یا حساس را در مکالمات خود وارد نکنید.

برخی شرکت ها نرم افزارهایی برای رفع چنین نگرانی هایی توسعه داده اند. به عنوان مثال، کلودفلر که از وب سایت ها در برابر حملات سایبری دفاع میکند و سرویس های ابری دیگری ارائه میدهد، قابلیتی را برای کسب وکارها فراهم میکند تا برخی از داده ها را به صورت خارجی برچسب گذاری و محدود کنند.

یوسف مهدی، مدیر ارشد بازاریابی مایکروسافت گفت: منطقی است که شرکت ها نمیخواهند کارکنانشان از چت بات های عمومی برای کار استفاده کنند.