به گزارش کارگروه فناوری اطلاعات سایبربان اگرچه با اعلام این خبر از سوی آمازون، نگرانیهایی در خصوص سواستفادههای احتمالی از صدای افراد مطرح شده، اما این شرکت معتقد است که هدف از عرضه قابلیت مذکور، زنده نگه داشتن خاطرات و یاد افراد فوت شده است.
روهیت پراساد، مدیر تیم الکسا در آمازون میگوید که با این امکان جدید، میتوان صدای افرادی را که در پی ابتلا به ویروس کرونا در دوران همهگیری از دست دادهایم، بار دیگر بشنویم و خطرات آنها را زنده کنیم.
الکسا برای تقلید این صداها، نیازی به حضور فیزیکی افراد ندارد و میتوان آن را با استفاده از صداهای از پیش ضبطشده آموزش داد. این یعنی، حتی صدای افراد فوتشده را نیز میتواند تقلید کند.
در جریان یک کلیپ ویدیویی که در کنفرانس آمازون پخش شد، یک کودک از الکسا میپرسد که آیا مادربزرگ وی میتواند خواندن قصه جادوگر شهر از (The Wizard of Oz) را تمام کند؟ در اینجا آمازون با تقلید صدای مادربزرگ این کودک، کاری میکند که این داستان با صدای مادربزرگ وی پخش و تمام شود.
پراساد همچنین در جریان این کنفرانس عنوان کرد که در حال حاضر، دستیار صوتی الکسا در هفته صدها میلیون درخواست به ۱۷ زبان از ۷۰ کشور مختلف در سراسر جهان دریافت میکند.
با این حال، احتمال سوءاستفاده از این قابلیت بسیار زیاد است؛ برای نمونه، میتوان از این ابزار برای ایجاد محتواهای جعل عمیق یا همان دیپفیک به منظور قانع کردن افراد در کمپینهای اطلاعات نادرست و یا تبلیغات سیاسی استفاده کرد.
همچنین میتوان با کمک این قابلیت، برای اهداف سوء مالی نیز بهره برد. برای نمونه در سال ۲۰۲۰، کلاهبرداران با فریب یک مدیر بانک، توانستند ۳۵ میلیون دلار را برای جلب سرمایه خریدی که وجود خارجی نداشت، به دست آورند.
