به گزارش کارگروه فناوری اطلاعات خبرگزاری سایبربان، شخصیتهای مصنوعی (persona) در واقع هویتهای دیجیتال بسیار واقعی و قابلسفارشیسازی هستند که میتوانند در فضای آنلاین با افراد وارد تعامل شوند، اعتماد جلب کنند و نگرش آنها را دستکاری کنند.
برخلاف شبکههای تکراری و آشکارِ ترویج پیامهای سیاسی، این شخصیتها دقیق، فردمحور و تطبیقپذیرند و طراحی برای هدفگیری دقیق یک فرد یا گروه شدهاند.
اسناد نشان میدهد که گولکسی (GoLaxy)، شرکتی که پیوندهایی به آکادمی علوم چین و شبکههای نظامی و یا اطلاعاتی دارد و حدود هزار کارمند دارد، از دادهکاوی گسترده روی شبکههای اجتماعی برای ساخت پروندههای روانشناختی استفاده میکند.
سپس با کمک هوش مصنوعی مولد دیپ سیک (DeepSeek)، این پروندهها را به شخصیتهایی تبدیل میکنند که میتوانند گفتگو کنند، نظرات را شکل دهند یا حتی دلجویی کنند.
این نشت شامل اطلاعاتی درباره ۲ هزار چهره عمومی آمریکایی، هزاران تأثیرگذار راستگرا و بیش از ۱۱۷ نماینده جمهوریخواه بوده است.
پژوهشگران نگران این تواناییاند که چنین فناوریای نه فقط سیاستمداران، که شهروندان عادی را هم هدف قرار دهد و از طریق روابط شخصیشده، توازن اطلاعات و اعتماد عمومی را مختل کند.
آنها تأکید دارند این روش از عملیات گسترده و آشکار قدیمی فراتر رفته و به «جنگ شناختیِ» دقیق و جراحیگونه تبدیل شده است.
پس از تماس با روزنامهها، بخشهایی از وبسایت و مستندات گولکسی حذف شد و شرکت هرگونه اتهامی را رد کرده است.
محققان اکنون بر توسعه ابزارهایی برای تشخیص انسان از شخصیت مصنوعی تمرکز دارند و هشدار میدهند که اگر نتوان انسان و ماشین را تمییز داد، اثرات امنیتی و اجتماعی عمیق خواهد بود.
این افشا نشان میدهد ترکیب انبوه دادههای سرقتشده یا جمعآوریشده با هوش مصنوعی مولد، «روز بارانی» مورد انتظار برای استفاده از اطلاعات را به واقعیتی بالفعل بدل کرده است؛ تهدیدی نو در مرزهای امنیت ملی و اطلاعرسانی عمومی که باید فوراً فهمیده و مهار شود.
