Ahli yang dikutip Reuters menjelaskan bahwa modus operandi seperti ini umumnya melibatkan penggunaan teknologi deepfake, di mana wajah seseorang diambil dari internet dan dimanipulasi untuk kepentingan tertentu, dalam hal ini untuk menciptakan identitas palsu yang tampak nyata.
Jim Chai, CEO XMOV, sebuah perusahaan teknologi AI, mengkonfirmasi bahwa penggunaan teknologi ini semakin umum di China, dengan kemampuan untuk membuat replika digital yang sangat realistis dari individu berdasarkan rekaman video singkat.
Kasus semacam ini menimbulkan kekhawatiran serius terkait penyalahgunaan AI untuk menyebarkan informasi palsu dan hoaks. Hal ini mencerminkan tantangan besar di era di mana teknologi generatif seperti AI semakin populer dan canggih.
Tindakan China untuk mengatur industri AI dan mencoba menetapkan standar global adalah upaya untuk menghadapi masalah ini. Mereka telah memulai proses untuk menetapkan peraturan yang diharapkan dapat diadopsi oleh lebih dari 50 negara dan sektor industri pada tahun 2026 mendatang.
