Bareskrim Tangkap Pelaku Penipuan Modus Deepfake Wajah Presiden Prabowo

Konferensi pers pengungkapan penipuan dengan deepfake AI yang mengatasnamakan pejabat negara oleh Dittipidsiber Bareskrim Polri pada Kamis (23/1/2025). Foto: Abid Raihan/kumparan

Direktorat Tindak Pidana Siber (Dirtipidsiber) Bareskrim Polri menangkap AMA (29), pelaku penipuan menggunakan video pejabat negara yang diedit menggunakan teknologi Deepfake AI.

Pria yang ditangkap di rumahnya di Lampung Tengah pada 16 Januari itu, memakai video deepfake yang menampilkan Presiden Prabowo Subianto, Wakil Presiden Gibran Rakabuming Raka, dan Menteri Keuangan Sri Mulyani, serta beberapa figur publik untuk menipu masyarakat.

“Modus operandi tersangka yaitu mengunggah dan menyebarluaskan video di berbagai platform media sosial menggunakan teknologi deepfake, memanfaatkan foto dan suara seperti Bapak Presiden Prabowo Subianto, Wakil Presiden Gibran Rakabuming Raka, Ibu Sri Mulyani, dan pejabat negara lainnya yang terlihat seolah-olah menyampaikan pernyataan bahwa pemerintah menawarkan bantuan kepada masyarakat yang membutuhkan,” jelas Dirtipidsiber Polri, Brigjen Himawan Bayu Aji dalam jumpa pers di Bareskrim Polri, Jakarta pada Kamis (22/1).

Barang bukti ditunjukkan pada konferensi pers pengungkapan penipuan dengan deepfake AI yang mengatasnamakan pejabat negara oleh Dittipidsiber Bareskrim Polri pada Kamis (23/1/2025). Foto: Abid Raihan/kumparan

Di dalam video-video itu, AMA mencantumkan nomor WhatsApp yang bisa dihubungi netizen.

“Dengan harapan menarik masyarakat untuk menghubungi tersangka yang kemudian diarahkan oleh tersangka untuk mengisi pendaftaran penerima bantuan dan setelah itu korban diminta untuk mentransfer sejumlah uang,” ujar Himawan.

“Dengan alasan biaya administrasi, korban atau masyarakat yang telah membayar biaya administrasi dijanjikan pencairan dana oleh tersangka sehingga korban percaya untuk kembali mentransfer sejumlah uang yang sebenarnya dana bantuan tersebut tidak pernah ada,” tambahnya.

Barang bukti ditunjukkan pada konferensi pers pengungkapan penipuan dengan deepfake AI yang mengatasnamakan pejabat negara oleh Dittipidsiber Bareskrim Polri pada Kamis (23/1/2025). Foto: Abid Raihan/kumparan

Dari praktiknya, AMA telah menjerat 11 orang korban yang sudah teridentifikasi Dittipidsiber. Mereka tersebar di beberapa daerah.

“Para korban berasal dari berbagai wilayah di antaranya Jawa Tengah, Jawa Timur, Sumatera Selatan, Sumatera Tenggara, dan Sulawesi Tengah,” ujar Himawan.

Konferensi pers pengungkapan penipuan dengan deepfake AI yang mengatasnamakan pejabat negara oleh Dittipidsiber Bareskrim Polri pada Kamis (23/1/2025). Foto: Abid Raihan/kumparan

Namun, AMA tak bekerja sendirian. Polisi masih memburu satu tersangka lainnya berinisial FA yang masih buron.

“Tersangka tidak bekerja sendiri, kegiatan ini merupakan sindikat di mana tersangka dibantu oleh seseorang dengan inisial FA yang saat ini itu sudah kita taruh sebagai DPO yang bertugas menyiapkan video deepfake atau yang mengedit tersebut,” jelas Himawan.

Atas perbuatannya itu, AMA yang sudah berstatus tersangka disangkakan Undang-undang Informasi dan Transaksi Elektronik dan atau Penipuan, Pasal 51, Ayat 1, Juncto Pasal 35, Undang-undang Nomor 1 Tahun 2024 tentang perubahan kedua atas Undang-undang Nomor 11 Tahun 2008 Tentang Informasi dan Transaksi Elektronik.

“Dipidana dengan pidana penjara paling lama 12 tahun dan atau denda paling banyak Rp 12 miliar,” ujar Himawan.

Ia juga disangkakan Pasal 378 KUHP. “Dipidana karena penipuan dengan pidana penjara paling lama 4 tahun atau denda paling banyak Rp 500 juta,” tambah Himawan.

Cara Polisi Ungkap Modus Penipuan Deepfake AI

Barang bukti ditunjukkan pada konferensi pers pengungkapan penipuan dengan deepfake AI yang mengatasnamakan pejabat negara oleh Dittipidsiber Bareskrim Polri pada Kamis (23/1/2025). Foto: Abid Raihan/kumparan

Himawan menjelaskan bahwa video-video yang diunggah oleh AMA 100 persen hasil editan deepfake AI.

“Hasil analisa dengan dua software video forensik yang menggunakan metode deepfake face detection pada video tersebut terdapat adanya deepfake face dengan nilai 100% fake,” ujar Himawan.

“Dan dengan menggunakan analisa deepfake detection face GAN deepfake didapatkan nilai GAN atau Generative Adversarial Neural Network dengan skor GAN 1.00, yang merupakan skor tertinggi terhadap adanya manipulasi atau proses editing dalam bentuk deepfake dan deep learning," sambungnya.

Metode lainnya yang digunakan juga menunjukkan bahwa video-video itu palsu.

“Kedua, dari hasil analisa Error Level Analysis atau ELA terdapat adanya penggabungan frame berupa tulisan dan gambar yang dijadikan satu dalam satu video yang menandakan adanya proses editing dan dapat disimpulkan bahwa momen-momen pada frame-frame di file video tersebut adalah bersifat tidak wajar dan tidak continue, yang saling tidak bersesuaian dengan momen di tiap-tiap frame,” jelas Himawan.

“Dalam arti pada frame-frame tersebut ditemukan adanya penyusupan penggabungan maupun pemotongan frame,” tutupnya.