Bahaya Laten Deepfake: Wajah Diganti, Realitas Dipalsukan

Ilustrasi deepfake. Foto: Shutterstock

Deepfake layaknya pedang bermata dua. Di satu sisi, ia menawarkan inovasi dan manfaat melalui kecanggihan artificial intelligence (AI), membuka peluang besar dalam berbagai bidang seperti hiburan, pendidikan, dan riset. Namun, di sisi lain, deepfake juga membawa risiko dan ancaman yang dapat mengaburkan realitas, termasuk pencemaran nama baik.

Berdasarkan catatan Southeast Asia Freedom of Expression Network (SAFEnet), kasus deepfake atau morphing di Indonesia sepanjang 2024 mencapai 40 kasus. Naik signifikan dari tahun sebelumnya yang ada di angka belasan. Kasus deepfake yang dicatat SAFEnet mengacu pada kasus Kekerasan Berbasis Gender Online (KBGO).

Morphing sendiri adalah istilah yang merujuk pada rekayasa konten menjadi bernuansa seksual dan/atau kesusilaan. Ini berkaitan erat dengan konten eksplisit atau pelecehan digital, misalnya dalam pembuatan deepfake pornografi.

"Memang di tahun ini [2024], kita melihat ada perubahan yang cukup signifikan ya. Jadi walaupun dibandingkan dengan jenis [KBGO] yang lain ini, [deepfake] cukup kecil 2,47 persen, tapi kalau kita bandingkan jumlahnya dari tahun yang sebelumnya, memang ada peningkatan yang cukup besar," jelas Nenden kepada kumparan saat ditemui di Festival Hak Digital SAFEnet, Taman Marzuki Ismail, Jakarta, Sabtu (15/02).

Direktur Eksekutif SafeNet, Nenden Sekar Arum saat diwawancarai wartawan di depan kantor Kemenkominfo, Jakarta Pusat, Rabu (10/7/2024). Foto: Fadlan Nuril Fahmi/kumparan

Menurut Nenden, pihaknya pernah mendampingi korban deepfake berusia 11 tahun. Foto korban, kata dia, diubah untuk kepentingan seksual. Namun, kasus tersebut hingga kini belum berjalan lebih lanjut karena kekurangan alat bukti.

Dalam beberapa kasus yang lain, lanjut dia, pelaku meminta korban untuk membayar sejumlah uang tertentu. Lengkap dengan ancaman yang meminta korban untuk menuruti kemauan pelaku.

"Korbannya itu jadi bisa siapa saja, bahkan usia anak yang sangat rentan gitu ya, bisa menjadi korban, di mana fotonya dimanipulasi dan diseksualisasi. Jadi mungkin semakin besar, kemungkinan besar bahwa profilnya akan sama juga, yang mungkin paling banyak mendapatkan morphing atau deepfake itu, dari usia produktif ya, dari usia 18-25, perempuan dan anak," kata dia.

Berdasarkan penelusuran kumparan, sejumlah tools untuk melakukan deepfake bertebaran di internet. Tak terkecuali di Telegram yang menyediakan bot-bot khusus yang memudahkan pengguna untuk drag and drop konten.

Foto ilustrasi yang membandingkan wajah asli dan wajah yang sudah dimanipulasi dengan aplikasi smartphone. Foto: Jamal Ramadhan/kumparan

Regulasi Baru Ada di Ranah Etik

Direktur Kecerdasan Artifisial dan Ekosistem Teknologi Baru Komdigi, Aju Widya Sari, mengungkapkan bahwa pembuktian deepfake memang rumit. Namun pada prinsipnya, kata dia, Komdigi siap untuk berkoordinasi dengan platform media sosial untuk menghapus konten-konten yang dianggap merugikan.

"Kami menunggu, menunggu siapa yang dirugikan, baru kami take action ke platform. Pembuktian ini menjadi penting tetapi agak rumit ketika masuk ke ruang digital. Tapi semua tetap bisa disampaikan ke Komdigi, karena di kami ada satuan kerja yang menangani pengawasan di ruang digital. Kalau dulu jadi satu, dicampur, sekarang fokus ke pengawasan ruang digital," kata Aju di acara yang sama.

Direktur Kecerdasan Artifisial & Ekosistem Teknologi Baru, Direktorat Jenderal Ekosistem & Digital, Kementerian Komunikasi dan Digital RI, Aju Widya Sari. Foto: Rizki Baiquni Pratama/kumparan

Saat ini, kata dia, regulasi mengenai pengaturan transaksi elektronik ada di UU ITE, UU PDP, UU PSTE, Perpres Pelindungan Infrastruktur Informasi Vital, ada juga Perkominfo soal PSE. Sementara soal AI baru ada ada di Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial.

"Sampai saat ini regulasi [AI] yang ada di pemerintah baru sampai titik etik. Baru sampai etika. Kalau ada kebijakan takedown pun ketika ada kasus. Karenanya ke depannya kami lagi melihat, kami juga butuh masukan. Karena algoritma [platform] ini sangat tertutup," kata dia.

Meski begitu, kata dia, Komdigi tengah menyusun mekanisme koordinasi yang lebih baik dengan penegak hukum seperti polisi maupun platform untuk menangani hal semacam itu.

"Mekanismenya itu lagi dibentuk dan belum siap ke publik," pungkasnya.

Ilustrasi deepfake. Foto: Shutterstock

Fenomena Deepfake Global

Penelitian Home Security Heroes yang dipublikasikan dalam laporan ‘2023 State of Deepfake’ mengungkapkan bahwa negara dengan kasus deepfake terbanyak di dunia pada tahun 2023 adalah Korea Selatan, disusul Amerika Serikat. Tidak ada data Indonesia di laporan tersebut.

Penelitian yang bertujuan mendata deepfake pornografi ini datanya berasal dari 95.820 video deepfake, 85 channel di YouTube, Vimeo, dan Dailymotion, dan juga dari 100 website yang berhubungan dengan ekosistem deepfake. Penelitian ini mengambil sampel konten-konten yang dipublikasikan Juli hingga Agustus 2023.

Dari laporan tersebut, ditemukan ada 21.019 video deepfake yang bernuansa pornografi. Angka ini naik 464 persen dari tahun 2022 yang berjumlah 3.725 video. Temuan lain menyebut 7 dari 10 situs porno global mengunggah video deepfake pornografi. Jumlah traffic-nya mencapai 34 juta views per bulan.

Sebanyak 77 persen dari video deepfake tanpa nuansa pornografi korbannya adalah perempuan. Sedangkan, untuk video deepfake bernuansa pornografi, 99 persen korbannya adalah perempuan.

Masih dari laporan Home Security Heroes tahun 2023, tercatat negara yang memiliki kasus deepfake pornografi terbanyak adalah Korea Selatan yang mencakup 53 persen dari total video yang diteliti. Posisi kedua adalah Amerika Serikat, dengan persentase konten deepfake pornografi sebesar 20 persen.

Laporan ini turut membahas profesi yang rentan menjadi korban deepfake pornografi. Sebanyak 94 persen korban deepfake pornografi adalah orang yang bekerja di industri hiburan.

Lebih dari setengah video yang didata korbannya adalah penyanyi. Sebanyak 58 persen dari total korban video deepfake bernuansa pornografi adalah penyanyi. Posisi kedua profesi paling banyak menjadi korban deepfake pornografi adalah aktris, dengan angka 33 persen.

Reporter: Aliya R Putri