Ancaman Deepfake dan Urgensi Pengesahan Perpres AI

Perkembangan teknologi kecerdasan artifisial (artificial intelligence (AI)) di era modern bergerak dengan begitu cepat. Di satu sisi, kehadiran AI generatif menghadirkan efisiensi luar biasa di berbagai bidang kehidupan, mulai dari otomatisasi industri, pelayanan publik, hingga akselerasi kreativitas digital. Namun, di sisi lain, lompatan teknologi ini memunculkan ancaman serius ketika dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab untuk melakukan manipulasi informasi digital. Salah satu bentuk penyalahgunaan AI yang paling membahayakan saat ini adalah teknologi deepfake, yaitu rekayasa media sintetis berupa audio, citra, atau video yang mampu menirukan identitas fisik dan suara seseorang dengan tingkat akurasi yang sangat tinggi.

Kasus nyata dari ancaman deepfake baru-baru ini menimpa Menteri Desa dan Pembangunan Daerah Tertinggal, Bapak Yandri Susanto (Mendes Yandri). Kejadian ini menjadi sinyal bahaya bagi ruang publik digital Indonesia, sekaligus menegaskan perlunya langkah preventif yang konkret. Penanganan kasus kejahatan siber semata-mata tidak lagi cukup tanpa didukung oleh regulasi komprehensif di tingkat hulu. Oleh karena itu, percepatan pengesahan Peraturan Presiden tentang Etika Kecerdasan Artifisial (Perpres AI) menjadi kebutuhan yang sangat mendesak demi menjamin pembuatan dan pemanfaatan AI yang beretika, aman, serta bertanggung jawab.

Anatomi Kasus: Manipulasi Suara Mendes Yandri dan Fitnah Koperasi Desa

Kasus ini muncul ketika jajaran Kementerian Desa dan Pembangunan Daerah Tertinggal (Kemendes PDT) menyambangi Direktorat Tindak Pidana Siber Badan Reserse Kriminal Kepolisian Republik Indonesia (Bareskrim Polri) pada tanggal 13 Agustus 2026. Kedatangan tim hukum dan pejabat Kemendes PDT tersebut bertujuan menindaklanjuti pengaduan resmi terhadap 73 akun TikTok yang telah dilayangkan secara pribadi oleh Mendes Yandri sejak 29 Juli 2026 terkait penyebaran berita bohong dengan deepfake yang mencatut nama dan suara beliau (Kumparan.com, 2026).

Konten manipulatif yang beredar luas di media sosial memperlihatkan potongan video wawancara Mendes Yandri dengan awak media. Namun, audio dalam video tersebut telah direkayasa menggunakan teknologi AI sehingga menghasilkan tiruan suara yang sangat mirip dengan Mendes Yandri. Dalam video palsu itu, narasi yang dibangun seolah-olah pemerintah berharap warung-warung dan toko milik masyarakat desa ditutup agar warga berbelanja di Koperasi Desa dan Kelurahan Merah Putih (Kumparan.com, 2026).

Sekretaris Jenderal Kemendes PDT, Taufik Madjid, menegaskan bahwa konten tersebut adalah hoaks berbasis teknologi AI. Menurutnya, Mendes Yandri tidak pernah memberikan pernyataan atau mengeluarkan kebijakan mengenai penutupan warung warga di desa. Narasi dalam deepfake tersebut berbanding terbalik dengan tujuan utama pembentukan Koperasi Desa Merah Putih. Hal ini mengingat bahwa kehadiran koperasi justru diproyeksikan untuk merangkul, menghidupkan, serta memperkuat ekosistem Usaha Mikro, Kecil, dan Menengah (UMKM), warung lokal, dan Badan Usaha Milik Desa (BUMDes) sebagai pilar pertumbuhan ekonomi warga desa (Kumparan.com, 2026).

Rekayasa suara tentunya tidak hanya mencemarkan nama baik pejabat publik secara pribadi, melainkan juga berpotensi memicu benturan sosial di tengah masyarakat pedesaan. Informasi palsu yang terarsitektur dengan rapi tersebut telah membuat resah para pemilik usaha kecil di desa dan merusak kepercayaan publik terhadap program strategis nasional.

Bahaya Sistemik Deepfake dan Keterbatasan Hukum Pidana

Fenomena deepfake suara yang menimpa Mendes Yandri memperlihatkan bagaimana kejahatan siber kini beroperasi dengan tingkat kognitif yang lebih kompleks. Jika hoaks konvensional hanya mengandalkan teks atau potongan gambar stasis yang relatif mudah diverifikasi, konten deepfake memanipulasi indra pendengaran dan penglihatan secara bersamaan. Ketika publik mendengar intonasi, ritme, dan nada suara yang identik dengan figur resmi, persepsi kritis masyarakat cenderung melemah. Akibatnya, disinformasi dapat menyebar luas dalam hitungan jam sebelum klarifikasi resmi sempat menjangkau audiens.

Dalam kasus ini, penyebaran konten hoaks deepfake AI terdeteksi telah merambah ke berbagai platform media sosial besar. Ditemukan 73 akun TikTok terpantau yang secara masif mendistribusikan potongan video rekayasa deepfake tersebut. Laporan yang dilayangkan ke Bareskrim Polri di bawah penanganan Direktorat Tindak Pidana Siber merupakan langkah hukum penindakan (ex-post) yang patut diapresiasi. Proses penegakan hukum berdasarkan Kitab Undang-Undang Hukum Pidana (KUHP) serta Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) sangatlah penting untuk memberikan efek jera kepada para pembuat dan penyebar konten manipulatif.

Namun demikian, penindakan hukum di jalur pidana memiliki keterbatasan fundamental. Proses penyelidikan dan penyidikan kejahatan siber membutuhkan waktu, sementara konten AI dapat direproduksi dan didistribusikan secara instan oleh puluhan akun anonim baru dengan bantuan alat otomasi. Penindakan di hilir tanpa penataan aturan di hulu bagaikan memadamkan kebakaran tanpa menutup sumber kebocoran gas. Tanpa adanya regulasi pencegahan yang mengikat pengembang dan penyedia teknologi AI, peristiwa serupa akan terus berulang dengan menargetkan tokoh publik maupun warga biasa lainnya.

Urgensi Perpres AI

Saat ini, tata kelola AI di Indonesia masih mengacu pada Surat Edaran Menkominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial (SE AI). Walaupun kehadiran SE AI tersebut menjadi langkah awal dalam mengenalkan etika digital, instrumen hukum ini memiliki kelemahan mendasar. Sebagai soft law, Surat Edaran bersifat non-binding (beleidsregel) yang tidak memiliki kekuatan hukum mengikat secara imperatif mengingat sifat dari Surat Edaran itu sendiri adalah peraturan kebijakan. Di mana SE AI tersebut tidak memuat sanksi administratif, tidak memberikan kewajiban teknis kepada pengembang platform AI, serta tidak mengikat penyedia teknologi AI global yang produknya diakses oleh publik Indonesia. Kondisi ini seolah-olah ada kekosongan hukum dalam tata kelola AI generatif di Tanah Air. Jika dibandingkan dengan Uni Eropa yang telah mengesahkan European Union AI Act yang mengatur risiko AI secara ketat, Indonesia masih tertinggal dalam memagari batas-batas penggunaan teknologi AI.

Melihat situasi seperti ini, diharapkan bahwa pemerintah Indonesia dapat segera mengesahkan rancangan Perpres AI. Dengan harapan bahwa nantinya regulasi Perpres AI memiliki payung hukum yang lebih kuat daripada sekadar berbentuk Surat Edaran, untuk mewajibkan seluruh pengembang, penyedia platform, dan pengguna teknologi AI mematuhi prinsip etika, keselamatan, dan tanggung jawab hukum.

Pilar Utama untuk Mencegah Kejahatan Deepfake

Agar Perpres AI nantinya mampu menangani ancaman nyata seperti yang dialami Mendes Yandri, setidaknya Perpres AI harus memuat empat pilar pencegahan yang krusial. Pertama, penerapan penandaan digital wajib (mandatory watermarking) dan metadata otentikasi (seperti standar The Coalition for Content Provenance and Authenticity (C2PA)) pada setiap media sintetis buatan AI. Dengan kewajiban ini, platform media sosial secara otomatis dapat mendeteksi dan memberi label tegas bahwa suatu video atau audio merupakan hasil rekayasa kecerdasan artifisial. Kedua, perlindungan berbasis persetujuan (consent-based AI) terhadap data biometrik, di mana pelatihan model AI dan kloning suara tanpa izin eksplisit dikategorikan sebagai bentuk kejahatan serius.

Ketiga, penanaman pagar pengaman teknis (safety guardrails) pada tingkat pengembang. Pengembang perangkat lunak AI yang beroperasi di Indonesia wajib memasang sistem pemfilteran yang mencegah algoritma mereka digunakan untuk memproduksi ujaran kebencian, pencemaran nama baik, atau impersonasi tokoh publik. Keempat, adopsi pendekatan berbasis risiko (risk-based approach), di mana aplikasi AI yang mampu menghasilkan media sintetis tokoh publik atau memengaruhi pendapat massa dikategorikan sebagai sistem berisiko tinggi (High-Risk AI System) yang wajib melalui audit etika dan pendaftaran resmi sebelum dilepas ke pasaran.

Kasus manipulasi suara yang menimpa Mendes Yandri harus kita maknai sebagai pesan bahaya yang benderang. Jangan sampai kita menunggu kehancuran tatanan sosial yang lebih luas, baru kemudian tergesa-gesa merumuskan aturan. Pengesahan Perpres AI adalah langkah strategis yang sangat dinantikan untuk memastikan bahwa di tengah arus deras transformasi digital, kemanusiaan, etika, dan kebenaran tetap menjadi pemenang utama.

Menjaga Inovasi AI Sekaligus Melindungi Masyarakat

Langkah mewujudkan Perpres AI tidak dimaksudkan untuk mengekang inovasi atau menghambat pertumbuhan industri teknologi di Tanah Air. Sebaliknya, regulasi yang jelas dan adil justru memberikan kepastian hukum bagi para pengembang lokal, investor, dan pengguna. Koridor hukum yang tertata rapi akan membangun kepercayaan publik terhadap ekosistem digital nasional.

Penyusunan dan pengesahan Perpres AI memerlukan sinergi yang kuat antara Kementerian Komunikasi dan Digital, Kementerian Hukum, aparat penegak hukum seperti Bareskrim Polri, akademisi, serta komunitas teknologi. Selain regulasi, edukasi dan literasi digital berbasis pemahaman AI harus terus disosialisasikan hingga ke lapisan masyarakat bawah agar publik tidak mudah terkecoh oleh manipulasi rekaman suara dan video sintetis berbasis deepfake AI.

Kasus manipulasi suara yang menimpa Menteri Yandri merupakan peringatan keras bagi seluruh elemen bangsa. Deepfake AI telah terbukti menjadi instrumen efektif untuk menyebarkan fitnah, mengadu domba, dan mengganggu ketertiban umum. Penindakan terhadap akun penyebar hoaks di Bareskrim Polri merupakan langkah hukum yang penting, namun pencegahan secara permanen hanya dapat dicapai dengan pengesahan Perpres AI. Sudah saatnya Indonesia memiliki kepastian hukum yang kokoh untuk memastikan teknologi AI berkembang secara etis, bertanggung jawab, dan senantiasa berpihak pada keselamatan serta kemaslahatan masyarakat.