Saat Wajah Bisa Dipalsukan, Siapa yang Menjaga Kepercayaan Publik?

Ilustrasi edit wajah dengan AI. [Sumber foto: Idisign]

Dulu, melihat berarti percaya.

Foto dianggap sebagai bukti. Rekaman suara dipandang sebagai penegasan. Video diyakini sebagai gambaran yang paling dekat dengan kenyataan. Ketika seseorang muncul di layar dan mengucapkan sesuatu, publik cenderung menganggap peristiwa itu benar-benar terjadi.

Namun, kecerdasan buatan atau Artificial Intelligence (AI) sedang mengubah keyakinan tersebut.

Kini, wajah seseorang dapat ditempelkan pada tubuh orang lain. Suara dapat ditiru dari rekaman yang tersedia di ruang digital. Video dapat dibuat seolah-olah seorang tokoh sedang menyampaikan pernyataan yang tidak pernah diucapkannya. Semua itu dapat diproduksi dengan biaya yang semakin murah, waktu yang semakin singkat, dan teknologi yang semakin mudah diakses.

Di era deepfake, apa yang terlihat nyata belum tentu benar.

Peringatan mengenai risiko penyalahgunaan AI seharusnya tidak dipahami sebagai upaya menakut-nakuti masyarakat atau membatasi perkembangan teknologi. Pesan utamanya jauh lebih mendasar: wajah, suara, dan identitas digital kini menjadi aset yang dapat disalin, dimanipulasi, bahkan digunakan untuk melakukan kejahatan.

Jika dahulu seseorang cukup menjaga kartu identitas, kata sandi, dan nomor telepon, kini perlindungan identitas juga mencakup wajah, suara, foto pribadi, serta jejak digital yang tersebar di berbagai platform.

Perubahan ini menggeser cara kita memahami keamanan.

Ancaman tidak lagi selalu datang melalui peretasan sistem atau pencurian akun. Ancaman juga dapat muncul melalui manipulasi persepsi. Ketika AI mampu membuat seseorang terlihat berbicara, bertindak, atau berada dalam situasi tertentu yang sebenarnya tidak pernah terjadi, batas antara fakta dan rekayasa menjadi semakin tipis.

Di titik inilah deepfake tidak lagi sekadar persoalan teknologi. Ia telah menjadi persoalan keamanan digital, perlindungan identitas, kebijakan publik, dan masa depan demokrasi.

Ketika Identitas Digital Menjadi Medan Perebutan Kepercayaan

Manipulasi informasi sebenarnya bukan hal baru. Jauh sebelum AI berkembang, foto dapat direkayasa, video dapat dipotong, dan pernyataan dapat dikeluarkan dari konteksnya.

Namun, AI mengubah skala, kecepatan, dan daya jangkau manipulasi.

Teknologi generatif memungkinkan konten palsu dibuat secara lebih cepat, murah, personal, dan meyakinkan. Satu foto dapat diolah menjadi berbagai versi. Rekaman suara dapat digunakan untuk menghasilkan percakapan yang tidak pernah terjadi. Video dapat direkayasa untuk membangun kesan bahwa seseorang mengatakan atau melakukan sesuatu yang sebenarnya tidak pernah dilakukan.

Yang membuat situasi ini semakin berbahaya adalah kemampuan AI meniru realitas secara meyakinkan.

Kebohongan tidak lagi harus terlihat seperti kebohongan.

Dalam konteks politik, risiko tersebut sangat besar. Demokrasi bekerja berdasarkan informasi. Masyarakat membentuk pandangan, menilai pemimpin, dan menentukan pilihan politik berdasarkan informasi yang mereka terima.

Jika informasi dapat dipalsukan secara masif, kualitas pengambilan keputusan publik ikut terancam.

Bayangkan sebuah video beredar menjelang pemilu. Video itu memperlihatkan seorang pejabat atau kandidat menyampaikan pernyataan yang provokatif. Dalam waktu singkat, konten tersebut dipotong menjadi berbagai versi, disebarkan oleh ribuan akun, lalu menjadi bahan perdebatan nasional.

Beberapa jam kemudian, muncul klarifikasi bahwa video tersebut merupakan hasil manipulasi AI.

Namun, dampaknya mungkin sudah telanjur terjadi.

Dalam ruang digital, informasi yang memicu kemarahan sering kali bergerak lebih cepat daripada proses verifikasi. Ketika fakta datang untuk menjelaskan, emosi telah lebih dahulu membentuk penilaian.

Karena itu, ancaman deepfake tidak hanya terletak pada kemampuan AI menciptakan kebohongan. Ancaman yang lebih besar adalah kemampuannya mengikis kepercayaan masyarakat terhadap informasi.

Ketika publik semakin sering melihat konten palsu yang tampak nyata, muncul pertanyaan baru: jika video dapat dipalsukan, apakah video asli masih dapat dipercaya?

Di sinilah muncul persoalan yang lebih serius. Keberadaan teknologi deepfake dapat memberi ruang bagi pihak tertentu untuk menyangkal bukti yang sebenarnya autentik dengan alasan bahwa konten tersebut dibuat oleh AI.

Akibatnya, teknologi tidak hanya menghasilkan kebohongan baru. Teknologi juga berpotensi melemahkan kekuatan bukti yang benar.

Ancaman deepfake di Indonesia tidak lagi hanya berada dalam bayangan tentang manipulasi politik atau penyebaran hoaks.

Kasus seorang mahasiswi di Solo yang menjadi korban konten pornografi hasil manipulasi AI menunjukkan bahwa teknologi ini telah memasuki ruang yang jauh lebih personal: tubuh, martabat, privasi, dan rasa aman seseorang.

Dalam kasus tersebut, wajah korban diduga dimanipulasi dan ditempelkan pada tubuh perempuan lain dalam konten tanpa busana. Konten itu kemudian disebarkan melalui media sosial dan platform percakapan. Peristiwa tersebut memperlihatkan bahwa seseorang tidak harus membuat, merekam, atau mengunggah konten pribadi untuk menjadi korban.

Cukup dengan adanya foto wajah yang tersedia di ruang digital, teknologi dapat digunakan untuk menciptakan representasi palsu yang kemudian disebarkan tanpa persetujuan.

Di sinilah muncul bentuk baru pelanggaran terhadap identitas.

Korban tidak hanya kehilangan kendali atas foto atau wajahnya. Ia juga dapat kehilangan rasa aman terhadap ruang digital yang sebelumnya digunakan untuk berinteraksi, belajar, bekerja, dan membangun relasi sosial.

Dalam kasus seperti ini, kontennya mungkin palsu, tetapi dampaknya nyata.

Korban dapat mengalami tekanan psikologis, rasa malu, ketakutan, gangguan terhadap aktivitas sosial dan akademik, hingga kekhawatiran mengenai dampak jangka panjang terhadap reputasi. Ketika konten telah disalin dan disebarkan ke berbagai platform, persoalan menjadi semakin rumit karena jejak digital dapat terus muncul kembali.

Inilah paradoks deepfake: gambar yang dibuat tidak nyata, tetapi luka yang ditimbulkannya benar-benar nyata.

Kasus tersebut juga memperlihatkan bahwa penyalahgunaan AI dapat berkembang menjadi bentuk kekerasan berbasis gender online. Teknologi digunakan bukan untuk menciptakan manfaat, tetapi untuk merusak martabat, mempermalukan korban, dan mengambil kendali atas identitas visual seseorang.

Karena itu, persoalan deepfake tidak dapat hanya dilihat sebagai masalah keamanan teknologi. Ia juga menyangkut hak atas martabat, hak atas identitas, dan hak seseorang untuk tidak direpresentasikan secara palsu tanpa persetujuan.

Banyak orang masih menganggap foto wajah sebagai data biasa. Padahal, dalam era AI, wajah telah menjadi bagian dari data biometrik yang memiliki nilai tinggi. Wajah dapat digunakan untuk membangun identitas digital, mengakses layanan, melakukan verifikasi, atau menjadi bahan bagi sistem pengenalan wajah.

Perbedaannya dengan kata sandi sangat mendasar.

Kata sandi dapat diganti ketika bocor. Nomor telepon dapat diubah. Akun dapat ditutup. Namun, seseorang tidak dapat mengganti wajahnya ketika identitas biometriknya telah disalin dan digunakan secara tidak bertanggung jawab.

Karena itu, masyarakat perlu lebih kritis ketika menggunakan aplikasi AI untuk mengedit foto, membuat avatar, atau menghasilkan potret digital.

Pertanyaan yang perlu diajukan bukan hanya, Apakah hasilnya menarik?

Pertanyaan yang lebih penting adalah, “Ke mana foto saya dikirim? Bagaimana data itu disimpan? Apakah digunakan untuk melatih sistem AI? Apakah dapat dihapus? Siapa yang bertanggung jawab jika terjadi penyalahgunaan?”

Masalahnya, banyak pengguna hanya melihat hasil akhir tanpa membaca kebijakan privasi atau memahami bagaimana data mereka diproses.

Fenomena ini menunjukkan bahwa kecepatan adopsi teknologi sering kali lebih tinggi dibandingkan kesiapan literasi masyarakat.

Kita semakin cepat menggunakan AI, tetapi belum tentu semakin siap memahami risikonya.

Sebagai analis politik digital dan kebijakan publik, saya melihat bahwa ancaman terbesar deepfake bukan hanya penipuan atau penyebaran informasi palsu.

Ancaman yang lebih mendasar adalah terkikisnya kepercayaan publik.

Demokrasi tidak hanya membutuhkan pemilu. Demokrasi membutuhkan masyarakat yang mampu mengakses informasi, memeriksa fakta, dan mengambil keputusan berdasarkan pertimbangan yang rasional.

Ketika masyarakat tidak lagi yakin apakah sebuah video asli atau palsu, ruang publik menjadi lebih mudah dipenuhi kecurigaan, polarisasi, dan teori konspirasi.

Dalam kondisi seperti itu, yang terancam bukan hanya reputasi individu, tetapi juga legitimasi institusi.

Konten deepfake dapat digunakan untuk menyerang tokoh politik, memanipulasi opini, memicu konflik sosial, atau menciptakan kepanikan. Namun, dampak jangka panjangnya bisa lebih luas: masyarakat menjadi ragu terhadap semua informasi, termasuk informasi yang benar.

Karena itu, keamanan digital ke depan tidak cukup hanya melindungi jaringan dan sistem.

Kita juga perlu melindungi integritas informasi.

Serangan digital tidak selalu bertujuan mencuri data. Dalam banyak kasus, serangan juga dapat dirancang untuk mencuri kepercayaan.

Indonesia membutuhkan tata kelola AI yang tidak hanya berorientasi pada inovasi, tetapi juga perlindungan masyarakat.

Pertama, perlindungan data biometrik perlu diperkuat. Setiap platform yang mengumpulkan foto wajah atau rekaman suara harus menjelaskan secara terbuka tujuan penggunaan data, masa penyimpanan, mekanisme penghapusan, dan tanggung jawab apabila terjadi penyalahgunaan.

Kedua, perlu tersedia mekanisme respons cepat terhadap konten deepfake yang merugikan korban.

Ketika konten intim hasil manipulasi telah tersebar, proses pelaporan yang panjang dapat memperbesar dampak. Korban membutuhkan jalur pengaduan yang mudah, penanganan cepat, pengamanan bukti digital, penghapusan konten, serta pendampingan hukum dan psikologis.

Beban tidak boleh seluruhnya diletakkan pada korban untuk membuktikan bahwa konten tersebut palsu.

Ketiga, platform digital harus memiliki tanggung jawab yang lebih besar.

Platform tidak dapat hanya menjadi ruang distribusi. Ketika algoritma membantu mempercepat penyebaran konten, platform juga perlu memperkuat sistem pencegahan, moderasi, dan penanganan terhadap konten sintetis yang melanggar privasi serta merusak martabat seseorang.

Keempat, literasi digital perlu berkembang menjadi literasi AI.

Masyarakat tidak cukup hanya diajarkan untuk berhati-hati terhadap hoaks. Mereka perlu memahami bagaimana AI membuat gambar, suara, dan video; mengapa konten sintetis dapat terlihat meyakinkan; serta bagaimana melakukan verifikasi melalui sumber resmi dan media yang kredibel.

Media massa juga memiliki peran yang semakin penting.

Ketika ruang digital dipenuhi konten yang dapat diproduksi mesin dalam jumlah hampir tanpa batas, nilai utama media bukan lagi sekadar kecepatan.

Nilai terbesar media adalah kredibilitas.

Jurnalisme yang melakukan verifikasi, menghadirkan konteks, dan menjelaskan fakta akan semakin dibutuhkan ketika masyarakat kesulitan membedakan antara realitas dan rekayasa.

Namun, AI tidak boleh diposisikan sebagai musuh.

Teknologi ini tetap memiliki potensi besar untuk meningkatkan pelayanan publik, mempercepat riset, memperluas akses pendidikan, mendukung layanan kesehatan, dan menciptakan peluang ekonomi baru.

Tantangan sebenarnya bukan menghentikan perkembangan AI.

Tantangannya adalah memastikan bahwa kemajuan teknologi tidak berjalan lebih cepat daripada perlindungan terhadap manusia.

Pada akhirnya, pertarungan terbesar di era AI bukan antara manusia dan mesin.

Pertarungan sesungguhnya adalah antara kepercayaan dan manipulasi.

Kita hidup pada masa ketika satu rekaman suara dapat memicu kepanikan, satu video dapat merusak reputasi, dan satu gambar dapat mengubah persepsi publik.

Karena itu, menjaga identitas digital bukan lagi sekadar urusan keamanan pribadi. Ia telah menjadi bagian dari upaya menjaga martabat manusia, kualitas ruang publik, dan ketahanan demokrasi.

Kasus mahasiswi di Solo menjadi pengingat bahwa deepfake bukan ancaman yang jauh atau sekadar cerita tentang masa depan. Ancaman itu sudah hadir dan dapat menyasar siapa saja.

Ketika AI mampu menciptakan tubuh palsu dengan wajah orang yang nyata, persoalannya bukan lagi sekadar kecanggihan teknologi.

Itu adalah persoalan tentang hak seseorang atas identitasnya.

Di masa depan, tantangan terbesar bukan hanya membedakan mana konten yang dibuat manusia dan mana yang dibuat mesin. Tantangan yang lebih penting adalah memastikan bahwa manusia tidak kehilangan kemampuan untuk membedakan kebenaran dari manipulasi. Sebab, ketika wajah dapat dipalsukan, suara dapat direkayasa, dan realitas dapat dimanipulasi, demokrasi hanya akan tetap kuat jika masyarakat tidak berhenti bertanya, memeriksa, dan berpikir kritis.