Penyalahgunaan Deepfake AI: Wajah Dicuri, Martabat Dirusak dan Perlindungan Hukum Korban
Mahasiswa Fakultas Hukum, Prodi Ilmu Hukum Universitas Pamulang
·waktu baca 4 menit
Tulisan dari Arinil Abrarah tidak mewakili pandangan dari redaksi kumparan
PerbesarPenyalahgunaan deepfake AI menjadi persoalan hukum yang semakin serius ketika teknologi kecerdasan buatan digunakan untuk memanipulasi foto seseorang tanpa persetujuan. Perkembangan teknologi Artificial Intelligence (AI) memang membawa banyak kemudahan dalam kehidupan masyarakat, tetapi penggunaannya juga dapat menimbulkan pelanggaran terhadap hak privasi, identitas, dan martabat seseorang.
Salah satu fenomena yang menjadi perhatian publik adalah penyalahgunaan Grok AI pada platform X untuk menghasilkan konten asusila melalui manipulasi foto pribadi. Pada Januari 2026, Kementerian Komunikasi dan Digital (Kemkomdigi) menindaklanjuti dugaan penyalahgunaan tersebut karena dinilai berpotensi melanggar hak privasi dan hak atas citra diri seseorang. Bahkan, pemerintah mengambil langkah pemutusan akses sementara terhadap Grok AI sebagai upaya perlindungan masyarakat dari risiko penyebaran konten pornografi palsu. Fenomena ini menunjukkan bahwa perkembangan teknologi tidak selalu berjalan seiring dengan perlindungan terhadap hak seseorang. Foto yang awalnya diunggah untuk kepentingan pribadi atau sekadar berbagi aktivitas sehari-hari dapat dimanipulasi menjadi konten yang merugikan pemiliknya. Dalam kondisi tersebut, korban bukan hanya kehilangan kendali atas penggunaan foto dirinya, tetapi juga berpotensi mengalami tekanan psikologis, kerusakan reputasi, hingga pengucilan sosial. Penyalahgunaan Deepfake AI dan Hilangnya Kendali atas Identitas Seseorang Deepfake merupakan teknologi yang memungkinkan seseorang memanipulasi gambar, suara, atau video sehingga terlihat seolah-olah nyata. Teknologi ini sebenarnya tidak selalu digunakan untuk tujuan yang merugikan. Namun, ketika digunakan untuk membuat konten seksual palsu atau menampilkan seseorang dalam situasi yang tidak pernah dilakukannya, deepfake dapat menjadi bentuk penyalahgunaan teknologi yang serius.
Persoalan utama dalam fenomena ini bukan hanya terletak pada hasil manipulasi gambar, melainkan juga pada hilangnya kendali seseorang atas identitas dirinya. Seseorang seharusnya memiliki hak untuk menentukan bagaimana wajah, foto, dan identitas visualnya digunakan oleh pihak lain. Ketika foto seseorang dimanipulasi menjadi konten asusila tanpa persetujuan, tindakan tersebut tidak dapat dianggap sebagai bentuk kreativitas atau hiburan semata. Ada hak dan martabat seseorang yang telah dilanggar. Terlebih, penyebaran konten digital dapat berlangsung dengan sangat cepat dan sulit dikendalikan setelah diunggah ke ruang publik.
Perlindungan Hukum terhadap Korban Deepfake AI
Indonesia sebenarnya telah memiliki sejumlah peraturan yang dapat digunakan untuk memberikan perlindungan terhadap korban penyalahgunaan deepfake AI. Pertama, Pasal 28G ayat (1) Undang-Undang Dasar Negara Republik Indonesia Tahun 1945 menjamin perlindungan diri pribadi, keluarga, kehormatan, martabat, serta rasa aman dari ancaman yang berkaitan dengan hak asasi manusia. Ketentuan tersebut menjadi dasar bahwa setiap orang memiliki hak atas perlindungan diri dan martabatnya, termasuk ketika menghadapi penyalahgunaan teknologi digital. Kedua, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi memberikan perlindungan terhadap data pribadi seseorang. Foto yang dapat mengidentifikasi seseorang termasuk informasi yang perlu mendapatkan perlindungan sesuai ketentuan yang berlaku. Ketiga, Undang-Undang Nomor 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual juga memiliki relevansi terhadap penyebaran konten seksual tanpa persetujuan. Pasal 14 mengatur mengenai kekerasan seksual berbasis elektronik, termasuk perbuatan tertentu yang dilakukan tanpa hak dan tanpa persetujuan korban.
Selain itu, Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana yang mulai berlaku pada 2 Januari 2026 juga mengatur ketentuan mengenai pornografi dan perbuatan yang berkaitan dengannya. Meskipun demikian, penerapan ketentuan hukum terhadap kasus deepfake harus tetap memperhatikan bentuk perbuatan, unsur tindak pidana, serta ketentuan hukum yang berlaku. Tidak setiap manipulasi gambar secara otomatis dapat dikategorikan sebagai tindak pidana yang sama.
Perlindungan Korban Tidak Cukup dengan Menghukum Pelaku
Menurut penulis, perlindungan hukum terhadap korban penyalahgunaan deepfake AI tidak seharusnya hanya berfokus pada pemberian sanksi kepada pelaku. Perlindungan juga perlu diarahkan pada pemulihan hak korban dan pencegahan agar perbuatan serupa tidak kembali terjadi. Dalam hal ini, terdapat dua bentuk perlindungan yang perlu diperhatikan.
Perlindungan preventif dapat dilakukan melalui penguatan sistem keamanan dan moderasi pada platform digital, pembatasan penggunaan AI untuk menghasilkan konten yang merugikan, serta penyediaan mekanisme pelaporan yang mudah diakses oleh masyarakat. Sementara itu, perlindungan represif dapat dilakukan melalui penegakan hukum terhadap pelaku yang terbukti melakukan pelanggaran, penghapusan konten yang merugikan korban, serta upaya pemulihan terhadap dampak yang dialami korban. Platform digital juga memiliki peran penting dalam memastikan bahwa teknologi yang disediakan tidak menjadi sarana untuk melakukan pelanggaran terhadap hak seseorang. Oleh karena itu, pengembangan teknologi AI seharusnya disertai dengan sistem perlindungan yang memadai dan mekanisme penanganan yang cepat ketika terjadi penyalahgunaan.
Teknologi Harus Berkembang Tanpa Mengorbankan Hak Manusia
Perkembangan teknologi kecerdasan buatan merupakan sesuatu yang tidak dapat dihindari. Namun, kemajuan teknologi seharusnya tidak menjadikan hak privasi dan martabat seseorang sebagai sesuatu yang dapat diabaikan.
Kasus penyalahgunaan deepfake AI menunjukkan bahwa perlindungan hukum di ruang digital perlu terus diperkuat agar mampu menjawab persoalan yang muncul akibat perkembangan teknologi. Hukum tidak hanya dituntut untuk memberikan sanksi setelah pelanggaran terjadi, tetapi juga harus mampu memberikan perlindungan yang nyata bagi masyarakat.
Pada akhirnya, wajah seseorang bukanlah objek yang dapat digunakan secara bebas oleh pihak lain. Di balik sebuah foto terdapat identitas, kehormatan, dan martabat yang harus dihormati. Teknologi seharusnya menjadi alat untuk membantu manusia, bukan menjadi sarana untuk merampas hak dan merusak kehidupan orang lain.