Belajar dari Krisis Deepfake Korea: Saat AI Menjadi Alat Pelecehan Massal
Mahasiswa Hubungan Internasional Institut Ilmu Sosial Ilmu Politik Jakarta (IISIP Jakarta)
·waktu baca 4 menit
Tulisan dari Laila Shahada tidak mewakili pandangan dari redaksi kumparan
PerbesarDalam beberapa tahun terakhir, perkembangan kecerdasan buatan (AI) telah melahirkan fenomena yang semakin mengkhawatirkan: deepfake.
Teknologi ini memungkinkan manipulasi wajah seseorang ke dalam video lain secara sangat realistis, termasuk ke dalam konten seksual. Apa yang sebelumnya dianggap sekadar eksperimen digital kini berkembang menjadi bentuk baru kekerasan berbasis gender yang sulit dikendalikan.
Kasus di Korea Selatan menjadi salah satu contoh paling mencolok. Pada tahun 2024, negara tersebut mengalami lonjakan signifikan dalam kasus deepfake pornografi, yang bahkan melibatkan pelajar dan mahasiswa.
Laporan Security Hero tahun 2024 mengungkap fakta mengerikan: Korea Selatan menyumbang 53% korban deepfake porno di seluruh dunia. Bahkan, data menunjukkan sekitar 7,6% orang di sana pernah terlibat dalam pembuatan atau penyebaran konten ilegal tersebut.
Ironisnya, banyak korban merupakan perempuan muda yang fotonya diambil dari media sosial, lalu dimanipulasi menjadi konten seksual tanpa persetujuan. Fenomena ini tidak hanya memicu kemarahan publik, tetapi juga mendorong munculnya berbagai gerakan sosial, petisi, dan tuntutan terhadap pemerintah untuk bertindak lebih tegas.
Menariknya, perubahan respons di Korea Selatan tidak terjadi secara instan. Pada awalnya, praktik manipulasi gambar seperti ini sering dianggap sebagai lelucon atau sekadar “editan iseng”. Namun, seiring meningkatnya jumlah korban dan dampak psikologis yang ditimbulkan, masyarakat mulai melihat deepfake sebagai bentuk kekerasan yang nyata dan serius.
Kesadaran kolektif ini kemudian berubah menjadi tekanan publik yang masif dan meningkat secara signifikan, termasuk melalui 21 petisi resmi yang diajukan ke parlemen dengan hampir 490.000 tanda tangan. Aktivisme digital juga memainkan peran penting; kelompok seperti Project ReSET bahkan menyusup ke grup-grup di Telegram yang kerap menjadi “ruang gelap” penyebaran konten untuk mengumpulkan bukti dan mengungkap jaringan pelaku.
Keseriusan kasus ini juga tecermin dari respons pemerintah. Presiden Korea Selatan, Yoon Suk Yeol, menegaskan bahwa kejahatan deepfake merupakan tindakan kriminal sebagai ancaman serius yang mengeksploitasi teknologi dan ditangani secara tegas oleh negara. Pernyataan ini menunjukkan bahwa isu deepfake telah melampaui ranah individu dan berkembang menjadi perhatian nasional yang mendesak, hingga akhirnya ditetapkan sebagai krisis nasional.
Dari perspektif gender, fenomena ini menunjukkan bahwa teknologi digital tidak selalu netral. Sebagian besar korban deepfake seksual adalah perempuan, sementara banyak pelaku didorong oleh motivasi misoginis, seperti keinginan untuk merendahkan atau mengontrol perempuan secara simbolik.
Hal ini memperlihatkan bahwa ketidaksetaraan gender tidak hilang di era digital, tetapi justru menemukan bentuk baru yang lebih cair dan sulit dikendalikan. Deepfake, dalam hal ini, bukan hanya soal teknologi, melainkan juga sebagai manifestasi dari kejahatan berbasis gender yang terus beradaptasi dengan perkembangan zaman.
Respons pemerintah Korea Selatan pun akhirnya berkembang seiring dengan meningkatnya kesadaran publik. Regulasi diperketat, aparat penegak hukum diberi kewenangan lebih besar, dan bahkan aktivitas seperti menyimpan atau menonton konten deepfake ilegal dapat dikenakan sanksi hukum. Langkah ini menunjukkan bahwa negara dapat beradaptasi terhadap ancaman baru, meskipun sering kali harus didorong terlebih dahulu oleh tekanan masyarakat.
Namun demikian, tantangan deepfake tidak berhenti pada batas negara. Penyebaran konten sering kali terjadi melalui platform global, seperti Telegram, dengan server yang berada di luar yurisdiksi nasional. Kondisi ini menunjukkan bahwa meskipun suatu negara telah bertindak cepat, efektivitasnya tetap terbatas tanpa adanya kerja sama lintas negara dan keterlibatan perusahaan teknologi.
Fenomena di Korea Selatan ini harus menjadi refleksi bagi Indonesia. Meskipun kasus deepfake di tanah air belum mendapat perhatian sebesar di Korea, indikasi kemunculannya mulai terlihat di kalangan anak muda. Tantangannya bukan hanya terletak pada aspek regulasi, melainkan juga pada kesadaran masyarakat yang sering kali masih menganggap praktik ini sebagai hiburan semata.
Oleh karena itu, pelajaran utama dari Korea Selatan bukan hanya tentang bagaimana negara merespons, melainkan juga bagaimana masyarakat membentuk pemahaman terhadap suatu masalah. Tanpa adanya kesadaran kolektif, teknologi yang berpotensi merugikan akan terus berkembang tanpa kontrol yang memadai.
Pada akhirnya, deepfake AI bukan sekadar inovasi teknologi, melainkan juga cerminan dari bagaimana kekuasaan bekerja dalam ruang digital. Ia menunjukkan bahwa batas antara realitas dan manipulasi semakin kabur, sekaligus membuka ruang baru bagi terjadinya kejahatan berbasis gender.
Teknologi yang seharusnya mempermudah kehidupan justru dapat menjadi alat yang mempercepat dan memperluas bentuk-bentuk kekerasan. Oleh karena itu, diperlukan tidak hanya regulasi yang tegas, tetapi juga kesadaran publik bahwa praktik deepfake—khususnya yang bersifat seksual—merupakan bagian dari kejahatan yang nyata dan harus ditangani secara serius.