Bahaya Deepfake Pornography: Ancaman Serius Teknologi AI di Asia Pasifik

Ilustrasi Deepfake | Foto: istockphoto.com

Perkembangan Artificial Intelligence (AI) atau teknologi kecerdasan buatan yang cukup pesat di era pertempuran globalisasi menimbulkan sumber permasalahan baru yaitu kejahatan berbasis AI, salah satunya pemalsuan identitas untuk mendapatkan keuntungan secara ilegal. Tindakan ilegal menjadi permasalahan yang serius di seluruh dunia, salah satunya deepfake pornography. Deepfake technology merupakan teknologi yang dapat mengubah wajah aktor dalam sebuah video dengan wajah aktor lain dalam bentuk video yang nyata sehingga sulit untuk dibedakan dari konten aslinya. Teknologi ini telah menimbulkan kekhawatiran, khususnya di kawasan Asia Pasifik. Oleh karena itu, hal ini merupakan bentuk ancaman keamanan privasi yang sangat berdampak terhadap individu hingga orang-orang berpengaruh di dunia.

Dilansir dari survei Deeptracetech.com, The AI Firm pada tahun 2019 Deepfake Technology telah menyumbang sekitar 15.000 video deepfake daring dan sekitar 96% adalah konten pornografi, korban dari deepfake pornography kebanyakan adalah perempuan. Namun, anak-anak juga tidak terlepas menjadi sasaran pedofilia yang menggunakan teknologi ini untuk membuat karya atau konten yang memiliki unsur pelecehan seksual pada anak-anak yang tersebar di platform Pixiv di Jepang.

Ilustrasi dampak penyalahgunaan teknologi AI | Foto: istockphoto.com

Dampak dari pemalsuan pornografi yang dioperasikan deepfake sangat berpengaruh pada kondisi psikologis dan emosional. Korban kejahatan AI ini dapat mengalami kecemasan, depresi, hingga isolasi sosial akibat penyebaran konten palsu yang melibatkan identitas mereka, hal ini dapat mengakibatkan dampak jangka panjang pada kesejahteraan mental individu. Dengan terjadinya fenomena ini sangat dibutuhkannya peran-peran internasional untuk mengatasi masalah ini, karena fenomena ini telah menjadi pusat perhatian internasional. Untuk saat ini belum ada perjanjian hukum internasional yang secara khusus mengatur masalah deepfake. Kebijakan hukum terkait deepfake biasanya diatur dalam kerangka kerja hukum yang luas yang mencakup Hukum Privasi dan Cybercrime.

Peran organisasi internasional terkait deepfake pornography, seperti UN Women dan UNICEF, belum sepenuhnya terdefinisi atau diatur dengan tegas. Namun dalam perkembangannya, beberapa negara telah mulai mengadopsi peraturan dan undang-undang untuk mengatasi deepfake, tetapi belum ada kesepakatan hukum internasional yang luas. Organisasi internasional, seperti PBB sangat berperan penting dalam mengkoordinasikan upaya antarnegara untuk mengatasi isu deepfake dan mengembangkan kerangka hukum internasional yang sesuai. Terutama UN Women dan UNICEF, dengan fokusnya pada gender dan anak-anak, juga dapat berkontribusi dan ikut andil dalam pengembangan kebijakan yang melindungi perempuan dan anak-anak yang rentan terhadap dampak teknologi ini.

Ilustrasi pelaku pornografi | Foto: istockphoto

Di Indonesia sendiri, belum secara spesifik memiliki pengaturan khusus untuk teknologi kecerdasan buatan. Tetapi Indonesia mempunyai UU Pornografi yang bisa mengatur penyalahgunaan deepfake porn. Selain UU Pornografi yang telah diatur oleh pemerintah, pendidikan serta kesadaran adalah salah satu kunci juga dalam memerangi deepfake pornografi. Masyarakat perlu diberikan edukasi tentang potensi ancaman deepfake dan cara mengidentifikasinya. Hal ini akan membantu individu lebih waspada terhadap potensi bahaya yang timbul. Hal yang lebih penting adalah meningkatkan pendidikan karakter kepada masyarakat sehingga memiliki karakter yang bijaksana dalam menggunakan teknologi, agar kemungkinan mengakses dan menggunakan teknologi deepfake dalam kegiatan illegal dapat diminimalisir.

Oleh karena itu, deepfake pornography merupakan fenomena ancaman keamanan individu yang dapat berpengaruh kepada pelanggaran hak asasi manusia, sehingga hal ini mencerminkan perlunya pengembangan teknologi yang etis dan peraturan yang ketat untuk mengontrol penyalahgunaan teknologi deepfake. Tindakan hukum yang kuat dan regulasi yang jelas diperlukan untuk mengendalikan pembuatan dan penyebaran deepfake, kita juga harus mendukung langkah-langkah yang memastikan bahwa individu terlindungi dari dampak pemalsuan identitas teknologi AI dan mendorong penggunaan teknologi yang bertanggung jawab. Dengan mengambil tindakan yang tegas, mendidik masyarakat, dan bekerja sama secara internasional, kita dapat meminimalkan ancaman keamanan yang ditimbulkan oleh deepfake pornography dan melindungi privasi serta martabat individu di seluruh wilayah Asia Pasifik. Penulis : Fionna Abigail, Hazkiah Alfatih, Rachel Wotulo, Lara Vonny, Hans Jonathan, Fx. Oliver