Ketika Wajah Menjadi Objek: Krisis Martabat Manusia dan Bahaya Deepfake AI

Gemini ai

Oleh: Haifa Faradiba Mahasiswa Ilmu Komunikasi Universitas 17 Agustus 1945 Surabaya

Kasus dugaan rekayasa foto tak senonoh berbasis kecerdasan buatan (artificial intelligence/AI) yang menyeret nama mahasiswa UPN Veteran Jawa Timur menunjukkan persoalan yang lebih besar dalam kehidupan digital. Peristiwa tersebut tidak dapat dipandang semata-mata sebagai kekhilafan individu atau kenakalan media sosial. Di balik kemudahan teknologi generator gambar, terdapat ancaman terhadap privasi, persetujuan, dan martabat manusia.

Manipulasi foto menggunakan AI tanpa persetujuan pemiliknya dapat menjadi bentuk kekerasan berbasis teknologi, termasuk Kekerasan Berbasis Gender Online (KBGO). Data Komnas Perempuan dan laporan SAFEnet mencatat aduan KBGO meningkat drastis, dengan mayoritas kasus berupa penyebaran konten intim tanpa persetujuan (non-consensual intimate imagery). Tubuh dan identitas seseorang bisa diambil, dimanipulasi, kemudian disebarkan tanpa kendali dari orang yang bersangkutan. Faktanya, perempuan menjadi kelompok yang paling rentan mengalami praktik semacam ini.

Kenyataan ini makin menegaskan bahwa perkembangan teknologi kita tidak selalu berjalan baik seiring dengan perkembangan etika penggunanya. Ketika foto seseorang direkayasa menjadi konten pornografi, yang dirusak bukan hanya citra digitalnya, tetapi juga hak seseorang atas tubuh, identitas, dan kehormatan dirinya. Manusia tidak lagi dipandang sebagai individu yang memiliki kendali atas dirinya sendiri, melainkan direduksi menjadi objek visual untuk memenuhi kepentingan orang lain.

Ancaman penyalahgunaan AI pun berubah menjadi kian mengkhawatirkan. Teknologi yang seharusnya digunakan untuk mendukung kreativitas dan inovasi justru dapat dimanfaatkan untuk melakukan pelecehan. Kemudahan akses terhadap perangkat AI membuat siapa pun dapat menghasilkan manipulasi visual dalam waktu singkat, sementara dampaknya terhadap korban dapat berlangsung jauh lebih lama. Foto yang awalnya diunggah untuk keperluan perkuliahan atau sekadar berbagi momen dapat berubah menjadi sumber ketakutan bagi pemiliknya.

Dampak dari praktik ini tidak berhenti pada ruang digital. Korban berpotensi mengalami kecemasan, rasa malu, kehilangan rasa aman, hingga tekanan sosial yang memengaruhi kehidupan sehari-hari. Penyebaran foto atau video hasil rekayasa di media sosial juga dapat berlangsung dengan cepat, membuat korban kehilangan kendali atas bagaimana identitasnya dipersepsikan oleh orang lain. Apalagi, reaksi masyarakat kita justru kerap memperkeruh situasi. Stigma sosial dan kecenderungan victim-blaming, atau menyalahkan korban, masih menjadi persoalan yang kerap muncul dalam kasus kekerasan digital. Korban akhirnya menghadapi beban ganda: harus menghadapi dampak dari konten yang tidak pernah dibuatnya, sekaligus penilaian dari lingkungan sekitar. Padahal, tanggung jawab sepenuhnya berada pada pihak yang membuat dan menyebarkan manipulasi tersebut.

Situasi ini secara langsung mengancam rasa aman di lingkungan pendidikan tinggi. Kampus dan media sosial seharusnya menjadi ruang untuk belajar, berdiskusi, dan berekspresi. Namun, ketika foto yang diunggah untuk kebutuhan biasa dapat diambil dan dimanipulasi tanpa persetujuan, ruang digital tidak lagi sepenuhnya terasa aman bagi mahasiswa.

Unggahan foto kegiatan perkuliahan, organisasi, maupun momen pribadi, bisa dengan mudah disimpan oleh pihak yang tidak bertanggung jawab. Hasil manipulasi tersebut digunakan untuk melakukan pelecehan, pengancaman, pemerasan, atau merusak reputasi seseorang.

Jika persoalan ini terus dianggap sebagai masalah pribadi atau sekadar peristiwa di dunia maya, perguruan tinggi berisiko kehilangan fungsinya sebagai ruang aman bagi sivitas akademika. Luka akibat kekerasan digital ini nyata dan tidak serta-merta hilang begitu saja saat layar ponsel dimatikan. Kerusakan psikologis, tekanan sosial, dan terganggunya aktivitas pendidikan merupakan persoalan nyata yang harus mendapatkan perhatian serius.

Kondisi ini makin mempertegas bahwa jejak digital tidak selalu berada dalam kendali pemilik akun. Karena itu, pengguna media sosial perlu memahami risiko membagikan foto, sementara platform dan institusi pendidikan perlu menyediakan langkah pelaporan yang mudah, cepat, dan berpihak pada keamanan korban tanpa harus menambah beban trauma atau penghakiman baru terhadap mereka.

Oleh karena itu, penyelesaian kasus semacam ini tidak cukup hanya mengandalkan imbauan moral atau penyelesaian secara kekeluargaan yang justru mengabaikan posisi korban. Perguruan tinggi perlu memiliki mekanisme penanganan yang jelas, melindungi korban, dan memastikan proses pemeriksaan dilakukan secara adil serta transparan. Satuan Tugas (Satgas) PPKS seperti yang diamanatkan Permendikbudristek, memiliki peran penting dalam menyediakan pendampingan psikologis, perlindungan terhadap korban, serta membantu memastikan kasus ditangani melalui prosedur yang sesuai.

Di saat bersamaan, pihak kampus juga wajib menerapkan sanksi akademik berdasarkan hasil pemeriksaan dan ketentuan yang berlaku terhadap pelaku yang terbukti melakukan pelanggaran. Perlindungan korban harus berjalan seiring dengan penegakan hukum. Regulasi seperti Pasal 14 Undang-Undang Nomor 12 Tahun 2022 tentang Tindak Pidana Kekerasan Seksual (UU TPKS) mengenai Kekerasan Seksual Berbasis Elektronik (KSBE), UU Perlindungan Data Pribadi (UU PDP), serta UU ITE perlu diterapkan secara konsisten. Institusi pendidikan juga perlu membangun literasi digital yang bukan sekadar mengajarkan penggunaan teknologi, melainkan juga menanamkan batas etika, persetujuan, dan tanggung jawab dalam memproduksi maupun menyebarkan konten.

Teknologi kecerdasan buatan tak pernah berdiri bebas dari etika penggunanya. Pada akhirnya, seberapa canggih pun AI berkembang, ujian sebenarnya terletak pada keberanian dan ketegasan kita untuk menindak tegas para pelaku, demi menghadirkan kembali rasa aman, menjaga empati, serta melindungi martabat sesama manusia yang hidup dan beraktivitas di dalam riuhnya ruang digital saat ini.