Ahli: Waspada Pornografi Deepfake Pakai AI, Seleb Cewek Rentan Jadi Korban

Ilustrasi memanipulasi wajah digital alias deepfake. Foto: Getty Images

Ahli teknologi memperingatkan bahwa kecerdasan buatan telah menempatkan kita semua pada risiko pornografi palsu, atau deepfake porn, dan hal itu dapat merusak reputasi korbannya.

Olivia DeRamus, pendiri Communia yang berbasis di Inggris, sebuah platform media sosial yang aman bagi perempuan agar tetap terhubung, mengatakan bahwa pelaku deepfake porn selama ini sering menjadikan selebriti perempuan sebagai target. Tak menutup kemungkinan, hal tersebut juga menyasar laki-laki, baik anak-anak maupun remaja.

Dia mengatakan kemajuan yang dicapai AI dalam beberapa tahun terakhir telah membuat kekerasan berbasis gambar menjadi "sesuatu yang bahkan dapat dilakukan oleh orang asing di internet." Olivia khawatir kemiripan orang dapat dimanipulasi menjadi gambar grafis yang untuk tujuan kejahatan.

“Yang dibutuhkan aktor jahat hanyalah foto profil Anda. Tetap offline bukanlah pilihan bagi kebanyakan orang, dan juga tidak seharusnya menjadi pilihan," kata Olivia, mengutip Daily Star.

Ketika ditanya apa yang bisa dilakukan seseorang untuk melindungi dirinya, dia mengatakan: "Ini bukan jawaban yang ingin saya berikan, tapi sejujurnya, sangat sedikit. Itu sebabnya ini sangat menakutkan.

Olivia bercerita tentang model Irlandia-Polandia, Nadia Zalecka, yang menjadi korban video deepfake, setelah orang tak dikenal mengubah wajah Nadia menjadi terlihat Asia dalam sebuah video yang seakan menjadikan dirinya berganti pakaian. Nadia merasa frustrasi karena tidak mengetahui cara menghapus konten deepfake porn ini.

Hal itu terjadi setelah Nadia Zalecka menceritakan pengalamannya saat berbincang dengan Daily Star. "Ini sangat menakutkan. Salah satu follower TikTok saya menemukannya dan menandai saya. Orang-orang perlu menyadari betapa buruknya hal ini," katanya.

Meskipun kita sebagai individu tidak dapat melakukan banyak hal untuk melindungi diri kita sendiri, tapi menurut Olivia, ada banyak cara sederhana yang dapat dilakukan oleh perusahaan teknologi untuk melindungi para penggunanya dari segala bentuk kejahatan dan pelecehan. Olivia menekankan agar perusahaan teknologi maupun perusahaan media sosial, turut bertanggungjawab atas penyebaran konten kejahatan.