Ketika AI Disalahgunakan: Wajah Siswi, Tubuh Palsu, Dampak Nyata

Cyber Attack (Sumber: iStock)

Kecerdasan artifisial atau Artificial Intelligence (AI) semakin dekat dengan kehidupan sehari-hari. Kita bisa menggunakannya untuk mencari informasi, membuat gambar, membantu pekerjaan, hingga mengedit foto. Namun, teknologi yang seharusnya mempermudah kehidupan juga bisa disalahgunakan untuk merugikan orang lain.

Hal ini terlihat dari kasus yang sedang menjadi perhatian di Jakarta Timur. Seorang siswa kelas 9 di salah satu SMP Negeri di kawasan Pulogadung diduga menggunakan AI untuk mengubah foto teman-teman perempuannya menjadi gambar bermuatan vulgar. Polisi kemudian melakukan penyelidikan terhadap kasus tersebut.

Kasus ini tidak hanya berbicara tentang penyalahgunaan teknologi. Di balik gambar yang sebenarnya palsu, ada orang nyata yang harus menghadapi dampaknya. Dari sini muncul pertanyaan yang lebih besar: ketika teknologi semakin mudah digunakan oleh pelajar, apakah pendidikan kita sudah cukup membekali mereka dengan etika dan tanggung jawab dalam menggunakannya?

Ketika Foto Biasa Bisa Diubah Menjadi Sesuatu yang Merugikan

Salah satu hal yang membuat kasus ini mengkhawatirkan adalah semakin mudahnya teknologi AI digunakan untuk memanipulasi gambar. Foto yang awalnya biasa saja dapat diubah menjadi sesuatu yang sama sekali tidak pernah dilakukan atau dialami oleh orang yang ada di dalam foto.

Dalam kasus di Jakarta Timur, polisi menyebut adanya penyalahgunaan foto teman-teman perempuan oleh seorang siswa. Informasi mengenai jumlah foto dan dugaan penyebarannya masih dalam proses pendalaman polisi, sehingga detail kasusnya belum semuanya dapat dipastikan.

Namun, satu hal sudah jelas: gambar palsu tetap dapat menimbulkan dampak nyata. Korban bisa merasa malu, takut, tertekan, atau khawatir ketika gambar tersebut beredar. Bahkan ketika orang lain mengetahui bahwa gambar itu merupakan hasil manipulasi, kerugian terhadap korban belum tentu langsung hilang.

AI Bukan Sekadar Masalah Teknologi

Selama ini, pembahasan mengenai AI di sekolah sering berfokus pada bagaimana siswa menggunakannya untuk belajar. Misalnya, menggunakan AI untuk mencari ide, memahami materi, atau membantu mengerjakan tugas. Padahal, perkembangan teknologi juga membawa persoalan lain yang tidak kalah penting: bagaimana siswa memahami batas antara apa yang bisa dilakukan dengan teknologi dan apa yang seharusnya dilakukan?

Kemampuan menggunakan AI tanpa disertai etika dapat menjadi masalah. Seorang siswa mungkin memiliki kemampuan teknis untuk memanipulasi gambar, tetapi kemampuan tersebut seharusnya berjalan bersama pemahaman tentang persetujuan, privasi, martabat orang lain, dan konsekuensi dari tindakannya.

Karena itu, literasi digital tidak cukup jika hanya mengajarkan siswa cara menggunakan teknologi. Mereka juga perlu memahami bahwa di balik setiap foto, akun, dan identitas digital terdapat manusia yang memiliki hak untuk dihormati.

Ketika Kekerasan Digital Masuk ke Lingkungan Sekolah

Kasus ini juga menunjukkan bahwa kekerasan di lingkungan sekolah tidak selalu terjadi secara langsung atau melalui kontak fisik. Perkembangan teknologi menciptakan bentuk kekerasan baru yang dapat berlangsung melalui layar.

Komisioner KPAI Kawiyan menilai bahwa apabila dugaan tersebut terbukti, manipulasi foto tanpa persetujuan hingga menjadi gambar vulgar dan penyebarannya dapat termasuk bentuk kekerasan dan pelecehan terhadap anak di ruang digital. Ia juga menyoroti potensi dampaknya, mulai dari tekanan psikologis, perundungan, hingga terganggunya relasi sosial korban.

Menariknya, kasus ini kemudian juga berkembang menjadi persoalan kekerasan fisik. Polisi menyebut siswa yang diduga membuat foto tersebut melaporkan dirinya mengalami penganiayaan setelah teman-teman korban mengetahui perbuatannya. Artinya, satu tindakan di ruang digital dapat memunculkan konflik sosial yang lebih luas di lingkungan sekolah.

Lalu, Di Mana Peran Sekolah?

Ketika persoalan seperti ini muncul, sekolah tentu tidak bisa hanya bertanya siapa yang salah dan siapa yang harus dihukum. Ada persoalan yang lebih mendasar, yaitu bagaimana sekolah membangun lingkungan yang mampu mencegah terjadinya kekerasan digital sekaligus memberikan perlindungan kepada siswa yang terdampak.

Dalam kasus Jakarta Timur, Dinas Pendidikan DKI menyatakan telah melakukan koordinasi dengan pihak sekolah dan orang tua. Peserta didik yang terdampak maupun yang terlibat juga mendapatkan asesmen psikososial untuk mengetahui kondisi dan kebutuhan pendampingan mereka.

Hal tersebut menunjukkan bahwa penanganan masalah digital di sekolah tidak cukup dilakukan melalui pendekatan disiplin. Pendidikan juga perlu hadir melalui literasi digital, pendidikan karakter, empati, serta pemahaman mengenai konsekuensi sosial dari penggunaan teknologi. Siswa perlu belajar bukan hanya bagaimana menggunakan AI, tetapi juga kapan harus berhenti dan memahami bahwa kemampuan teknis bukan berarti seseorang bebas melakukan apa saja.

Pendidikan di Era AI Bukan Hanya Soal Bisa Menggunakan AI

Kemajuan teknologi membuat sekolah menghadapi tantangan yang berbeda dari sebelumnya. Jika dulu pendidikan digital mungkin cukup berbicara tentang cara menggunakan internet dengan aman, sekarang tantangannya semakin kompleks. Siswa dapat membuat, mengubah, dan menyebarkan sesuatu hanya dengan beberapa langkah menggunakan teknologi yang tersedia di perangkat mereka.

Karena itu, pendidikan di era AI perlu bergerak lebih jauh. Siswa tidak hanya membutuhkan keterampilan digital, tetapi juga tanggung jawab sosial dalam ruang digital. Mereka perlu memahami bahwa tindakan yang dilakukan di balik layar tetap memiliki konsekuensi terhadap kehidupan orang lain.

Kasus ini pada akhirnya mengingatkan kita bahwa masalahnya bukan semata-mata pada AI. Teknologi hanyalah alat; yang menentukan dampaknya adalah bagaimana manusia menggunakannya. Jika sekolah ingin menyiapkan siswa menghadapi masa depan yang semakin dekat dengan AI, maka kemampuan menggunakan teknologi harus berjalan beriringan dengan empati, etika, dan penghormatan terhadap orang lain.

Sebab, secanggih apa pun teknologi yang dimiliki, pendidikan tetap memiliki tugas untuk mengajarkan manusia kapan sebuah kemampuan seharusnya digunakan dan kapan seharusnya tidak.