Membatasi Kecerdasan Buatan: Perlukah Rambu Etika dalam Sistem Informasi Publik?

Kecerdasan buatan (AI) bukan lagi teknologi masa depan—ia telah menjadi bagian dari kehidupan sehari-hari, termasuk dalam sistem informasi publik. Pemerintah mulai memanfaatkan AI untuk efisiensi layanan, mulai dari sistem pengenalan wajah untuk absensi ASN, chatbot untuk pelayanan publik, hingga algoritma prediksi dalam pengambilan keputusan kebijakan.

Namun, kemajuan ini mengundang pertanyaan mendasar: di tengah euforia digitalisasi, adakah rambu etika yang cukup untuk mengawasi penggunaan AI? Ataukah kita sedang melaju terlalu cepat tanpa cukup rem?

Foto : Artificial Intelligence. Sumber: FreePik

Etika yang Tertinggal oleh Teknologi

Penggunaan AI yang tidak diawasi secara etis berpotensi menciptakan ketimpangan baru. AI bisa diskriminatif. Contohnya, algoritma rekrutmen otomatis di beberapa negara terbukti bias terhadap gender dan ras. Jika hal ini diterapkan dalam sistem publik seperti seleksi penerima bantuan sosial atau rekrutmen ASN, ketidakadilan bisa terjadi secara sistematis—dan nyaris tak terlihat karena dibungkus "obyektivitas teknologi".

Di Indonesia, surat edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial adalah upaya awal mengarahkan pengembangan AI agar bertanggung jawab. Isinya menyentuh prinsip transparansi, keadilan, keamanan, dan keberlanjutan. Namun, ia masih bersifat imbauan, belum memiliki kekuatan hukum yang mengikat.

Dalam praktiknya, banyak inisiatif AI di instansi pemerintahan berjalan tanpa payung etika yang jelas. Bahkan, publik pun tak tahu pasti sejauh mana datanya digunakan dan diproses oleh sistem cerdas yang bekerja di balik layar.

Antara Manfaat dan Bahaya

AI memang menawarkan kecepatan, efisiensi, dan skalabilitas. Misalnya, sistem informasi pelayanan rumah sakit yang dilengkapi dengan prediksi kebutuhan ruang rawat berbasis machine learning terbukti mengurangi waktu tunggu pasien. Namun, di sisi lain, jika data pasien tidak dikelola dengan prinsip privasi dan keamanan, potensi penyalahgunaan sangat besar.

Menurut Amnesty International, sepanjang tahun 2024, lebih dari 300 aktivis dan jurnalis di Asia Tenggara mengalami pelanggaran privasi digital yang berujung pada represi. Sebagian besar kasus terjadi dengan teknologi yang disinyalir menggunakan sistem AI seperti pengenalan wajah atau pemantauan otomatis media sosial. Tanpa regulasi, sistem informasi publik berbasis AI bisa digunakan untuk mengawasi warga negara alih-alih melayani mereka.

Regulasi: Bukan Sekadar Formalitas

Di tingkat global, UNESCO sudah mengeluarkan Recommendation on the Ethics of Artificial Intelligence pada tahun 2021, yang diadopsi oleh 193 negara, termasuk Indonesia. Rekomendasi ini menekankan perlindungan hak asasi manusia dan prinsip inklusivitas dalam pengembangan AI. Indonesia sendiri telah menjalankan AI Readiness Assessment Methodology (RAM-AI) bersama UNESCO pada 2023–2024, untuk menilai kesiapan negara dalam menerapkan AI secara etis.

Namun, kesiapan normatif belum berarti kesiapan implementatif. Tanpa regulasi yang mengikat—bukan hanya bersifat saran atau rekomendasi—maka prinsip etika akan mudah dikesampingkan saat berhadapan dengan kepentingan efisiensi, anggaran, atau bahkan kekuasaan.

Uni Eropa telah menegaskan langkahnya dengan AI Act yang mengkategorikan risiko penggunaan AI dan memberikan sanksi pada pelanggaran. Indonesia perlu belajar dari sini, dan segera menginisiasi regulasi serupa, minimal untuk sektor publik yang menyentuh data dan hak warga negara.

Transparansi dan Akuntabilitas

Etika bukan hanya soal aturan, tetapi juga soal nilai-nilai yang diterapkan dalam desain sistem informasi. Sistem yang baik harus transparan: publik tahu bagaimana datanya diproses, digunakan, dan apakah mereka bisa menolak. Harus ada akuntabilitas: ketika terjadi kesalahan atau kerugian, siapa yang bertanggung jawab? Sistem tidak boleh menjadi ‘kotak hitam’ yang tak bisa dipertanyakan.

Publik juga berhak tahu: apakah algoritma yang digunakan pemerintah telah melalui uji bias? Apakah ada lembaga independen yang mengevaluasi sistem AI yang digunakan negara?

Inilah mengapa pengembangan sistem informasi publik perlu pendekatan multidisipliner: bukan hanya dari sisi teknologi, tetapi juga hukum, sosiologi, dan etika. Perancang sistem tak bisa hanya berpikir “bisa atau tidak”, tetapi juga “boleh atau tidak”.

Menjaga Kendali Manusia

AI hanyalah alat. Dalam sistem informasi publik, pengambilan keputusan akhir tetap harus menjadi hak manusia, bukan mesin. Prinsip human-in-the-loop harus dipertahankan agar teknologi tidak menggantikan kepekaan, empati, dan pertimbangan moral yang hanya manusia miliki.

Tanpa kendali manusia, AI bisa melampaui batas. Bahkan niat baik seperti efisiensi bisa menjadi bumerang jika tidak dibarengi pertimbangan sosial.

Penutup: Teknologi Tak Netral

Kita perlu menyadari bahwa teknologi tidak pernah netral. Ia lahir dari nilai-nilai penciptanya, dan akan memperkuat nilai-nilai penggunanya. Jika sistem informasi publik tidak dibangun dengan kesadaran etis, maka AI yang seharusnya melayani rakyat bisa berubah menjadi alat kendali yang sewenang-wenang.

Regulasi dan rambu etika bukan untuk menghambat inovasi, tetapi untuk memastikan bahwa inovasi tetap berada di jalan yang benar—yakni melayani manusia, bukan menggantikannya.