AI dalam Birokrasi: Siapa yang Bertanggung Jawab atas Keputusan Algoritma?

Birokrasi modern bergerak ke arah yang tak terhindarkan: otomatisasi. Penyaringan penerima bantuan sosial, verifikasi perizinan berusaha, penilaian kelayakan administrasi, hingga pengawasan pajak kini semakin banyak melibatkan sistem berbasis kecerdasan buatan (artificial intelligence/AI) dan algoritma. Pemerintah menjanjikan layanan yang lebih cepat, murah, dan konsisten.

Namun ada pertanyaan mendasar yang belum terjawab tuntas dalam hukum kita: ketika sebuah algoritma menolak permohonan izin, mencoret nama dari daftar penerima bantuan, atau menandai seorang warga sebagai berisiko, siapa yang bertanggung jawab jika keputusan itu keliru? Mesin tidak dapat digugat di pengadilan, tidak dapat dijatuhi sanksi administratif, dan tidak dapat diminta mengembalikan kerugian. Di sinilah Hukum Administrasi Negara (HAN) diuji.

Apa yang Dimaksud dengan Keputusan Algoritmik?

Keputusan algoritmik adalah keputusan atau rekomendasi yang dihasilkan, seluruhnya atau sebagian, oleh sistem komputasi yang memproses data menurut aturan atau model tertentu. Dalam praktik pemerintahan, bentuknya bervariasi:

• Otomatisasi penuh, ketika sistem langsung menerbitkan keputusan tanpa campur tangan manusia, misalnya persetujuan otomatis perizinan berbasis risiko.

• Dukungan keputusan, ketika sistem memberi skor atau rekomendasi, tetapi pejabat manusia yang menetapkan.

• Profiling dan prediksi, ketika sistem memetakan risiko atau kelayakan seseorang yang kemudian menjadi dasar tindakan pemerintah.

Pembedaan ini penting karena menentukan siapa yang pada akhirnya "memegang" keputusan, dan karena itu siapa yang memikul tanggung jawab hukumnya.

Kerangka Hukum: Apa yang Sudah Ada?

Hukum positif Indonesia belum mengatur secara khusus keputusan yang dihasilkan AI, tetapi beberapa fondasi sudah tersedia.

Pertama, Undang-Undang Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan (UU AP). Undang-undang ini menjadi payung utama keputusan dan tindakan pejabat pemerintahan. Perkembangan regulasi, termasuk perubahan melalui UU Cipta Kerja, telah mengakui bahwa keputusan dapat dibuat dalam bentuk elektronis. Artinya, keputusan administratif tidak lagi harus berupa surat bertanda tangan basah. Namun UU AP tetap berangkat dari premis bahwa keputusan lahir dari badan atau pejabat pemerintahan yang berwenang, yaitu subjek hukum manusia dan organisasi, bukan perangkat lunak.

Kedua, asas wewenang. Setiap tindakan pemerintah harus bersumber dari atribusi, delegasi, atau mandat. Tidak ada kategori "wewenang yang dilimpahkan kepada algoritma". Secara yuridis, algoritma hanyalah alat bantu; wewenangnya tetap berada pada pejabat atau instansi yang menggunakannya. Dalam skema mandat, tanggung jawab tetap melekat pada pemberi mandat.

Ketiga, Asas-Asas Umum Pemerintahan yang Baik (AUPB). Kepastian hukum, kecermatan, ketidakberpihakan, keterbukaan, dan pelayanan yang baik berlaku sepenuhnya, termasuk ketika keputusan dibantu mesin. Algoritma yang bias melanggar asas ketidakberpihakan; sistem yang menggunakan data usang melanggar asas kecermatan; sistem yang tidak bisa dijelaskan melanggar asas keterbukaan.

Keempat, Undang-Undang Pelindungan Data Pribadi (UU PDP). Regulasi ini memberi subjek data hak untuk mengajukan keberatan atas keputusan yang diambil semata-mata berdasarkan pemrosesan otomatis, termasuk profiling, yang menimbulkan akibat hukum atau berdampak signifikan bagi dirinya. Ini adalah salah satu pijakan paling konkret bagi warga yang dirugikan keputusan algoritmik.

Selain itu, kebijakan Sistem Pemerintahan Berbasis Elektronik (SPBE) mendorong integrasi layanan digital, tetapi lebih berfokus pada tata kelola dan interoperabilitas daripada pertanggungjawaban hukum atas hasil keputusannya.

Siapa yang Bertanggung Jawab?

Dari kerangka di atas, tanggung jawab atas keputusan algoritmik dapat dipetakan ke beberapa pihak.

1. Pejabat atau badan pemerintahan pengguna sistem

Ini adalah titik pertanggungjawaban utama. Pejabat yang memutuskan memakai sistem AI, menetapkan parameternya, dan menjadikan hasilnya dasar keputusan tidak dapat berlindung di balik kalimat "itu hasil sistem". Dalam HAN, kewenangan dan tanggung jawab adalah dua sisi mata uang: siapa yang berwenang, dialah yang bertanggung jawab. Keputusan yang cacat wewenang, prosedur, atau substansi tetap dapat dibatalkan, siapa pun (atau apa pun) yang membantu merumuskannya.

2. Instansi sebagai penanggung jawab jabatan

UU AP membedakan kesalahan administratif yang melekat pada jabatan (yang diselesaikan melalui pengembalian kerugian atau pembetulan) dari penyalahgunaan wewenang yang bersifat pribadi. Kesalahan sistem yang murni teknis dan tanpa unsur kesengajaan umumnya berada di ranah tanggung jawab jabatan dan instansi. Sebaliknya, pejabat yang mengabaikan peringatan bias, memaksakan sistem yang belum teruji, atau tidak menyediakan pengawasan manusia membuka ruang pertanggungjawaban yang lebih personal.

3. Penyedia teknologi (vendor)

Banyak sistem pemerintah dikembangkan atau dipasok pihak swasta. Hubungan pemerintah dengan vendor bersifat kontraktual (perdata), sedangkan hubungan pemerintah dengan warga bersifat publik (administratif). Kegagalan vendor tidak menghapus tanggung jawab pemerintah di hadapan warga. Pemerintah bisa menuntut vendor lewat kontrak, tetapi warga tetap berhadapan dengan pemerintah. Karena itu, kontrak pengadaan sistem AI sebaiknya memuat klausul audit, transparansi model, dan ganti rugi.

4. Pengembang dan pembuat kebijakan

Tanggung jawab juga bersifat struktural. Pihak yang merancang model, memilih data latih, dan menetapkan tujuan sistem menentukan apakah bias dan ketidakadilan tertanam sejak awal. Aspek ini jarang terjangkau hukum administrasi biasa, sehingga memerlukan standar tata kelola AI yang eksplisit.

Masalah yang Mengintai

Kotak hitam (black box). Banyak model AI tidak dapat menjelaskan alasan keputusannya. Padahal hukum administrasi menuntut keputusan yang bermotivasi: warga berhak tahu mengapa permohonannya ditolak. Keputusan tanpa alasan yang dapat dipahami menyulitkan keberatan, banding administratif, maupun gugatan.

Bias dan diskriminasi. Algoritma belajar dari data historis. Jika data mencerminkan ketimpangan masa lalu, sistem dapat mereproduksinya dalam skala besar dan dengan wajah "objektif".

Automation bias. Pejabat cenderung terlalu percaya pada rekomendasi sistem sehingga pengawasan manusia menjadi formalitas. Jika pejabat hanya mengetuk "setuju" atas skor mesin, keputusan itu pada dasarnya sudah bersifat otomatis meskipun tampak ditandatangani manusia.

Beban pembuktian bagi warga. Warga sulit membuktikan kekeliruan sistem yang tidak mereka akses. Ketimpangan informasi ini bertentangan dengan semangat perlindungan hukum dalam HAN.

Jalur Perlindungan Hukum bagi Warga

Warga yang dirugikan keputusan algoritmik pada dasarnya dapat menempuh jalur yang sama dengan sengketa administrasi pada umumnya:

1. Upaya administratif berupa keberatan kepada pejabat yang menerbitkan keputusan, dan banding kepada atasan pejabat tersebut.

2. Gugatan ke Pengadilan Tata Usaha Negara (PTUN) atas keputusan atau tindakan pemerintahan, dengan dasar pelanggaran peraturan perundang-undangan dan AUPB.

3. Pengaduan ke Ombudsman atas dugaan maladministrasi dalam penyelenggaraan layanan publik.

4. Keberatan berdasarkan UU PDP untuk keputusan otomatis yang berdampak signifikan.

Tantangannya bukan ketiadaan jalur, melainkan akses terhadap bukti: dokumentasi logika sistem, data yang digunakan, dan catatan keterlibatan manusia dalam keputusan.

Rekomendasi

Agar pemanfaatan AI dalam birokrasi tidak mengorbankan perlindungan hukum, beberapa langkah perlu dipertimbangkan.

• Prinsip human in the loop untuk keputusan berdampak besar. Keputusan yang menyangkut hak dan kewajiban warga harus melibatkan peninjauan manusia yang bermakna, bukan sekadar formalitas.

• Kewajiban motivasi dan penjelasan. Setiap keputusan yang dibantu AI harus dapat dijelaskan dalam bahasa yang dipahami warga.

• Audit dan uji bias berkala terhadap sistem yang dipakai instansi pemerintah, termasuk sistem milik vendor.

• Transparansi penggunaan. Publik berhak mengetahui sistem AI mana yang digunakan untuk keputusan apa.

• Penegasan norma pertanggungjawaban dalam regulasi turunan, misalnya peraturan pemerintah atau peraturan presiden tentang tata kelola AI di sektor publik, agar tidak lagi bergantung pada penafsiran analogis atas UU AP.

• Klausul kontrak pengadaan yang menjamin akses audit, dokumentasi model, dan pembagian risiko yang jelas dengan vendor.

Kecerdasan buatan dapat membuat birokrasi lebih efisien, tetapi efisiensi bukan satu-satunya nilai dalam negara hukum. Prinsip legalitas, akuntabilitas, dan perlindungan hak warga tidak boleh menguap hanya karena keputusan dihasilkan oleh mesin.

Jawaban singkat atas pertanyaan dalam judul tulisan ini: tanggung jawab tetap pada manusia dan organisasi yang berwenang, yaitu pejabat dan instansi pengguna sistem, dengan vendor dan perancang kebijakan memikul tanggung jawab sesuai perannya. Algoritma boleh membantu memutuskan, tetapi tidak boleh menjadi alasan untuk tidak bertanggung jawab.

Tantangan ke depan adalah memastikan hukum bergerak secepat teknologi: bukan untuk menghambat inovasi, melainkan agar setiap warga yang berhadapan dengan keputusan algoritmik tetap memiliki jawaban atas pertanyaan paling mendasar dalam hukum administrasi: siapa yang memutuskan, atas dasar apa, dan kepada siapa saya menggugat?