Ketika Diskresi Pemerintah Berhadapan dengan Algoritma

Ilustrasi artificial intelligence. Foto: Shutterstock

Ada perubahan yang perlahan tetapi pasti sedang terjadi dalam penyelenggaraan pemerintahan. Keputusan yang dahulu sepenuhnya berada di tangan pejabat kini mulai dibantu oleh sistem kecerdasan artifisial (AI). Pemerintah dapat menggunakan AI untuk mengolah data dalam jumlah besar, membaca pola, memberikan prediksi, bahkan menyusun rekomendasi mengenai tindakan yang sebaiknya diambil. Dalam batas tertentu, perkembangan ini tentu patut diapresiasi karena teknologi dapat membuat pelayanan pemerintahan menjadi lebih cepat dan efisien.

Namun, persoalannya menjadi berbeda ketika AI mulai masuk ke wilayah yang di dalamnya hukum memberikan ruang pertimbangan kepada pejabat. Misalnya, ketika sebuah sistem merekomendasikan siapa yang layak menerima bantuan, siapa yang perlu diperiksa, atau siapa yang dianggap memiliki risiko tertentu, kemudian pejabat hanya mengesahkan hasil yang diberikan sistem. Pada keadaan demikian, pertanyaan yang muncul bukan lagi sekadar apakah pemerintah boleh menggunakan AI, melainkan siapa yang sesungguhnya menjalankan kewenangan pemerintahan?

Pertanyaan tersebut penting karena dalam negara hukum, kekuasaan pemerintahan tidak lahir dari kecanggihan teknologi. Kekuasaan lahir dari hukum dan karena itu harus dapat dipertanggungjawabkan menurut hukum.

Kewenangan Tidak Lahir dari Kecanggihan Teknologi

Pasal 1 ayat (3) UUD NRI 1945 menegaskan bahwa Indonesia adalah negara hukum. Prinsip ini membawa konsekuensi bahwa pemerintah tidak dapat menggunakan kekuasaan semata-mata karena memiliki kemampuan untuk melakukannya. Setiap tindakan pemerintahan harus memiliki dasar kewenangan yang jelas.

Dalam konteks penggunaan AI, prinsip tersebut menjadi penting karena teknologi pada dasarnya hanyalah alat. AI dapat mengolah data dan menghasilkan rekomendasi, tetapi kemampuan tersebut tidak dengan sendirinya melahirkan kewenangan pemerintahan. AI bukan pejabat pemerintahan, tidak mempunyai jabatan, dan tidak memperoleh kewenangan melalui atribusi, delegasi, ataupun mandat sebagaimana dikenal dalam hukum administrasi pemerintahan.

Persoalan ini menjadi semakin jelas apabila dikaitkan dengan diskresi. UU Nomor 30 Tahun 2014 tentang Administrasi Pemerintahan memberikan ruang kepada Pejabat Pemerintahan untuk menggunakan diskresi ketika menghadapi persoalan konkret dalam penyelenggaraan pemerintahan, antara lain ketika peraturan memberikan pilihan, tidak mengatur, tidak lengkap atau tidak jelas, maupun ketika terjadi stagnasi pemerintahan (Pasal 22 dan Pasal 23).

Dengan demikian, diskresi bukan sekadar pilihan teknis dalam menjalankan pekerjaan pemerintahan. Diskresi merupakan ruang pertimbangan yang diberikan oleh hukum kepada pejabat yang memiliki kewenangan. Karena itu, menurut hemat saya, ruang tersebut tidak dapat begitu saja dipindahkan kepada mesin hanya karena mesin mampu bekerja lebih cepat dan mengolah data lebih banyak daripada manusia.

AI dapat membantu pejabat menggunakan kewenangannya. Akan tetapi, kemampuan membantu tidak sama dengan memiliki kewenangan. Di sinilah batas antara teknologi sebagai instrumen pemerintahan dan teknologi sebagai pengambil keputusan harus ditegaskan.

Jangan Sampai Pejabat Hanya Menjadi Tangan Algoritma

Bahaya yang perlu diantisipasi justru muncul ketika secara formal pejabat masih tercantum sebagai pengambil keputusan, tetapi secara substantif pertimbangan telah diserahkan kepada algoritma. Keadaan semacam ini sangat mungkin terjadi karena rekomendasi AI sering kali tampil dalam bentuk yang meyakinkan: sebuah skor, klasifikasi, atau kesimpulan yang seolah-olah objektif karena dihasilkan melalui perhitungan data.

Padahal, keputusan tersebut tetap dibangun berdasarkan data, parameter, dan desain yang dibuat manusia. Karena itu, ketika seorang pejabat menerima begitu saja hasil sistem tanpa memahami dan menguji alasan di baliknya, persoalannya bukan lagi sekadar penggunaan teknologi, melainkan bagaimana kewenangan pemerintahan itu dijalankan.

UU Administrasi Pemerintahan mengharuskan penggunaan kewenangan memperhatikan Asas-Asas Umum Pemerintahan yang Baik, antara lain asas kepastian hukum, ketidakberpihakan, kecermatan, keterbukaan, kepentingan umum, dan pelayanan yang baik (Pasal 10 UU No. 30 Tahun 2014). Dalam kerangka tersebut, pejabat tidak cukup hanya menunjukkan bahwa keputusan telah dihasilkan melalui sistem yang bekerja berdasarkan data. Pejabat harus tetap mampu menjelaskan dasar pertimbangan keputusannya dan memastikan bahwa keputusan tersebut tidak lahir dari proses yang keliru atau tidak dapat dipertanggungjawabkan.

Di sinilah letak persoalan yang menurut saya paling serius. Jika pejabat hanya menjadi pihak yang menekan tombol persetujuan, sementara seluruh pertimbangan telah ditentukan oleh sistem, keberadaan pejabat dalam proses tersebut memang masih ada secara formal, tetapi kewenangannya secara substantif mulai kehilangan makna. Padahal, justru karena hukum memberikan kewenangan kepada pejabat, hukum pula yang menuntut agar kewenangan itu digunakan dengan kecermatan dan tanggung jawab.

Pertanggungjawaban Tidak Boleh Hilang

Persoalan tersebut pada akhirnya membawa kita kepada pertanyaan yang lebih mendasar: bagaimana warga negara mempertanggungjawabkan keputusan pemerintah yang dihasilkan dengan bantuan AI?

Bayangkan seorang warga tidak memperoleh bantuan pemerintah karena sistem mengategorikannya sebagai tidak memenuhi kriteria. Ketika ia meminta penjelasan, pemerintah tidak dapat berhenti pada jawaban bahwa keputusan tersebut merupakan hasil sistem. Warga tidak berhadapan dengan algoritma. Warga berhadapan dengan pemerintah. Karena itu, pemerintah pula yang harus mampu menjelaskan mengapa keputusan tersebut diambil.

Dalam konteks ini, Recommendation on the Ethics of Artificial Intelligence yang diadopsi UNESCO pada 2021 memberikan prinsip yang relevan. UNESCO menekankan pentingnya human oversight and determination serta perlunya memastikan bahwa penggunaan AI tidak menggeser tanggung jawab dan akuntabilitas manusia. UNESCO juga menegaskan bahwa tanggung jawab etis dan hukum sepanjang siklus hidup sistem AI harus tetap dapat ditelusurkan kepada orang atau badan hukum yang dapat dimintai pertanggungjawaban (UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021).

Prinsip tersebut menjadi semakin penting ketika AI digunakan oleh pemerintah. Dalam penyelenggaraan pemerintahan, akuntabilitas bukan sekadar persoalan etika penggunaan teknologi, melainkan bagian dari pertanggungjawaban kekuasaan. Karena itu, penggunaan AI tidak boleh menciptakan ruang kosong ketika warga mempertanyakan sebuah keputusan: pejabat tidak boleh berlindung di balik sistem, sementara sistem sendiri tidak dapat dimintai pertanggungjawaban.

Negara Hukum Jangan Berubah Menjadi Negara Algoritma

Pemerintah Indonesia sendiri sedang membangun tata kelola AI nasional. Pada 2026, pemerintah menyiapkan Perpres mengenai AI sebagai salah satu fondasi tata kelola AI nasional. Perkembangan tersebut menunjukkan bahwa persoalan AI sudah tidak lagi berada semata-mata di ruang teknologi, tetapi mulai memasuki wilayah kebijakan publik dan penyelenggaraan pemerintahan.

Karena itu, pengaturan AI semestinya tidak berhenti pada persoalan etika, keamanan, inovasi, dan perlindungan data. Ada persoalan lain yang tidak kalah penting, yaitu bagaimana AI ditempatkan dalam struktur kekuasaan pemerintahan.

Kita perlu membedakan antara keputusan yang bersifat teknis-administratif dan keputusan yang mengandung diskresi. Pada keputusan tertentu, otomatisasi mungkin dapat meningkatkan efisiensi. Tetapi ketika keputusan menyangkut hak dan kepentingan warga serta membutuhkan penilaian terhadap keadaan konkret, keterlibatan pejabat yang memiliki kewenangan tidak boleh sekadar bersifat formal.

Sebab jika keputusan pemerintah tetap ditandatangani oleh pejabat, tetapi seluruh pertimbangan sesungguhnya ditentukan oleh algoritma, kita menghadapi persoalan yang lebih serius daripada sekadar kesalahan teknologi. Kita menghadapi persoalan tentang siapa yang menjalankan kekuasaan negara dan siapa yang harus mempertanggungjawabkannya.

Menjaga Marwah Diskresi

Pada akhirnya, persoalan AI dalam pemerintahan bukanlah persoalan apakah manusia harus melawan teknologi. Pemerintah justru perlu memanfaatkan teknologi untuk meningkatkan kualitas pelayanan dan pengambilan keputusan. Yang harus dijaga adalah agar efisiensi tidak mengorbankan prinsip dasar negara hukum.

Diskresi diberikan kepada pejabat karena hukum menyadari bahwa tidak seluruh persoalan pemerintahan dapat diselesaikan secara mekanis melalui rumusan peraturan. Dalam ruang tertentu, diperlukan pertimbangan terhadap keadaan konkret. Karena itu, ketika AI digunakan untuk membantu pejabat, teknologi tersebut harus tetap ditempatkan sebagai instrumen yang mendukung penggunaan kewenangan, bukan sebagai pihak yang mengambil alih kewenangan tersebut.

Dengan demikian, AI boleh membantu pejabat menggunakan diskresi, tetapi tidak boleh menggantikan pejabat sebagai pemegang kewenangan. Sebab persoalan sesungguhnya bukan apakah sebuah mesin mampu mengambil keputusan lebih cepat daripada manusia. Persoalannya adalah apakah keputusan tersebut masih merupakan keputusan dari pejabat yang diberi kewenangan oleh hukum.

Jika jawabannya tidak, maka kita tidak sedang sekadar berbicara tentang perkembangan teknologi. Tetapi kita sedang berbicara tentang pergeseran kekuasaan dalam negara hukum