Kasus COMPAS dan Pelajaran bahwa Konsisten Belum Tentu Adil

Fatwa Husaini, mahasiswa Universitas Pamulang

Algoritma kini ikut menentukan hidup warga negara: siapa yang berhak menerima bantuan sosial, bagaimana pajak diperiksa, hingga penilaian risiko dalam penegakan hukum. Automated decision-making (ADM) bukan lagi wacana masa depan. Amerika Serikat, Uni Eropa, Inggris, Indonesia, dan sejumlah negara di Afrika sudah memakainya dalam praktik pemerintahan. Penggunaannya hampir pasti terus meluas, melampaui bentuk yang kita kenal sekarang, seperti predictive policing dan administrasi otomatis. Kasus COMPAS di Amerika Serikat menjadi pengingat bahwa keputusan yang konsisten belum tentu adil.

Janji Efisiensi dan Konsistensi

Potensinya nyata. Layanan publik tidak lagi sepenuhnya terikat jam kerja. Dari sisi keadilan administratif, sistem otomatis juga dapat mengurangi risiko keputusan yang dipengaruhi kepentingan tersembunyi, penyimpangan tujuan, atau kelalaian pejabat. Sistem ini pun menghasilkan keputusan yang konsisten berdasarkan parameter yang ditetapkan.

Namun di titik inilah persoalan dimulai. Konsistensi memang menopang hak atas persamaan di hadapan hukum, tetapi ia tidak bisa menjadi satu-satunya ukuran keberhasilan. Sistem bisa sangat efisien dan konsisten, namun belum tentu adil, proporsional, atau sejalan dengan hak asasi manusia. Keputusan yang konsisten belum tentu keputusan yang benar.

Ketika Kesalahan Kecil Berujung Besar

Manusia punya kemampuan yang sulit ditiru mesin: toleransi terhadap kesalahan kecil. Salah mengeja nama atau tanggal saat mengajukan bantuan sosial atau melaporkan pajak, misalnya, bisa ditoleransi oleh petugas. Bila diproses begitu saja oleh sistem otomatis, kekeliruan sepele itu dapat berujung pada konsekuensi yang tidak proporsional.

Masalah lain, keputusan sistem sepenuhnya bergantung pada data. Bila data tidak memadai, tidak relevan, atau tidak akurat, hasilnya bisa keliru tanpa ada yang tahu di mana letak kesalahannya. Inilah problem black box. Opasitas ini tidak selalu dipicu kebutuhan teknis, melainkan sering merupakan pilihan desain pengembang, sehingga pertanggungjawaban menjadi tidak transparan.

Lebih jauh, sistem yang menerapkan parameter secara konsisten kepada setiap individu tetap bisa menghasilkan dampak yang timpang bagi kelompok tertentu. Machine learning dapat mereproduksi, bahkan memperkuat, bias yang tertanam dalam data. Berbeda dengan manusia, algoritma tidak punya mekanisme reflektif untuk mengenali dan mengoreksi bias yang dipelajarinya.

Kasus COMPAS di Wisconsin: Ketika Algoritma Tertutup

Persoalan ini terlihat jelas dalam kasus State v. Loomis (Mahkamah Agung Wisconsin, 2016). Dalam perkara pidana Eric Loomis, pengadilan memakai laporan pra-vonis yang memuat penilaian risiko residivisme berbasis algoritma bernama COMPAS. Skor itu dihitung dari wawancara dan riwayat kriminal pelaku. Sebagian berdasarkan penilaian tersebut, Loomis dijatuhi enam tahun penjara dan lima tahun pengawasan lanjutan.

Loomis menggugat. Menurutnya, metodologi COMPAS merupakan rahasia dagang, sehingga hanya skor akhir yang sampai ke pengadilan. Ia tidak dapat menguji bagaimana skor itu dihitung. Ia menilai hal ini melanggar haknya atas proses hukum yang adil, atas hukuman yang individual, dan atas pemidanaan berdasarkan informasi yang akurat. Ia juga mempersoalkan dipertimbangkannya jenis kelamin dalam penilaian risiko.

Mahkamah Agung Wisconsin akhirnya tetap membolehkan penggunaan COMPAS, dengan catatan skor tidak boleh menjadi faktor penentu dan hakim perlu diingatkan akan keterbatasannya.

Kekhawatiran Loomis bukan tanpa dasar. Pengujian independen oleh ProPublica terhadap COMPAS menemukan bahwa terdakwa kulit hitam yang tidak mengulangi kejahatan hampir dua kali lipat lebih sering keliru dicap berisiko tinggi dibandingkan terdakwa kulit putih. Karena algoritmanya tertutup, pengadilan tidak bisa mengevaluasi bagaimana skor ditentukan atau bagaimana tiap faktor ditimbang.

Bagaimana dengan Indonesia?

Perkara ADM memang belum banyak sampai ke pengadilan kita. Tetapi teknologi tidak menunggu hukum siap. Sejauh penelusuran penulis, Indonesia belum memiliki konsep maupun kerangka hukum yang memadai untuk menjadi pijakan hakim menilai perkara semacam ini. Kasus COMPAS memperlihatkan apa yang bisa terjadi bila kekosongan itu dibiarkan.

Kekosongan itu membuka ruang baru bagi rechtvinding, yakni penemuan hukum oleh hakim. Hakim dituntut melihat melampaui hasil akhir sebuah keputusan dan menguji proses yang melahirkannya. Bagaimana sistem bekerja? Adakah potensi bias? Dapatkah keputusan dipertanggungjawabkan? Apakah dampaknya bagi individu tetap sejalan dengan prinsip hukum dan hak asasi manusia?

Karena itu, hakim perlu berani berpikir di luar kebiasaan. Bukan dengan mengabaikan hukum yang berlaku, melainkan dengan menemukan cara membaca dan menerapkan hukum yang mampu menjawab karakter baru pengambilan keputusan berbasis teknologi.

Tantangannya jelas: pastikan inovasi teknologi tidak menciptakan ruang kosong dalam perlindungan hukum bagi warga yang terdampak. Algoritma boleh cepat, tetapi keadilan tak boleh tertinggal.