Hukum di Era AI: Siapa yanga Bertanggung Jawab Saat AI Membuat Kesalahan?

Credit: khanchit khirisutchalual

yang Bertanggung Jawab Saat AI Membuat Kesalahan?

Pemerintah perlu menyelesaikan Perpres Etika AI dan Peta Jalan AI segera, lalu melangkah ke pembentukan regulasi yang lebih kuat dengan tiga prinsip pokok. Pertama, klasifikasi risiko — penggunaan AI berisiko tinggi (kesehatan, hukum, keamanan) wajib menjalani audit dan pengawasan manusia. Kedua, kewajiban transparansi — setiap interaksi dengan AI harus dapat diketahui publik, termasuk kewajiban menandai konten sintetis. Ketiga, mekanisme ganti rugi yang jelas — korban tidak boleh dipersulit membuktikan kesalahan sistem yang bahkan tidak ia miliki.

Hukum memang tidak boleh berhenti pada teks aturan. Namun tanpa teks aturan yang tegas soal tanggung jawab, korban kesalahan AI hanya akan mendengar jawaban yang sama dari setiap meja pengadilan: maaf, ini bukan urusan kami. Di era di mana mesin mengambil keputusan atas nama manusia, keadilan menuntut satu hal sederhana — selalu ada orang yang bisa dimintai pertanggungjawaban.

Kecerdasan buatan tidak lagi sekadar alat bantu para pengembang di laboratorium. AI kini menolong dokter membaca rontgen, menyeleksi pelamar kerja, menilai risiko kredit, bahkan menyusun surat tagihan yang dikirim atas nama bank. Teknologi ini bekerja cepat dan murah. Masalahnya, ketika ia membuat kesalahan — memberi diagnosis keliru, menolak kredit yang layak, atau menyiarkan informasi palsu — muncul satu pertanyaan yang hingga kini belum terjawab tegas: siapa yang bertanggung jawab?

Celah Hukum Indonesia

Indonesia belum memiliki satu undang-undang komprehensif yang mengatur AI, seperti Uni Eropa melalui EU AI Act. Yang ada baru instrumen parsial: UU Perlindungan Data Pribadi, UU ITE, Surat Edaran Menteri Kominfo Nomor 9/2023 tentang etika AI, serta Strategi Nasional Kecerdasan Artifisial 2020–2045. Payung yang lebih utuh sedang disiapkan — dua Perpres, yakni Perpres Etika AI dan Perpres Peta Jalan AI, telah melalui koordinasi lintas kementerian dan berada di Sekretariat Negara untuk peninjauan akhir. Namun perpres pun, sekalipun nanti disahkan, bersifat administratif: ia mengatur etika dan tata kelola, bukan secara tegas membagi tanggung jawab ganti rugi.

Bayangkan seorang petani di Blora ditolak pinjamannya oleh bank karena sistem AI menilai risikonya tinggi berdasarkan data yang keliru. Atau seorang guru yang nilai siswanya tereduksi otomatis oleh perangkat penilaian digital, lalu nilai itu dipakai untuk kelulusan. Siapa yang menuntut? Ke mana ia mengadu? Dalam praktik, korban kesalahan AI ditarik ke dalam hukum lama yang tidak dirancang untuk teknologi ini. Ia harus memilih: menuntut pengembang dengan dalil cacat produk, menuntut pengguna layanan dengan dalil perbuatan melawan hukum, atau menuntut penyedia jasa elektronik dengan dalil UU ITE. Masing-masing jalur punya kelemahan. Pengembang dapat berdalih bahwa AI belajar dari data dan menghasilkan keluaran yang tak sepenuhnya bisa diprediksi. Pengguna dapat berdalih bahwa ia hanya menjalankan sistem yang sudah "dianggap benar". Korban, sekali lagi, berdiri di depan pintu yang tertutup.

Tiga Model Pembagian Tanggung Jawab

Pendekatan yang berkembang di dunia menawarkan tiga model. Pertama, tanggung jawab ditempatkan pada pengembang (developer) karena mereka yang merancang model, memilih data latih, dan menentukan batas kemampuan sistem. Kedua, tanggung jawab ditempatkan pada pengguna/deployer — pihak yang menerapkan AI dalam aktivitas konkret dan paling menikmati manfaatnya. Ketiga, model tanggung jawab bersama dengan pembagian berbasis kesalahan masing-masing pihak.

Uni Eropa memilih pendekatan berbasis risiko: semakin berbahaya penggunaan AI, semakin berat kewajiban pengelolanya, mulai dari larangan mutlak, kewajiban manajemen risiko dan pengawasan manusia, hingga kewajiban transparansi minimal. Akademisi Indonesia, termasuk dari Fakultas Hukum UI, mendorong pendekatan serupa diadaptasi ke konteks nasional — bukan disalin mentah-mentah, melainkan disesuaikan dengan karakteristik sistem hukum kita.

Sektor jasa keuangan sudah melangkah lebih dulu. OJK menerbitkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia yang mewajibkan penggunaan AI secara bertanggung jawab sepanjang siklus hidup sistem, termasuk pengawasan manusia dan pengelolaan risiko. Di pendidikan, Keputusan Bersama tujuh menteri pada 2026 mengatur pemanfaatan AI di ruang kelas beserta kewajiban moderasi konten dan pelindungan data anak. Pola sektoral ini menunjukkan arah yang jelas: regulasi tumbuh dari bawah, sektor demi sektor, sementara payung nasionalnya masih tertunda.

Di sisi lain, peradilan juga harus bersiap. Hakim dan jaksa membutuhkan literasi digital yang memadai untuk menguji bukti yang dihasilkan atau diproses AI — mulai dari gambar hasil manipulasi hingga skor penilaian algoritma. Tanpa kemampuan itu, pengadilan berisiko mengadili teknologi dengan cara mengadili mesin biasa: menganggapnya alat netral yang tidak bisa disalahkan. Padahal di balik setiap sistem selalu ada keputusan manusia — memilih data, menentukan parameter, dan membiarkan sistem berjalan tanpa pengawasan. Di situlah akar tanggung jawab itu berada.

Mengapa Ini Mendesak

Ada tiga alasan mengapa persoalan ini tak bisa ditunda. Pertama, AI generatif berkembang melampaui perkiraan — kemampuannya kini menghasilkan teks, gambar, dan suara yang sulit dibedakan dari hasil manusia, termasuk deepfake yang kian merajalela. Bahkan pengembangnya mengaku tak pernah menyangka dampak setedah ini. Kedua, semakin banyak keputusan berdampak hidup manusia yang diserahkan otomatis: penolakan pinjaman, pemecatan kerja, penilaian nilai siswa. Ketiga, tanpa aturan yang jelas, Indonesia berisiko ditinggal investor yang menuntut kepastian hukum, sekaligus kehilangan momentum membangun ekosistem AI nasional yang berdaulat.

Arah yang Harus Ditempuh

Pemerintah perlu menyelesaikan Perpres Etika AI dan Peta Jalan AI segera, lalu melangkah ke pembentukan regulasi yang lebih kuat dengan tiga prinsip pokok. Pertama, klasifikasi risiko — penggunaan AI berisiko tinggi (kesehatan, hukum, keamanan) wajib menjalani audit dan pengawasan manusia. Kedua, kewajiban transparansi — setiap interaksi dengan AI harus dapat diketahui publik, termasuk kewajiban menandai konten sintetis. Ketiga, mekanisme ganti rugi yang jelas — korban tidak boleh dipersulit membuktikan kesalahan sistem yang bahkan tidak ia miliki.

Hukum memang tidak boleh berhenti pada teks aturan. Namun tanpa teks aturan yang tegas soal tanggung jawab, korban kesalahan AI hanya akan mendengar jawaban yang sama dari setiap meja pengadilan: maaf, ini bukan urusan kami. Di era di mana mesin mengambil keputusan atas nama manusia, keadilan menuntut satu hal sederhana — selalu ada orang yang bisa dimintai pertanggungjawaban.