Hubungan Etika dan Hukum dalam Tata Kelola Artificial Intelligence

Ilustrasi belajar AI. Foto: Summit Art Creations/Shutterstock

Etika dan hukum sama-sama mengatur perilaku. Keduanya hanya berbeda dalam daya ikat. Hukum memuat sanksi yang dapat dipaksakan negara. Etika bekerja melalui norma sosial, norma budaya dan keyakinan serta kesadaran profesional.

Selain itu etika juga dapat dijadikan sebagai sumber hukum di mana penormaan dapat diturunkan dari etika, ketika hukum tak cukup tersedia untuk menyelesaikan peristiwa hukum konkret. Pada posisi demikian etika dijadikan sebagai asas hukum. Oleh karena itu sesungguhnya posisi etika itu letaknya lebih tinggi dari norma hukum. Dalam konteks Artificial Intelligence (AI), etika biasanya bergerak lebih dulu, hukum menyusul kemudian setelah akibat hukum yang dihasilkan dari kerja AI terwujud dalam peristiwa hukum konkret.

Pola peristiwa seperti itu akan terlihat jelas dalam data. Jobin, Ienca, dan Vayena (2019) memetakan 84 pedoman etika AI dari berbagai negara dan lembaga. Mereka menemukan lima prinsip yang paling sering muncul: transparansi, keadilan, nonmaleficence, tanggung jawab, dan privasi. Sebagian besar pedoman itu tidak bersifat memaksa tapi dapat dipatuhi secara sukarela. Aturan-aturan yang bersifat lunak (regelen rechts).

Fakta ini menunjukkan bahwa tata kelola AI awalnya bertumpu pada norma etika atau soft law. Akan tetapi Ketika AI memasuki wilayah kehidupan yang luas, dampak yang ditimbulkannya merambah pada hubungan-hubungan hukum yang kompleks. Kini etika tak lagi mampu dijadikan pedoman, diperlukan aturan hukum yang mengikat dan memiliki sanksi yang bersifat memaksa (dwangenrechts).

Persoalannya kemudian untuk membuat hukum menjadi mengikat, pembuat undang-undang harus melalui berbagai tahapan prosedural. Proses pembuatan hukum kerap kali memakan waktu yang panjang. Sementara di sisi lain AI semakin aktif dan bahkan AI dapat melahirkan AI baru (AI generatif) yang pada saat bersamaan hukum belum selesai dibuat. Kelak ketika hukum selesai dirumuskan dan disahkan AI baru telah menghasilkan berbagai bentuk peristiwa hukum baru lagi. Akhirnya hukum kembali tertinggal di belakang.

Masalah Kecepatan dan Dilema

Ada dua teori menjelaskan mengapa hukum tertinggal. Pertama, Marchant (2011) memperkenalkan konsep pacing problem. Teknologi berkembang lebih cepat daripada kemampuan lembaga hukum untuk menyesuaikan diri. Siklus legislasi membutuhkan waktu bertahun-tahun. Model AI baru muncul dalam hitungan bulan.

Kedua, Collingridge (1980) merumuskan dilema kendali teknologi. Pada tahap awal, regulator mudah mengubah arah teknologi, tetapi belum memahami dampaknya. Pada tahap lanjut, dampak sudah jelas, tetapi teknologi telah mengakar dan sulit diubah. AI generatif menggambarkan dilema ini secara tepat. Regulator kini memahami risikonya, tetapi jutaan pengguna dan banyak industri sudah bergantung padanya.

Di sinilah perlumya etika. Etika mengambil peranan. Dalam situasi ini, etika mengisi kekosongan hukum. Prinsip etika memberi arah dan dapat dijadikan dasar pembentukan norma hukum ketika aturan hukum belum cukup tersedia.

Kritik terhadap Pendekatan Etika Semata

Etika tanpa hukum menghadapi kelemahan serius. Terkait soal etika dalam dunia teknologi, nama Brent Mittelstadt - seorang profesor dan peneliti dari Oxford Internet Institute - sangat dikenal lewat dua kontribusi ilmiah utamanya: 6 Kerangka Etika Algoritma (2016) dan kritiknya terhadap Prinsip Etika AI yang Terlalu Abstrak (2019) Mittelstadt berargumen bahwa prinsip (baca: etika) saja tidak dapat menjamin AI yang etis. Ia membandingkan etika AI dengan etika kedokteran. Kedokteran memiliki tujuan bersama, standar profesi, dan mekanisme akuntabilitas. Pengembangan AI belum memiliki ketiganya.

Menurut Mittelstadt, algoritma menghasilkan korelasi, bukan kausalitas. Mengambil tindakan berdasarkan data yang belum pasti dapat memicu keputusan keliru, sehingga bukti tidak meyakinkan.  Sifat algoritma modern (machine learning) menyerupai "kotak hitam" (black box). Proses pemrosesan data di dalamnya terlalu rumit untuk dipahami sepenuhnya oleh manusia, sehingga bukti tidak dapat dipahami,

Algoritma hanya sebagus data yang diterimanya. Jika data masukan mengandung bias atau prasangka manusia, hasil keluaran algoritma pun akan otomatis terdistorsi, sehingga bukti bersifat menyesatkan.

Algoritma berpotensi melakukan diskriminasi secara otomatis terhadap kelompok atau individu tertentu tanpa sengaja, yang mengancam prinsip keadilan, sehingga hasilnya tidak mem,berikan rasa keadilan

Penggunaan algoritma secara masif mengubah cara kita memandang privasi, otonomi diri, dan membentuk identitas (profiling) di dunia digital, sehingga memberikan efek transformatif.

Ketika algoritma melakukan kesalahan fatal yang merugikan manusia, sulit menentukan siapa yang harus bertanggung jawab (apakah pembuat kode, penyedia data, atau pengguna teknologi) sehingga menimbulkan masalkah keterlacakan (Traceability).

Wagner (2018) juga mengajukan kritik soal ini yang disebutnya sebagai fenomena ethics washing. Perusahaan menerbitkan pedoman etika untuk menunda atau menghindari regulasi yang mengikat. Kritik ini mendorong pergeseran dari etika yang bersifat sukarela menuju hukum memaksa yang dapat ditegakkan. Ethics washing menurut Ben Wagner adalah penggunaan wacana atau prinsip etika secara manipulatif oleh perusahaan teknologi dan pembuat kebijakan sebagai pengganti regulasi hukum yang mengikat.

Dalam bab buku tahun 2018 berjudul “Ethics as an Escape from Regulation: From Ethics-Washing to Ethics-Shopping?”, Wagner menjelaskan bagaimana konsep ini bekerja dan dampak yang dihasilkannya. Perusahaan menggunakan pedoman etika sukarela agar terlihat bertanggung jawab secara moral tanpa harus mematuhi aturan hukum atau undang-undang yang ketat. Etika kemudian dijadikan sebagai tameng PR (public relations) untuk menangkis kritik atas pelanggaran data atau privasi, seperti yang terjadi pada kasus pembagian data kesehatan oleh Google DeepMind. Demikian juga para pelaku industri memilih-milih kerangka etika yang paling longgar atau paling menguntungkan kepentingan mereka sendiri, alih-alih menerapkan standar hak asasi manusia yang non-arbitrer.

Kesenjangan Tanggung Jawab

AI menantang konsep dasar hukum tentang pertanggungjawaban. Andreas Matthias (2004) seorang filsuf yang terkenal mencetuskan konsep "Responsibility Gap" (Kesenjangan Tanggung Jawab) dalam filsafat hukum dan etika kontemporer. Pemikirannya mengkritik keterbatasan konsep dasar hukum tentang pertanggungjawaban tradisional ketika berhadapan dengan teknologi modern, khususnya sistem otonom dan Kecerdasan Buatan (AI).

Pokok-pokok pemikiran Matthias mengenai konsep dasar pertanggungjawaban hukum meliputi;

Pertama, Runtuhnya model tradisional pertanggungjawaban. Dalam hukum tradisional, produsen atau operator sebuah mesin bertanggung jawab penuh atas konsekuensi operasional AI. Hal ini didasarkan pada asumsi bahwa manusia memegang kendali penuh atau bisa memprediksi perilaku AI. Matthias menyoroti bahwa pada sistem otonom (seperti AI yang dapat belajar mandiri atau machine learning), produsen tidak lagi bisa memprediksi secara pasti bagaimana mesin akan bertindak setelah ia beroperasi di lingkungan nyata.

Kedua, kesenjangan tanggung jawab (The Responsibility Gap). Konsep utama dari Matthias adalah munculnya situasi di mana kerugian nyata terjadi, tetapi tidak ada subjek hukum manusia yang dapat dimintai pertanggungjawaban secara adil menurut asas hukum konvensional. Jika produsen mendesain mesin dengan benar tanpa cacat produksi (negligence), dan pengguna mengoperasikannya sesuai prosedur, namun mesin tersebut "mengambil keputusan" otonom yang merugikan orang lain, maka asas pertanggungjawaban berdasarkan kesalahan (liability based on fault) menjadi tidak dapat diterapkan.

Ketiga, Dilema antara Keadilan Korban dan Keadilan Pelaku. Matthias menghadapkan hukum pada dilema moral dan yuridis yang mendalam: jika kita menghukum produsen atau pengguna atas tindakan tak terprediksi dari mesin otonom, kita melanggar asas dasar hukum pidana dan perdata bahwa seseorang hanya bisa dihukum jika ada unsur kesalahan atau kelalaian (nulla poena sine culpa / no liability without fault). Sebaliknya, jika hukum membebaskan semua pihak karena tidak adanya unsur kesalahan manusia, hal ini mencederai hak korban untuk mendapatkan keadilan pemulihan (corrective justice)

Secara tradisional, hukum membebankan pertanggungjawaban berdasarkan dua pilar utama: adanya kesalahan/kelalaian (fault) dan kemampuan kontrol agen (agency) terhadap objek atau tindakannya. Namun, Matthias berpendapat bahwa teknologi modern telah merusak fondasi in

Matthias mengidentifikasi responsibility gap. Sistem pembelajaran mesin dapat menghasilkan keputusan yang tidak diperkirakan sebelumnya oleh pembuatnya. Hukum tradisional mensyaratkan kesalahan, kendali, dan kemampuan memprediksi akibat. Ketika sistem AI bekerja dana menimbulkan kerugian, siapa yang bertanggung jawab? Pengembang, penyedia, pengguna, atau tidak seorang pun?

Pertanyaan ini bersifat etis sekaligus yuridis. Etika merumuskan siapa yang seharusnya menanggung beban moral. Hukum menerjemahkannya ke dalam rezim tanggung gugat, misalnya tanggung jawab produk atau tanggung jawab mutlak (strict liability). Setakat ini hukum Indonesia menempatkan AI sebagai alat, bukan sebagai subjek hukum. Karenanya yang bertanggung jawab adalah subjek hukum yang mengoperasikannya.

Dari Prinsip ke Norma Hukum

Uni Eropa memberi contoh paling konkret tentang transformasi etika menjadi hukum. Pada 2019, High-Level Expert Group on AI menerbitkan Ethics Guidelines for Trustworthy AI. Pedoman itu kemudian menjadi fondasi EU AI Act (Regulation (EU) 2024/1689). Regulasi ini berlaku sejak Agustus 2024 dan menerapkan kewajibannya secara bertahap.

EU AI Act memakai pendekatan berbasis risiko. Regulasi ini melarang praktik berisiko tidak dapat diterima, seperti social scoring oleh otoritas publik. Regulasi ini juga membebankan kewajiban ketat pada sistem berisiko tinggi. Prinsip etika seperti transparansi dan pengawasan manusia kini menjadi kewajiban hukum dengan sanksi denda. Perlu dicatat, jadwal penerapan beberapa ketentuan sempat dibahas untuk ditunda. Status terbarunya perlu Anda verifikasi.

Pendekatan ini sejalan dengan teori responsive regulation dari Ayres dan Braithwaite (1992). Regulator memulai dengan persuasi dan pengaturan mandiri. Regulator meningkatkan intervensi hanya ketika aktor gagal mematuhi norma. Etika berada di dasar piramida. Hukum dengan sanksi berada di puncaknya.

Kode sebagai Regulasi

Lessig (1999) menawarkan perspektif lain melalui tesis "code is law." Ia mengidentifikasi empat pengatur perilaku: hukum, norma sosial, pasar, dan arsitektur. Dalam sistem AI, arsitektur teknis menentukan apa yang dapat dan tidak dapat dilakukan pengguna. Karena itu, etika dan hukum harus masuk ke tahap desain. Konsep ethics by design dan privacy by design (Pasal 25 GDPR) menerapkan gagasan ini.

Konteks Indonesia

Indonesia masih mengandalkan kombinasi soft law dan hukum sektoral. Pemerintah menerbitkan Strategi Nasional Kecerdasan Artifisial 2020 sampai 2045. Kementerian Komunikasi dan Informatika menerbitkan Surat Edaran Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Surat edaran ini tidak memiliki daya ikat setara undang-undang. OJK juga menerbitkan pedoman kode etik AI untuk sektor teknologi finansial pada 2023.

Dari sisi hukum positif, Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi mengatur pemrosesan otomatis, termasuk hak subjek data untuk menolak keputusan yang hanya didasarkan pada pemrosesan otomatis. Undang-Undang ITE dan perubahannya melalui UU Nomor 1 Tahun 2024 mengatur penyelenggara sistem elektronik. Namun, Indonesia belum memiliki undang-undang khusus AI per pengetahuan saya hingga pertengahan 2026. Pemerintah sempat membahas peta jalan dan rancangan regulasi AI, jadi Anda perlu memeriksa perkembangan terbarunya.

Kondisi ini menempatkan Indonesia pada tahap awal piramida regulasi responsif. Etika sudah dirumuskan. Pengaturan hukum masih tersebar di berbagai sektor.

Sintesis

Hubungan etika dan hukum dalam tata kelola AI bersifat saling melengkapi dan berurutan. Etika merumuskan nilai dan mengisi kekosongan regulasi. Hukum mengubah nilai itu menjadi kewajiban yang dapat ditegakkan. Kehadiran AI memperlihatkan bahwa etika tanpa hukum rentan dimanfaatkan sebagai pencitraan. Sebaliknya, hukum tanpa landasan etika berisiko kaku dan cepat usang. Model tata kelola yang efektif memadukan keduanya melalui pendekatan berbasis risiko, pengawasan adaptif, dan integrasi norma ke dalam desain teknis.