Hukum di Era AI: Siapa Bertanggung Jawab Ketika Kecerdasan Buatan Merugikan
Official Account Muhammad Ari Pratomo (MuhammadAriLaw) Indonesian Lawyer. Advocating for justice beyond public attention
·waktu baca 8 menit
Tulisan dari Muhammad Ari Pratomo tidak mewakili pandangan dari redaksi kumparan
PerbesarHukum di Era AI: Siapa Bertanggung Jawab Ketika Kecerdasan Buatan Merugikan Seseorang?
Kecerdasan artifisial atau Artificial Intelligence (AI) telah bergerak jauh melampaui sekadar teknologi percakapan. AI kini digunakan untuk membuat tulisan, gambar, video, musik, menganalisis dokumen, membantu pekerjaan profesional, hingga mendukung proses pengambilan keputusan.
Di satu sisi, perkembangan ini membuka peluang besar bagi masyarakat dan dunia usaha. Namun di sisi lain, muncul pertanyaan yang semakin penting: siapa yang bertanggung jawab ketika AI melakukan kesalahan dan kesalahan tersebut merugikan seseorang?
Pertanyaan ini bukan lagi persoalan masa depan. Ia sudah menjadi persoalan hukum hari ini.
Bayangkan seseorang menerima keputusan penting berdasarkan hasil analisis AI. Ternyata data yang digunakan keliru. Atau sebuah sistem AI memberikan informasi yang salah sehingga seseorang kehilangan kesempatan kerja, mengalami kerugian finansial, kehilangan reputasi, atau bahkan menjadi korban tuduhan yang tidak benar.
Apakah kita dapat menyalahkan mesin?
Tentu tidak sesederhana itu.
AI tidak memiliki kesadaran hukum seperti manusia. AI tidak dapat dimintai pertanggungjawaban pidana atau perdata sebagaimana manusia atau badan hukum. Karena itu, pertanyaan sebenarnya bukan "apakah AI bersalah?", melainkan siapa manusia atau badan hukum di balik penggunaan AI yang harus bertanggung jawab?
AI Bukan Alasan untuk Menghilangkan Tanggung Jawab
Salah satu kekeliruan yang perlu dihindari adalah menganggap bahwa ketika sebuah keputusan dibuat dengan bantuan AI, tanggung jawab otomatis berpindah kepada teknologi.
Prinsip tersebut berbahaya.
Teknologi seharusnya menjadi alat bantu manusia, bukan tameng untuk menghindari tanggung jawab hukum.
Jika sebuah perusahaan menggunakan AI untuk menyeleksi calon pekerja, misalnya, lalu sistem tersebut menghasilkan keputusan yang diskriminatif, perusahaan tidak dapat begitu saja mengatakan, "Itu kesalahan AI."
Begitu pula ketika sebuah institusi menggunakan AI untuk memberikan rekomendasi kepada masyarakat. Jika sistem tersebut menghasilkan informasi yang keliru dan terdapat kerugian akibat kelalaian dalam penggunaan teknologi tersebut, perlu dilihat siapa yang merancang, menyediakan, mengendalikan, mengawasi, dan menggunakan sistem tersebut.
Dengan kata lain, AI tidak boleh menjadi ruang kosong pertanggungjawaban hukum.
Indonesia Sedang Membangun Fondasi Hukum AI
Persoalan tersebut menjadi semakin relevan karena Indonesia sedang membangun kerangka tata kelola AI.
Pada Mei 2026, Kementerian Komunikasi dan Digital menyatakan pembahasan lintas kementerian terhadap Rancangan Peraturan Presiden mengenai Etika Kecerdasan Artifisial dan Peta Jalan Kecerdasan Artifisial Nasional 2026–2029 telah selesai dan drafnya disiapkan untuk diajukan kepada Presiden.
Kemudian pada Juli 2026, pemerintah menjelaskan bahwa Perpres AI akan menjadi langkah awal sebelum Indonesia memiliki Undang-Undang AI yang lebih komprehensif. Pemerintah juga menegaskan bahwa tata kelola AI harus terhubung dengan berbagai regulasi lain, termasuk UU ITE, UU Pelindungan Data Pribadi, serta kebijakan keamanan siber.
Ini menunjukkan satu hal penting: AI tidak dapat diatur hanya dengan melihat teknologinya.
AI bersinggungan dengan data pribadi, hak cipta, kontrak, perlindungan konsumen, ketenagakerjaan, keamanan siber, pidana, perdata, hingga hak asasi manusia.
Karena itu, regulasi AI harus dibangun sebagai ekosistem hukum.
Bagaimana Jika AI Menggunakan Data Pribadi?
Salah satu persoalan paling serius adalah data.
AI membutuhkan data untuk bekerja. Semakin besar dan beragam data yang digunakan, semakin besar pula potensi manfaatnya. Namun pada saat yang sama, semakin besar pula risiko terhadap privasi seseorang.
Indonesia telah memiliki Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP). Undang-undang tersebut mengatur antara lain hak subjek data pribadi, pemrosesan data pribadi, kewajiban pengendali dan prosesor data, transfer data, sanksi administratif, serta ketentuan pidana tertentu.
Artinya, keberadaan AI tidak menghapus kewajiban hukum terkait data pribadi.
Jika data seseorang dikumpulkan, diproses, digunakan, atau disebarluaskan melalui suatu sistem AI, pertanyaan hukumnya tetap ada:
Apakah pemrosesan tersebut memiliki dasar yang sah?
Apakah tujuan penggunaannya jelas?
Apakah data yang digunakan memang diperlukan?
Siapa pengendalinya?
Siapa yang memprosesnya?
Bagaimana keamanan datanya?
Dan yang paling penting, apa yang dapat dilakukan korban ketika terjadi pelanggaran?
Pertanyaan-pertanyaan tersebut harus dijawab sebelum AI digunakan secara masif, bukan setelah korban bermunculan.
Ketika AI Menghasilkan Informasi yang Salah
Persoalan lain adalah apa yang sering disebut sebagai AI hallucination, yaitu ketika sistem AI menghasilkan informasi yang tampak meyakinkan tetapi sebenarnya tidak benar.
Risikonya sangat besar ketika AI digunakan dalam bidang yang membutuhkan tingkat akurasi tinggi.
Kementerian Komunikasi dan Digital sendiri telah mengingatkan bahwa penggunaan AI, termasuk dalam bidang hukum, perlu memperhatikan risiko bias dan halusinasi. Pemerintah bahkan menyinggung penggunaan AI untuk legal drafting, analisis perkara, hingga perancangan tuntutan.
Bayangkan jika seseorang menggunakan AI untuk membuat analisis hukum, kemudian tanpa melakukan verifikasi memasukkan hasil tersebut ke dalam dokumen resmi.
Jika terdapat pasal yang sebenarnya tidak ada, putusan yang keliru, atau fakta yang dibuat-buat, siapa yang bertanggung jawab?
Jawabannya harus jelas: orang yang menggunakan AI tidak boleh melepaskan kewajiban profesionalnya hanya karena informasi tersebut dihasilkan oleh mesin.
AI dapat membantu berpikir.
AI dapat membantu mencari informasi.
AI dapat membantu menyusun dokumen.
Tetapi keputusan profesional tetap membutuhkan manusia yang memiliki kompetensi dan tanggung jawab.
Deepfake dan Kerusakan Reputasi
Ancaman AI juga tidak berhenti pada kesalahan informasi.
Teknologi generatif memungkinkan seseorang membuat gambar, suara, maupun video yang menyerupai orang lain.
Inilah yang membuat deepfake menjadi persoalan hukum yang serius.
Seseorang dapat dibuat seolah-olah mengatakan sesuatu yang tidak pernah dikatakan. Wajah seseorang dapat ditempatkan dalam video yang tidak pernah dibuatnya. Suara seseorang dapat ditiru. Identitas digital seseorang dapat digunakan tanpa persetujuan.
Akibatnya bukan hanya persoalan teknologi.
Ada potensi kerugian terhadap kehormatan, reputasi, privasi, keamanan, bahkan kehidupan sosial dan ekonomi seseorang.
Kementerian Komunikasi dan Digital juga telah mengingatkan bahwa konten sintetis dan deepfake semakin sulit dibedakan dari konten asli, sehingga masyarakat perlu memverifikasi sumber dan asal-usul konten sebelum mempercayai atau menyebarkannya.
Dalam kondisi seperti ini, hukum harus hadir bukan untuk memusuhi teknologi, tetapi untuk melindungi manusia dari penyalahgunaannya.
Bagaimana Dengan Hak Cipta?
AI juga membawa persoalan baru bagi pencipta.
Bagaimana jika karya seorang penulis, fotografer, musisi, ilustrator, atau pembuat film digunakan sebagai bagian dari data pelatihan AI?
Apakah penggunaan tersebut selalu diperbolehkan?
Apakah pencipta berhak mendapatkan kompensasi?
Bagaimana jika AI menghasilkan karya yang sangat mirip dengan karya seseorang?
Pertanyaan tersebut menjadi semakin penting karena pemerintah Indonesia sendiri telah mengakui bahwa perkembangan AI menghadirkan tantangan baru terhadap pelindungan hak cipta. Pemerintah sedang mencari keseimbangan antara kepentingan industri teknologi, media, musisi, pembuat film, dan kreator digital.
Di sinilah hukum harus menemukan titik keseimbangan.
Jangan sampai inovasi teknologi membunuh kreativitas manusia.
Namun jangan pula regulasi yang terlalu berat justru membuat inovasi berhenti.
Siapa yang Harus Bertanggung Jawab?
Menurut saya, pembahasan mengenai tanggung jawab AI harus melihat rantai pertanggungjawaban, bukan mencari satu pihak untuk disalahkan secara otomatis.
Setidaknya terdapat beberapa pihak yang perlu diperhatikan:
Pertama, pengembang teknologi.
Jika terdapat cacat desain, kelemahan keamanan, atau kelalaian tertentu dalam pengembangan sistem, tanggung jawab pengembang perlu diperiksa berdasarkan hubungan hukum dan akibat yang ditimbulkan.
Kedua, penyedia atau operator sistem.
Penyedia layanan AI memiliki tanggung jawab terkait bagaimana sistem tersebut disediakan, dikendalikan, dan dijalankan.
Ketiga, pengguna AI.
Orang atau perusahaan yang menggunakan AI tetap memiliki kewajiban untuk menggunakan teknologi secara bertanggung jawab, terutama ketika hasil AI digunakan untuk mengambil keputusan yang berdampak kepada orang lain.
Keempat, organisasi yang menjadikan AI sebagai bagian dari proses bisnis.
Jika sebuah perusahaan menjadikan AI sebagai bagian dari proses perekrutan, pemberian kredit, pelayanan konsumen, analisis hukum, kesehatan, pendidikan, atau sektor lainnya, maka penggunaan AI harus memiliki mekanisme pengawasan manusia.
Dengan demikian, pertanggungjawaban tidak boleh berhenti pada kalimat: "Sistem AI yang melakukan."
Karena di belakang sistem selalu ada manusia, organisasi, proses, dan keputusan.
Jangan Sampai AI Menjadi Kambing Hitam
Ada paradoks yang harus kita hindari.
Ketika AI berhasil, manusia mengatakan, "Kami berhasil menggunakan teknologi."
Tetapi ketika AI gagal, manusia mengatakan, "Itu kesalahan mesin."
Pola seperti ini tidak sehat.
Hukum membutuhkan subjek pertanggungjawaban yang jelas.
AI boleh berkembang secepat mungkin, tetapi prinsip hukum tidak boleh kehilangan arah.
Teknologi harus memberikan manfaat bagi manusia, bukan justru membuat manusia kehilangan hak untuk mendapatkan penjelasan, perlindungan, dan pemulihan ketika dirugikan.
Karena itu, salah satu prinsip penting dalam tata kelola AI seharusnya adalah human accountability: selalu ada manusia atau badan hukum yang dapat dimintai pertanggungjawaban atas penggunaan AI.
Hukum Harus Mengejar Teknologi, Tetapi Tidak Boleh Tertinggal
Perkembangan teknologi sering kali jauh lebih cepat dibandingkan pembentukan peraturan.
Hari ini kita berbicara tentang chatbot.
Besok mungkin kita berbicara tentang AI agent yang mampu melakukan berbagai tindakan secara lebih mandiri.
Karena itu, hukum tidak cukup hanya mengatur teknologi yang sudah ada. Hukum juga harus mampu mengantisipasi teknologi yang sedang berkembang.
Namun regulasi tidak boleh hanya berorientasi pada pembatasan.
Pemerintah sendiri menyampaikan bahwa regulasi digital harus menjadi katalis pertumbuhan ekonomi digital, memberikan kepastian bagi investor, dan tetap membuka ruang inovasi.
Artinya, tantangan pembentuk kebijakan adalah menemukan keseimbangan:
inovasi tanpa mengorbankan hak,
kebebasan tanpa menghilangkan tanggung jawab,
kemajuan teknologi tanpa mengurangi martabat manusia.
AI Boleh Cerdas, Tetapi Hukum Harus Tetap Berpihak kepada Manusia
Pada akhirnya, perdebatan mengenai AI bukan semata-mata tentang seberapa pintar mesin.
Pertanyaan yang jauh lebih penting adalah: seberapa bertanggung jawab manusia ketika menggunakan mesin tersebut?
AI tidak boleh menjadi alasan untuk menghapus tanggung jawab.
AI tidak boleh menjadi tempat bersembunyi ketika seseorang dirugikan.
Dan AI tidak boleh menggantikan prinsip dasar hukum bahwa setiap orang berhak mendapatkan perlindungan dan pemulihan ketika haknya dilanggar.
Indonesia sedang berada pada tahap penting dalam membangun tata kelola AI. Rencana Perpres AI dan arah menuju Undang-Undang AI menunjukkan bahwa negara mulai mempersiapkan fondasi hukum untuk menghadapi perubahan teknologi tersebut.
Tetapi regulasi yang baik bukan hanya regulasi yang mampu mengendalikan teknologi.
Regulasi yang baik adalah regulasi yang mampu menjaga manusia ketika teknologi menjadi semakin kuat. Sebab pada akhirnya, teknologi diciptakan untuk manusia. Bukan manusia yang diciptakan untuk melayani teknologi.
Hukum bukan hanya tentang siapa yang menciptakan mesin, tetapi juga siapa yang bertanggung jawab ketika mesin tersebut menyentuh kehidupan manusia.