Menakar Kesiapan Indonesia Mengadopsi Transparansi Kecerdasan Artifisial

Ilustrasi AI (Pexels/Tara Winstead)

Dinamika disrupsi teknologi digital telah membawa umat manusia ke ambang era baru yang didominasi oleh sistem Kecerdasan Artifisial (Artificial Intelligence atau AI). Kemampuan AI generatif dalam memproduksi teks, gambar, audio, dan video sintetis dengan tingkat akurasi tinggi tidak hanya memicu lompatan produktivitas, melainkan juga menghadirkan risiko sistemik yang nyata terhadap ekosistem informasi, proses demokrasi, dan hak-hak fundamental warga negara. Penyebaran disinformasi yang masif melalui teknologi canggih seperti deepfakes telah menjadi ancaman serius bagi ketertiban sosial global. Menghadapi tantangan ini, Uni Eropa (UE) memimpin barisan tata kelola teknologi melalui pengesahan Regulasi Kecerdasan Artifisial (Euroepan Union AI Act (EU AI Act)), sebuah instrumen hukum komprehensif pertama di dunia yang menerapkan pendekatan berbasis risiko.

Salah satu klaster krusial dalam regulasi tersebut adalah kewajiban transparansi yang diatur secara ketat dalam Pasal 50 ayat (1) dan ayat (2) EU AI Act, yang dijadwalkan mulai berlaku efektif pada tanggal 2 Agustus 2026 (Barry Scannell, Rachel Hayes, Leo Moore, 2026). Kewajiban ini meletakkan beban hukum bagi penyedia dan pengguna AI untuk mengungkapkan interaksi artifisial serta menandai konten sintetis guna menghindari manipulasi publik. Sebagai salah satu pasar digital terbesar di Asia Tenggara, bagi Indonesia perkembangan hukum di benua Eropa ini menjadi alarm sekaligus cermin komparatif. Artikel ini akan membedah anatomi transparansi AI berdasarkan Pasal 50 EU AI Act, mengevaluasi lanskap regulasi domestik Indonesia, serta merumuskan strategi taktis jika ketentuan serupa diimplementasikan di tanah air.

Kewajiban Transparansi Menurut Pasal 50(1) dan 50(2) EU AI Act: Mengurai Panduan Terbaru Komisi Eropa

Untuk memahami kedalaman implikasi hukum Pasal 50 EU AI Act, penting untuk merujuk pada draf panduan terbaru yang dirilis oleh Komisi Eropa setelah melalui proses konsultasi publik intensif yang berakhir pada 3 Juni 2026. Panduan ini berfungsi sebagai instrumen interpretatif bagi otoritas nasional dan Kantor AI Eropa (European AI Office) dalam menegakkan kepatuhan hukum, di mana ketidakpatuhan dapat berujung pada denda administratif yang fantastis, yakni hingga €15.000.000 atau 3% dari total perputaran uang tahunan global perusahaan di tahun finansial sebelumnya (European Commission, 2026).

Secara spesifik, Pasal 50 ayat (1) EU AI Act mewajibkan agar sistem AI yang berinteraksi langsung dengan manusia (seperti chatbot, bot jejaring sosial, dan asisten suara berbasis AI) dikembangkan sedemikian rupa sehingga pengguna manusia sadar secara penuh bahwa mereka sedang berinteraksi dengan sebuah sistem artifisial. Panduan terbaru menegaskan bahwa kewajiban pengungkapan interaksi ini juga meluas hingga ke ranah agentic AI yaitu sistem otonom yang beroperasi mandiri tanpa agen manusia yang terdefinisi secara konstan. Di mana penyedia wajib melakukan pengungkapan di setiap situasi interaksi yang dapat diperkirakan secara wajar (reasonably foreseeable). Pengecualian terhadap aturan ini hanya diberikan jika sifat interaksi tersebut sudah dinilai "sangat jelas" (obvious interaction) bagi pengguna rata-rata yang memiliki informasi memadai. Namun, Komisi Eropa menafsirkan pengecualian kejelasan (obviousness exception) ini secara sangat sempit. Penyedia harus menguji karakteristik pengguna berdasarkan faktor demografis, tingkat literasi digital, faktor kultural, bahasa, hingga potensi keberadaan kelompok rentan, guna memastikan tidak ada ruang bagi distorsi persepsi.

Sementara itu, Pasal 50 ayat (2) EU AI Act menggeser fokus regulasi dari aspek interaksi ke aspek keluaran produk (output layer). Ketentuan ini mewajibkan penyedia sistem AI generatif untuk memastikan bahwa hasil produksi atau manipulasi konten sintetis yang berupa citra, video, audio, atau teks, dapat dideteksi dan dilabeli secara teknis melalui mekanisme penandaairan (watermarking) atau pelabelan metadata. Kewajiban ini tidak terbatas pada model dasar berskala besar (General Purpose AI atau GPAI), melainkan mencakup seluruh sistem AI generatif terlepas dari arsitektur teknisnya. Pengecualian hanya berlaku secara rigid bagi keluaran yang bersifat murni teknis di lingkungan bisnis ke bisnis (B2B) yang aksesnya terbatas pada profesional dalam organisasi serta memiliki sistem pengamanan ketat agar tidak bocor ke ruang publik, serta sistem perekaman data mentah yang sama sekali tidak mengubah esensi informasi asli. Komisi Eropa juga menegaskan batasan pengecualian untuk aktivitas personal dan non-profesional (purely personal, non-professional activity exception). Sebagai contoh, pembuatan konten deepfake yang menargetkan politisi lokal atau isu kepentingan publik yang disebarkan di media sosial tidak dapat dikategorikan sebagai aktivitas personal terproteksi karena memiliki implikasi sosiopolitik yang luas bagi wacana publik.

Potret Regulasi AI di Indonesia Saat Ini

Ketika menghadapkan cermin Pasal 50 EU AI Act ke dalam lanskap hukum positif Indonesia, pertanyaan mendasar yang muncul adalah: sejauh mana Indonesia telah mengatur transparansi dan pelabelan AI? Hingga pertengahan tahun 2026, arsitektur hukum tata kelola AI di Indonesia masih berada dalam fase transisi dari pendekatan etis berbasis hukum lunak (soft law) menuju kerangka kerja yuridis yang mengikat secara imperatif (hard law).

Instrumen kebijakan perdana yang secara eksplisit menyebut tata kelola kecerdasan buatan adalah Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial (SE Menkominfo 9/2023). SE Menkominfo 9/2023 mengadopsi nilai-nilai universal seperti inklusivitas, kemanusiaan, keamanan, aksesibilitas, pelindungan data pribadi, kredibilitas, akuntabilitas, serta yang terpenting, prinsip transparansi. Dalam bagian prinsip transparansi, SE Menkominfo 9/2023 ini menyebutkan bahwa penyelenggaraan AI perlu dilandasi dengan transparansi data untuk menghindari penyalahgunaan, di mana pelaku usaha dan Penyelenggara Sistem Elektronik (PSE) dapat memberikan akses kepada pengguna yang berhak untuk mengetahui pemrosesan data. Meskipun memuat asas transparansi, SE Menkominfo 9/2023 sejatinya hanyalah sebuah kebijakan yang tidak memiliki daya paksa (kekuatan imperatif) dan tidak memuat sanksi hukum yang tegas bagi pihak yang melanggarnya. SE Menkominfo 9/2023 hanya berfungsi sebagai pedoman moralitas bagi pelaku industri teknologi.

Namun, bukan berarti Indonesia sama sekali hampa dari aturan pengikat terkait aspek otomatisasi. Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP), yang masa transisinya telah berakhir penuh, memberikan benteng awal melalui perlindungan subjek data. Pasal 10 UU PDP menggarisbawahi hak subjek data pribadi untuk mengajukan keberatan terhadap tindakan pengambilan keputusan yang hanya didasarkan pada pemrosesan data secara otomatis (automated decision-making), termasuk pemprofilan (profiling), yang menimbulkan akibat hukum atau berdampak signifikan pada subjek data. Kendati demikian, UU PDP berfokus pada tata kelola data pribadi di hulu pemrosesan, dan tidak secara spesifik membebankan kewajiban kepada penyedia teknologi untuk melakukan pelabelan watermark atau penandaan AI pada konten visual atau teks sintetis di hilir sebagaimana Pasal 50 ayat (2) EU AI Act.

Jika ditinjau dari sisi fungsionalitas sistem, Undang-Undang Nomor 1 Tahun 2024 tentang Perubahan Kedua atas Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik (UU ITE) bersama Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem Elektronik dan Transaksi Elektronik (PP PSTE) sebenarnya telah mengatur rezim pertanggungjawaban Agen Elektronik. Pasal 21 UU ITE mengatur bahwa pengoperasian Agen Elektronik yang melakukan transaksi elektronik membebankan tanggung jawab hukum pada penyelenggaranya. Mengingat saat tulisan ini dibuat belum ada aturan khusus mengenai AI di Indonesia selain SE Menkominfo 9/2023, maka Sistem AI yang bertindak sebagai antarmuka interaktif (seperti chatbot transaksi) sebenarnya dapat dikategorikan sebagai Agen Elektronik yang wajib beroperasi secara andal, aman, dan bertanggung jawab. Adapun definisi dari Agen Elektronik menurut UU ITE adalah sebuah perangkat dari suatu Sistem Elektronik yang dibuat untuk melakukan suatu tindakan terhadap suatu Informasi Elektronik tertentu secara otomatis yang diselenggarakan oleh Orang. Prinsip operasional ini menuntut adanya notifikasi yang jelas bagi pengguna saat berinteraksi dengan sistem otomatis, mencerminkan sebagian makna dari Pasal 50 ayat (1) EU AI Act.

Perkembangan paling signifikan terjadi pada awal tahun 2026, di mana dinamika legislasi AI di Indonesia mengalami eskalasi responsif. Kementerian Komunikasi dan Digital (Kemkomdigi) telah mengumumkan adanya rancangan Peraturan Presiden tentang Etika Kecerdasan Artifisial dan Peta Jalan Kecerdasan Artifisial Nasional sebagai fondasi tata kelola teknologi masa depan (Kemkomdigi, 2026). Dan di awal tahun 2026 pula, Kemkomdigi juga menyiapkan regulasi teknis yaitu Peraturan Menteri yang mewajibkan setiap konten ciptaan AI generatif yang diunggah di media sosial maupun platform digital lainnya wajib mencantumkan label khusus "AI". Langkah proaktif ini diambil sebagai respons mendesak untuk membendung hoaks, fabrikasi bukti digital, dan disinformasi siber menjelang dinamika politik dan sosial di ruang siber Indonesia. Inisiatif pelabelan khusus "AI" ini menunjukkan bahwa arah kebijakan hukum Indonesia mulai searah dengan kewajiban penandaan konten sintetis (synthetic content marking) yang digariskan Uni Eropa.

Tantangan dan Strategi Implementasi Kewajiban Transparansi AI di Indonesia

Mengadopsi dan mengimplementasikan standar transparansi seketat Pasal 50 EU AI Act ke dalam sistem hukum Indonesia bukanlah perkara membalikkan telapak tangan. Diperlukan kalkulasi sosio-yuridis yang matang agar regulasi tersebut tidak menjadi aturan yang berpotensi membunuh inovasi lokal yang sedang bertumbuh. Ada beberapa tantangan struktural dan strategi mitigasi yang harus diperhatikan oleh otoritas Indonesia.

Pertama adalah tantangan diferensiasi literasi digital dan kecerdasan buatan. Di Indonesia, potret literasi digital masyarakat tidaklah homogen; terdapat jurang pemisah yang lebar antara masyarakat urban di kota-kota besar dengan masyarakat di wilayah rural atau pedalaman. Menetapkan standar interaksi yang "jelas" (obvious interaction) di Indonesia memerlukan kehati-hatian tinggi. Regulasi domestik harus menerapkan asas perlindungan konsumen yang asimetris, di mana kewajiban disklosur interaksi AI (misalnya penandaan bahwa suara telepon berasal dari robot) harus dibuat sekonkrit dan sejelas mungkin tanpa ruang ambiguitas, karena tingkat kerentanan masyarakat terhadap penipuan berbasis social engineering dan manipulasi suara/video berbasis AI di Indonesia masih sangat tinggi.

Kedua terkait dengan formulasi sanksi hukum dan kepatuhan. EU AI Act menggunakan instrumen denda administratif berbasis persentase pendapatan global yang bersifat punitif ekstrim. Jika Indonesia memaksakan model denda serupa tanpa adaptasi, hal tersebut berisiko mematikan ekosistem perusahaan rintisan (startup) teknologi lokal dan menurunkan daya tarik investasi digital nasional. Strategi yang lebih bijak bagi Indonesia adalah mengadopsi pendekatan regulasi yang fleksibel (flexible regulation) namun tegas, sebagaimana yang sempat ditekankan oleh pimpinan Kemkomdigi. Sanksi dapat disusun secara berjenjang, dimulai dari teguran tertulis, denda administratif yang disesuaikan dengan skala ekonomi pelaku usaha (mengacu pada pola sanksi administratif dalam UU PDP yang menetapkan batas maksimal persentase dari pendapatan tahunan domestik), hingga pemblokiran akses sistem elektronik (take down) bagi penyedia luar negeri yang enggan mematuhi standar pelabelan nasional.

Ketiga menyangkut arsitektur kelembagaan pengawas. Penegakan hukum atas kewajiban pelabelan khusus “AI” memerlukan lembaga pengawas yang memiliki kompetensi teknis tinggi. Indonesia saat ini tengah menggodok pembentukan Lembaga Pelindung Data Pribadi sebagai amanat UU PDP. Mengingat keterbatasan sumber daya manusia ahli, opsi kebijakan yang rasional adalah mengintegrasikan pengawasan transparansi sistem AI di bawah koordinasi erat antara Kemkomdigi dengan Lembaga Pelindung Data Pribadi tersebut, atau membentuk komite ad-hoc interkementerian yang mungkin bisa serupa dengan struktur Keputusan Bersama 7 Menteri Tahun 2026 yang mengatur pemanfaatan AI di jalur pendidikan. Hal ini guna memastikan harmonisasi standar kepatuhan di berbagai sektor spesifik seperti pendidikan, keuangan, dan pertahanan.

Keempat, hambatan kedaulatan teknologi dan penegakan lintas batas (extraterritorial enforcement). Sebagian besar model dasar AI generatif yang digunakan oleh masyarakat Indonesia diproduksi oleh raksasa teknologi multinasional yang berbasis di Amerika Serikat atau Tiongkok. Mewajibkan mereka untuk menerapkan penandaairan (watermarking) yang kompatibel dengan sistem deteksi lokal Indonesia membutuhkan posisi tawar (bargaining power) geopolitik yang kuat. Oleh karena itu, regulasi pelabelan khusus "AI" di Indonesia harus mewajibkan setiap PSE lingkup privat asing yang layanannya diakses di Indonesia untuk tunduk pada standar arsitektur teknis domestik melalui mekanisme pendaftaran PSE, sehingga sistem penyaringan konten di pintu gerbang internet Indonesia (seperti sistem sensor internet pemerintah) dapat mengenali dan menolak konten sintetis tidak berlabel yang berpotensi memicu kekacauan informasi.

Langkah Uni Eropa yang mulai memberlakukan Pasal 50 EU AI Act terhitung mulai 2 Agustus 2026 menegaskan era baru transparansi digital dunia, di mana merupakan hak manusia untuk mengetahui keaslian interaksi dan konten dengan kecerdasan artifisial mendapatkan pelindungan hukum. Berdasarkan analisis komparatif ini, maka diharapkan agar Pemerintah Indonesia dapat segera mempercepat peningkatan status hukum ketentuan transparansi dari sekadar kebijakan seperti SE Menkominfo 9/2023 menjadi norma hukum mengikat dalam bentuk Peraturan Presiden atau Undang-Undang tersendiri di masa depan. Regulasi tersebut wajib mendefinisikan secara ketat standar pelabelan konten sintetis, mempersempit pengecualian demi melindungi ruang publik dari disinformasi, serta merancang mekanisme sanksi proporsional yang menjaga keseimbangan antara kedaulatan digital, keamanan nasional, dan keberlanjutan inovasi teknologi anak bangsa.