MK Batasi Penggunaan AI di Panggung Demokrasi, Ada Apa?

Sejumlah pengunjuk rasa melakukan aksi menolak RUU Pilkada di halaman Gedung Mahkamah Konstitusi, Jakarta, Kamis (22/8/2024). Foto: Iqbal Firdaus/kumparan

Episode kecerdasan buatan atau artificial intelligence menandai era baru dalam demokrasi, era di mana perkembangan teknologi telah memasuki panggung politik, dan untuk pertama kalinya kecerdasan buatan/generative diterapkan dan digunakan dalam skala besar di ranah politik bangsa Indonesia.

Di pemilu 2024 kemarin, AI punya andil besar dalam memainkan peranan mengubah hasil pemilu. kecerdasan buatan dapat melakukan berbagai tugas untuk memudahkan dalam kampanye, seperti menyediakan data demografi pemilu, menjelajah media sosial dan situs web berita, bahkan menghasilkan pidato, slogan, serta konten media sosial yang disesuaikan dengan daerah pemilihan menggunakan bantuan ChatGPT.

Kemajuan AI telah menyebabkan kekhawatiran khalayak umum, AI generatif dapat memungkinkan pelaku kejahatan untuk memproduksi informasi yang salah, termasuk konten yang ditargetkan secara mikro untuk menarik demografi tertentu dan bahkan individu dalam skala besar. Berkembangnya platform media sosial memungkinkan dengan mudah menyebarkan informasi salah ke konstituen tertentu.

Salah satu kekhawatiran itu, adalah bahwa AI generatif telah meningkatkan deepfake, video realistis, namun palsu yang dibuat dengan algoritma AI berdasarkan rekaman online dalam jumlah besar, lalu muncul di media sosial, mengaburkan fakta dan fiksi dalam politik.

Beberapa waktu lalu muncul video yang menggambar Joko Widodo (Jokowi) yang menyanyikan sebuah lagu pop, dan dalam waktu singkat video itu menyebar ke seluruh platform media sosial, seperti X dan tiktok, Ada pula video Prabowo Subianto fasih berbahasa Arab yang hanya dalam waktu kurang lebih tiga hari sudah ditonton lebih dari 1,7 juta di Tiktok.

Meski konten itu sudah dibantah dan terbukti palsu, namun sebagian khalayak masyarakat Indonesia masih mempercayai itu asli. Pengubahan data dengan menggunakan AI dapat dimanfaatkan untuk menciptakan atau menyebarkan berita palsu dan menyesatkan sehingga membuat masyarakat bingung.

Dalam perjalanannya pemilu sangat rentan terhadap disinformasi yang diproduksi oleh orang yang tak bertanggung jawab. Munculnya AI di ruang demokrasi terbukti mempermudah lahirnya konten-konten provokatif dan fitnah. Karena kecerdasan buatan sangat efektif untuk menghasilkan konten yang memiliki kemiripan dengan aslinya. Gambar, audio, dan video yang dipalsukan dapat memicu peningkatan skandal palsu atau gangguan buatan, membelokkan percakapan asli dalam bentuk imitatif.

Dengan menggunakan AI, para pelaku fitnah dapat dengan mudahnya menggunakan foto, model bahasa untuk menciptakan ilusi politik atau kesan palsu tentang kepercayaan yang meluas terhadap narasi pemilu yang tidak jujur. Tentu penggunaan AI oleh orang yang tak bertanggung jawab dapat mengancam keberlangsungan demokrasi.

Dikutip dari The Straits Times, ledakan AI generatif, yang dapat membuat teks, foto, dan video sebagai respons terhadap permintaan terbuka, dalam beberapa bulan terakhir telah memicu kegembiraan mengenai potensinya serta kekhawatiran bahwa AI dapat membuat beberapa pekerjaan menjadi ketinggalan zaman, mengacaukan pemilu, dan bahkan mungkin mengalahkan manusia.

Dengan dibatasinya penggunaan AI dalam panggung demokrasi oleh Mahkamah Konstitusi (MK) merupakan langkah yang tepat dan benar, tertuang dalam putusan Nomor 166/PUU-XXI/2023, MK menilai rekayasa atau manipulasi berlebihan sepanjang berkaitan dengan foto/gambar peserta pemilu yang dipoles dan dimanipulasi secara berlebihan dengan bantuan teknologi AI menimbulkan ketidakpastian hukum dan tidak sejalan dengan asas pemilu bebas, jujur, dan adil.

Informasi yang tidak benar dapat merusak loyalitas pemilih terhadap kandidat. Selain itu, hal demikian dapat merusak kemampuan pemilih untuk mengambil keputusan secara berkualitas sehingga berdampak pada kerugian bagi pemilih secara individual dan merusak kualitas demokrasi.

Menurut Mahkamah norma Pasal 1 angka 35 UU Pemilu sepanjang frasa “citra diri” yang berkaitan dengan foto/gambar peserta pemilu harus dilakukan pemaknaan bersyarat dengan mewajibkan peserta pemilu untuk menampilkan foto/gambar tentang dirinya yang original dan terbaru serta tanpa direkayasa/dimanipulasi secara berlebihan dengan bantuan teknologi kecerdasan artifisial.

Berdasarkan pertimbangan hukum tersebut, MK menilai berkenaan dengan frasa ‘citra diri’ dalam norma Pasal 1 angka 35 UU pemilu bertentangan dengan UUD NKRI Tahun 1945 adalah beralasan menurut hukum. MK berpandangan sebagai warga negara yang mempunyai hak untuk memilih dalam pemilu harus dijamin hak dasarnya untuk memperoleh informasi yang benar, baik dalam pemilu presiden, legislatif, dan kepala daerah sebagaimana dijamin Pasa 28F UUD NKRI 1945.

AI dan “Citra Diri” Palsu

Fenomena pemilu 2024 kemarin sudah mengalami pergeseran dibandingkan pemilu 2019. Di pemilu 2019 lalu dikenal dengan era “media sosial (medsos)”, sedangkan pada pemilu 2024 kemarin memasuki era “Artificial Intelligence (AI)” tentu dalam perkembangan ini menciptakan peluang besar sekaligus tantangan serius dalam ruang demokrasi.

Pemanfaatan AI telah memberikan warna baru terhadap alam demokrasi Indonesia, hadirnya AI menjadi pembeda dari pemilu-pemilu sebelumnya. AI menjadi bukti kreativitas para politisi di panggung demokrasi dalam memoles dan membuat citra dirinya semenarik mungkin di ruang publik.

Para politisi dapat membuat dan memilih bagaimana mereka ingin dipandang atau dipersepsikan. Dengan bantuan AI mereka membentuk karakter seperti apa yang publik senangi atau inginkan. Misalnya, membentuk karakter lucu, rendah hati, religius, merakyat, menggemaskan dan lainnya sebagainya.

Karena itu aktor politik membuat kampanye se-kreatif dan se-efektif mungkin. Melalui konten yang menarik, informatif, serta persuasive, dapat menjadi daya terik tersendiri bagi masyarakat khususnya bagi generasi muda yang memiliki karakteristik digital dan punya preferensi yang berbeda dari generasi sebelumnya.

Data survei yang dilakukan oleh Google Indonesia menunjukkan, 43% pengguna AI di Indonesia adalah generasi muda (Gen Z). Country Head of Android of Google Indonesia, Denny Galant memaparkan bahwa mereka adalah kelompok yang paling adaptif dan responsif terhadap teknologi AI.

Hadirnya AI dalam panggung politik Indonesia memudahkan para aktor politik untuk membentuk citra atau “memanipulasi” rakyat sesuai dengan market politik. Bahkan hingga bermunculan penyedia jasa konsultasi politik melalui platform media sosial, seperti Pemilu.ai dan juga GenAI.

Platform ini untuk memetakan aspirasi masyarakat berdasarkan demografi dan geografisnya. Kemudian para politisi kemudian membanjiri media sosial dengan konten-konten yang diinginkan. Euforia pemanfaatan AI adalah bentuk konsekuensi logis dari kemajuan teknologi digital dan ini menjadi penanda baru ruang demokrasi yang lebih terbuka.

Butuh Regulasi Baru

Pengamat politik sekaligus Wakil Rektor Tiga Universitas Trunojoyo Madura (UTM), Surokim Abdussalam, mengatakan perkembangan AI perlu disambut sekaligus disikapi secara bijaksana agar lebih banyak memberi manfaat dari pada ekses negatif, khususnya dalam berdemokrasi dan kehidupan sehari-hari.

Penggunaan kecerdasan buatan dalam konteks politik dan demokrasi membawa perubahan yang signifikan. Digunakan untuk sarana sosialisasi dan kampanye yang efektif serta menarik untuk mendapatkan elektoral serta untuk meningkatkan partisipasi publik. Hal ini tentu membawa dampak positif dalam proses demokrasi.

Agar bisa lebih memberikan banyak manfaat dalam membangun demokrasi. Seyogyanya pemerintah dan negara menanggulangi risiko-risiko yang mungkin hadir dari AI dengan membuat aturan baru yang komprehensif, karena bagaimanapun kehadiran Artificial Intelligence (AI) harus menjadi kekuatan membangun demokrasi, bukan sebaliknya.

Meskipun sebelumnya sudah ada surat edaran dari Kementerian Komunikasi dan Informatika pada Desember 2023. Surat Edaran Nomor 9 Tahun 2023 tentang Etika kecerdasan buatan, yang memuat sembilan prinsip pedoman etik, di antaranya; inklusivitas, kemanusiaan, keselamatan, aksesibilitas, transparansi, kredibilitas, akuntabilitas, privasi data, pembangunan lingkungan dan berkelanjutan, serta kekayaan intelektual.

Kendati demikian, tidak ada satu pun tantangan yang dapat diselesaikan dengan pedoman etika itu. Karena penerapannya hanya didasarkan pada prinsip partisipasi sukarela, tidak wajib bagi kreator kecerdasan buatan. Dalam surat edaran itu masih “samar dan abu-abu” tidak ada garis tegas yang menyebutkan mana yang boleh dan mana yang tidak boleh.

Berkaca dari Eropa, undang-undangnya menyatakan dengan tegas dan spesifik pengunaan AI mana yang boleh dan mana yang tidak boleh. Undang-undang AI di Eropa dibuat untuk melindungi demokrasi, aturan hukum dan hak fundamental seperti kebebasan berpendapat, dan di saat yang sama juga mendorong adanya investasi dan inovasi. Bahkan mungkin dengan adanya undang-undang ini akan berdampak secara global.

Pasca putusan MK yang membatasi kampanye menggunakan AI harus segera ditindak lanjuti oleh pemerintah dengan membuat regulasi dalam bentuk undang-undang, yang menata teknologi dan cara menurunkan risiko AI terhadap pemilu, demokrasi, hak asasi manusia, dan supremasi hukum. Undang-undang yang sesuai dengan karakter dan dan jati diri bangsa Indonesia.

Hal ini untuk melindungi kita semua dari penggunaan yang tidak etis dan berbahaya dari AI dalam berbagai hal khususnya politik dan demokrasi. Kehadiran AI dalam demokrasi harus menjadi peluang, bukan ancaman bagi Indonesia. Karena itu pemerintah harus memastikan bahwa teknologi ini dapat digunakan dengan tepat dan benar untuk kebaikan bersama, menciptakan ruang demokrasi yang lebih baik dan harmonis bukan keretakan di tengah masyarakat