AI Adalah "Nuklir" Digital yang Perlu Diregulasi

Ilustrasi Artificial Intelligence (AI). Foto: AMRULQAYS via Pixabay

Ketika umat manusia berhasil memisahkan inti atom dalam proses yang disebut fisi nuklir, kita dihadapkan akan sebuah inovasi teknologi yang dapat mengubah peradaban manusia secara drastis. Di satu sisi, kita dapat menggunakan proses fisi nuklir untuk menghasilkan energi listrik. Namun di sisi lain, proses yang sama juga dapat dimanfaatkan untuk membuat senjata pemusnah massal. Hal yang sama dapat dikatakan untuk teknologi Artificial Intelligence (AI).

Baik teknologi nuklir maupun AI, sama-sama memiliki daya untuk membantu kehidupan manusia sekaligus mengancamnya. Ketika dunia digemparkan oleh kemunculan AI chatbot ChatGPT pada November 2022 silam, berbagai lapisan masyarakat mulai dari pelajar, pekerja, pengusaha, praktisi, hingga pemangku kebijakan saling berlomba untuk mengadopsi serta mengembangkan teknologi AI demi menghindari rasa ketertinggalan.

Namun dalam beberapa bulan terakhir ini, terdapat berbagai kasus ketika teknologi yang seharusnya membantu manusia justru bertindak di luar kehendak kita dan risiko keamanan yang ditimbulkannya bukanlah sesuatu yang dianggap sepele, karena ini menyangkut fondasi dasar kehidupan manusia di era digital.

Large Language Model AI vs. AI agent

Sebelum membahas lebih lanjut, ada baiknya kita membedakan kedua terminologi tersebut karena kita sering kali mencampuradukkan kedua istilah ini tanpa mengetahui maknanya.

Pada saat kita menggunakan AI chatbot seperti ChatGPT, Claude, Gemini, dan lain-lain, kita sebetulnya sedang menggunakan AI berbasis Large Language Model (LLM). Sederhananya, LLM merupakan model AI yang menggunakan data teks dalam kuantitas besar untuk memprediksi pola kalimat sehingga menciptakan teks baru yang koheren. Karena dilatih menggunakan data yang sangat banyak, model AI ini bisa melakukan berbagai tugas serta menghasilkan teks dengan bahasa layaknya manusia.

Sedangkan, AI agent merupakan bentuk tingkat lanjut dari AI LLM yang dapat melakukan tugas yang diberikan tanpa diawasi oleh pengguna. Misalnya, memantau transaksi keuangan yang mencurigakan secara real-time ataupun menyortir email yang masuk setiap harinya. Selain itu, AI agent dapat beradaptasi dengan cepat untuk merespons tantangan dan keterbatasan yang muncul dalam mengerjakan tugasnya.

Namun, apa yang terjadi jika sebuah teknologi secerdas AI agent bertindak di luar instruksi dan batas yang diberikan?

Ketika AI Melangkahi Manusia

Pada Juli 2026, sejumlah AI agent milik OpenAI yang sedang diuji kemampuan keamanan sibernya di lingkungan terisolasi (sandbox) berhasil keluar dari batasan yang dipasang untuk mereka. Mereka memanfaatkan kerentanan yang belum pernah diketahui sebelumnya untuk mengakses internet, menemukan kredensial Hugging Face yang bocor di ruang publik, dan menggunakannya untuk membobol sebagian infrastruktur Hugging Face. Aksi tersebut dilakukan bukan karena niat jahat, melainkan karena AI agent tersebut terlalu gigih dalam mengerjakan tugas yang sebetulnya mustahil untuk diselesaikan, sehingga mereka mencari jalan pintas dengan mencuri informasi dari luar sistem. OpenAI kemudian menghentikan seluruh pengujian, mematikan seluruh AI agent yang terlibat, dan menghubungi pihak-pihak yang terdampak. OpenAI juga memperingatkan bahwa kemampuan serupa kelak bisa dimiliki peretas manusia, sehingga dunia keamanan siber perlu bersiap menghadapi serangan otonom oleh kelompok AI agent.

Beberapa hari setelah OpenAI mengungkapkan insiden peretasan Hugging Face kepada publik, rivalnya, Anthropic, mengalami hal serupa ketika AI agent mereka berhasil meretas tiga sistem organisasi internal Anthropic secara mandiri, sesuatu yang berada di luar instruksi yang diberikan.

Dan di bulan September kemarin, sebuah AI agent dari OpenAI meretas database sistem kesehatan nasional Australia, menjadikannya kasus pertama ketika AI berhasil meretas jaringan milik pemerintah. Perdana Menteri Australia mengatakan bahwa negaranya sama sekali tidak siap untuk menghadapi serangan siber yang dilakukan oleh AI.

Apa Artinya Bagi Kita?

Sebetulnya masih ada banyak kasus serupa ketika AI bertindak di luar instruksi yang diberikan oleh pengguna. Meskipun begitu, dari ketiga kasus tersebut kita bisa melihat bahwa AI kini memiliki kemampuan teknis yang cukup untuk melakukan serangan siber secara mandiri.

Di tengah era informasi dan perkembangan AI yang berjalan dengan sangat cepat, kita semakin menempatkan infrastruktur dunia digital di posisi yang rentan. Selama perkembangan AI tidak dikendalikan dengan tepat, maka bukan tidak mungkin fondasi kehidupan modern kita diserang oleh AI yang bertindak di luar batas. Kita sedang membicarakan sistem finansial global yang mengalirkan uang senilai triliunan dolar AS setiap harinya, berbagai platform media sosial yang berperan sebagai wadah untuk bertukar informasi, jutaan gigabyte data pribadi yang tersimpan di server penyimpanan, hingga informasi sensitif menyangkut keamanan dan pertahanan negara.

Hal ini diperparah mengingat teknologi AI agent saat ini belum memiliki penilaian moral yang komprehensif, sehingga dia tidak memiliki masalah dalam membobol infrastruktur digital dan menimbulkan kerusakan, selama instruksi yang diberikan terpenuhi.

Lantas, Apa yang Sudah Dilakukan oleh Dunia dan Pemerintah Kita Terkait Hal Ini?

Sejauh ini, regulasi yang mengatur perkembangan AI di tingkat global masih terfragmentasi dan belum menghasilkan kesepakatan global yang mengikat dan berlaku universal. Sebagai contoh, pada 26 Agustus 2025, Majelis Umum PBB mengadopsi resolusi A/RES/79/325 yang membentuk Panel Ilmiah Internasional Independen tentang AI dan Dialog Global tentang Tata Kelola AI. Panel tersebut beranggotakan 40 pakar independen untuk menilai ancaman dari perkembangan AI, sedangkan Dialog Global berfungsi sebagai forum diskusi yang melibatkan seluruh negara anggota PBB. Sayangnya, keputusan yang keluar dari panel ilmiah dan dialog global bersifat tidak mengikat secara hukum, sehingga tidak menghasilkan dorongan bagi negara-negara untuk mengikuti keputusan yang diberikan.

Berbeda dengan PBB, Uni Eropa dapat dikatakan sebagai pelopor dalam meregulasi teknologi AI secara komprehensif di kancah internasional. Pada Maret 2024, Uni Eropa menyetujui EU AI Act yang mengklasifikasikan AI ke dalam beberapa tingkatan risiko, tergantung pengaplikasiannya. Misalnya, model AI yang digunakan untuk layanan perbankan atau infrastruktur kritis wajib memenuhi persyaratan ketat seperti manajemen risiko, dokumentasi, dan pengawasan manusia. Selain itu, peraturan tersebut memberikan sanksi berat bagi pengembang yang tidak memenuhi standar keamanan AI. Dan hasilnya, perusahaan-perusahaan AI dari luar Uni Eropa harus tunduk pada aturan Uni Eropa apabila mereka ingin menjual produk AI mereka di sana. Kemudian di tahun yang sama, Uni Eropa juga mengesahkan Konvensi Kerangka Dewan Eropa tentang AI (CETS 225). Konvensi ini mewajibkan seluruh siklus hidup sistem AI untuk menghormati HAM, demokrasi, dan supremasi hukum.

Di tingkat nasional, saat ini pemerintah Indonesia sedang merumuskan kebijakan umum tentang pengadopsian AI di Indonesia melalui Peraturan Presiden tentang Peta Jalan AI dan Etika AI sebagai langkah awal dalam mengatur perkembangan AI, serta menghubungkannya dengan regulasi lain seperti UU Perlindungan Data Pribadi dan RUU Keamanan dan Ketahanan Siber. Meskipun demikian, perhatian pemerintah saat ini nampaknya lebih tertuju pada ancaman seperti penipuan berbasis deepfake. Meskipun deepfake adalah ancaman bagi demokrasi, tetap saja bahaya serangan siber dari AI yang tidak dikendalikan merupakan ancaman serius bagi keamanan negara yang tidak dapat dihiraukan.

Penutup

Teknologi pada dasarnya merupakan sarana untuk membantu manusia dalam memenuhi kebutuhannya. Namun demikian, tampaknya kita masih kalah cepat dalam "menjinakkan" teknologi secanggih AI ini.

Kita dapat belajar bagaimana kita menangani teknologi nuklir demi manfaat bersama sekaligus menghindari manusia dari jurang kehancuran massal. Sebagai contoh, untuk dapat menghasilkan listrik dari PLTN, dibutuhkan serangkaian aturan teknis yang sangat ketat untuk meminimalkan risiko bencana nuklir seperti yang terjadi di Chernobyl dan Fukushima. Kemudian, negara-negara juga menyadari bahaya nyata dari senjata nuklir terhadap umat manusia, sehingga mereka merumuskan perjanjian nonproliferasi senjata nuklir untuk menghentikan penyebaran sekaligus penggunaan senjata nuklir di seluruh dunia.

Para pemangku kebijakan, dari tingkat nasional hingga internasional, seharusnya menjadikan rentetan serangan siber yang dilakukan oleh agen AI sebagai tembakan peringatan bahwa kita tidak boleh kehilangan kendali atas AI. Urgensi ini menjadi semakin terlihat mengingat AI baru diperkenalkan secara masif dalam beberapa tahun terakhir dan kita belum sepenuhnya memahami kemampuan sebenarnya dari teknologi ini. Jangan sampai kita baru bertindak ketika kita sudah diserang, sebab kita sudah terlambat. Jika kita bisa mengendalikan nuklir, maka seharusnya kita bisa mengendalikan AI demi kemajuan bersama.