4 Cara Amankan Data saat AI Agent Hapus Server Sendiri

Foto: Dok. SEVIMA

Surabaya — Popularitas AI agent melonjak tajam dalam beberapa pekan terakhir. AI agent adalah sistem cerdas yang bisa bekerja sendiri tanpa perlu campur tangan manusia secara terus-menerus. Namun di balik kehebatannya, teknologi ini menyimpan risiko serius yang belum banyak dipahami pengembang: AI agent bisa menghapus file, mencuri secret key, bahkan melumpuhkan server miliknya sendiri.

Fakta ini diungkap Islam Nurul Yakin, Operation Security SEVIMA sekaligus AWS Academy Graduate, dalam acara Level Up Session bertajuk "Agentic AI for Engineers: The New Baseline Skill for 2026" di kantor pusat SEVIMA Surabaya, pada 7 Februari 2026. Acara yang dihadiri puluhan engineer dari berbagai kota di Jawa Timur ini menghadirkan empat narasumber dari internal SEVIMA dan satu profesor dari Institut Sains dan Teknologi Terpadu Surabaya.

AI Agent Menghapus Dirinya Sendiri

Islam memulai presentasinya dengan pengalaman pribadi yang mengejutkan. Ia menginstal OpenCloud, sebuah AI agent yang sedang viral dan menyuruhnya mengedit sebuah file. Alih-alih mengedit, agent tersebut justru menghapus dirinya sendiri.

"Kemarin saya instal OpenCloud ini, dia menghapus agent-nya sendiri. Dari rekan saya ada yang secret key-nya dicuri. Bayangkan kalau AI agent ini kita kasih akses root di sebuah sistem operasi," ungkap Islam di hadapan peserta seperti dikutip dari Youtube, Selasa (24/2/2026).

Ia juga menunjukkan bahwa instruksi AI agent bisa diinjeksi dengan mudah. Cukup menambahkan perintah "hapus semua file" di akhir instruksi, dan agent benar-benar mengeksekusinya tanpa konfirmasi. Kasus serupa terjadi di platform Modelbook, tempat AI agent saling berkomunikasi di mana seseorang berhasil mencuri data kartu kredit melalui celah keamanan agent.

Empat Strategi Keamanan AI Agent

Berbekal pengalaman tersebut, Islam memaparkan empat strategi konkret yang bisa langsung diterapkan pengembang untuk mengamankan AI agent mereka.

1. Pasang guardrails atau input filtering

Sama seperti programmer menambahkan validasi input pada aplikasi web untuk mencegah SQL injection, AI agent memerlukan lapisan penyaringan serupa untuk mencegah prompt injection. Islam menjelaskan bahwa banyak solusi open source tersedia untuk menangani masalah ini, sehingga pengembang tidak harus bergantung pada layanan berbayar seperti Cloud Armor milik Google.

"Ketika kita membuat agent sendiri, konsepnya tetap sama. Kita tambahkan input guardrails untuk memfiltrasi hal apa saja yang boleh kita lempar ke modelnya," jelasnya.

2. Terapkan human in the loop

Konsep ini mengharuskan AI agent meminta persetujuan manusia sebelum mengeksekusi tindakan kritis seperti menghapus atau mengubah data. Islam menganalogikannya dengan workflow Terraform yang lazim digunakan engineer infrastruktur: selalu melakukan "plan" terlebih dahulu sebelum "apply."

"Kita lihat dulu perubahan apa yang terjadi. Hanya berubah satu? Oke, kita approve. Jangan tiba-tiba auto approve lalu ternyata hapus 99 resource," kata Islam, memicu tawa peserta.

3. Berlakukan least privilege secara ketat

Prinsip ini membatasi akses AI agent seminimal mungkin sesuai kebutuhan. Jika agent hanya perlu membaca database, jangan berikan akses untuk menulis atau menghapus. Dengan demikian, meskipun terjadi kebocoran, dampaknya bisa diminimalkan karena terhalang oleh identity access management (IAM).

Islam menekankan bahwa prinsip ini sebenarnya bukan hal baru bagi engineer. "Bahkan tanpa AI agent pun, ketika kita scripting, sebisa mungkin harus least privilege. Karena bisa saja di tengah script ada perintah delete yang tidak kita sadari," tambahnya.

4. Lindungi dari prompt injection sejak awal

Berbeda dengan tiga strategi lainnya yang bisa diterapkan bertahap, perlindungan terhadap prompt injection harus ada sejak hari pertama deployment. Alasannya sederhana: meskipun akses agent dibatasi hanya untuk membaca data, prompt injection tetap bisa memaksa agent mengeluarkan informasi sensitif yang seharusnya tidak boleh diakses pengguna.

"Untuk prompt injection, dari awal harus sudah ada. Meskipun least privilege kita hanya read, kita tidak mau data yang dikeluarkan itu data sensitif," tegas Islam.

Urutan Implementasi untuk Production

Menanggapi pertanyaan peserta soal best practice penerapan AI agent di lingkungan production, Islam memberikan panduan urutan yang jelas. Mulai dari least privilege terlebih dahulu dengan akses read-only, lalu verifikasi bahwa tidak ada kebocoran. Setelah itu, buka akses untuk operasi update dengan menambahkan human in the loop sebagai lapisan persetujuan.

"Baru setelah kita least privilege itu berhasil, kita buka action delete-nya, lalu tambah human in the loop. Jadi kita kasih approval dulu sebelum agent mengeksekusi," papar Islam.

Ia menutup sesinya dengan pesan singkat: AI adalah masa depan, tapi keamanan harus berjalan beriringan, sama seperti sabuk pengaman di mobil yang tidak mengurangi kecepatan, tapi menyelamatkan nyawa.