Hambatan AI Guardrails dalam Penelitian Keamanan Siber Defensif dan Ofensif

Implementasi mekanisme keamanan atau guardrails pada model kecerdasan buatan (AI) kini menjadi pedang bermata dua bagi praktisi keamanan siber. Meskipun dirancang untuk mencegah penyalahgunaan oleh peretas jahat, batasan teknis ini justru mulai menghambat alur kerja peneliti keamanan yang berusaha mengidentifikasi kerentanan sistem sebelum dieksploitasi oleh pihak yang tidak bertanggung jawab.

Perdebatan Mengenai Batasan Akses Model AI

Perusahaan besar seperti Anthropic dan OpenAI telah menerapkan sistem verifikasi ketat untuk membatasi akses pada model AI canggih mereka guna menghindari ancaman siber. Namun, kebijakan ini memicu kritik tajam karena dianggap bersifat arbitrer dalam menentukan aspek mana dari keamanan siber yang dianggap aman dan mana yang berbahaya.

Peneliti keamanan ternama, Mark Dowd, menyatakan bahwa “tidaklah nyaman bagi saya jika perusahaan-perusahaan besar ini membuat keputusan sewenang-wenang tentang apa yang aman dalam keamanan dan apa yang tidak.” Ketidaksepahaman ini diperparah dengan kebijakan kontrol ekspor pemerintah Amerika Serikat yang sempat membatasi model AI tertentu karena kekhawatiran mengenai kemampuan mereka dalam memfasilitasi serangan siber.

Dilema antara Alat Pertahanan dan Senjata Digital

Chris Anley, ilmuwan utama di NCC Group, menjelaskan bahwa kemampuan AI untuk mengeksploitasi kerentanan adalah bagian integral dari proses validasi keamanan. Tanpa kemampuan tersebut, sulit bagi para praktisi untuk memastikan apakah sebuah celah keamanan bersifat kritis dan perlu segera diperbaiki.

Menurut Anley, “ini adalah bagian di mana seluruh aspek ofensif versus defensif dan guardrails saling berbenturan, karena instruksi untuk memperbaiki kode adalah mekanisme penting bagi pertahanan, sekaligus peta jalan untuk menemukan kerentanan kritis dalam basis kode.” Ia mengibaratkan teknologi AI seperti palu yang tidak bisa dipisahkan antara fungsi konstruktif untuk membangun rumah dengan potensi destruktifnya sebagai senjata.

Strategi Alternatif Para Peneliti

Menghadapi hambatan dari model berbasis cloud yang memiliki guardrails ketat, banyak peneliti beralih ke model AI sumber terbuka (open-source) yang dioperasikan secara lokal. Pendekatan ini memungkinkan peneliti untuk melakukan analisis mendalam tanpa risiko kebocoran data sensitif ke server penyedia model.

1. Penggunaan model lokal untuk rekayasa balik (reverse engineering) guna menjaga kerahasiaan data kerentanan.
2. Pemanfaatan AI untuk mempercepat pemahaman basis kode yang kompleks tanpa harus memicu peringatan otomatis dari guardrails.
3. Penghindaran model berbasis cloud saat melakukan pengujian eksploitasi untuk mencegah penyerapan data oleh sistem pelatihan AI pusat.