Model AI Open Weight Kian Canggih Namun Minim Proteksi Keamanan

Laporan terbaru dari lembaga nirlaba SaferAI mengungkapkan bahwa model kecerdasan buatan (artificial intelligence/AI) bersistem open-weight asal China, GLM-5.2, kini hampir menyamai kemampuan model komersial terkemuka seperti GPT-5.5 milik OpenAI dan Claude Opus 4.7 milik Anthropic dalam uji coba siber dan biologi. Kendati demikian, laporan yang dirilis pada Agustus 2026 ini menyoroti kesenjangan keamanan yang mengkhawatirkan, di mana model terbuka tersebut meloloskan seluruh instruksi berbahaya tanpa adanya penolakan sistem.

Kegagalan Sistem Proteksi GLM-5.2 dalam Simulasi Siber

Dalam evaluasi yang dilakukan melalui antarmuka pemrograman aplikasi (API) publik milik Z.ai, model GLM-5.2 tidak menolak satu pun tugas siber ofensif maupun manipulasi biologi yang diujikan. Kondisi ini berbanding terbalik dengan Claude Opus 4.7 yang secara konsisten menolak instruksi berbahaya tersebut, hingga tim penguji dari SaferAI tidak dapat menyelesaikan simulasi di platform siber mereka.

Keberhasilan model open-weight mendekati kemampuan model tercanggih memicu perdebatan mengenai pengelolaan risiko pascarilis. Direktur Eksekutif SaferAI, Henry Papadatos, menyatakan, “Batasan kemampuan bukanlah batasan risiko, sehingga kita juga harus memperhitungkan sejauh mana langkah mitigasi yang ada untuk menilai risiko secara tepat.”

Tantangan Filtrasi Data dan Keterbatasan Kendali Pengembang

Kelemahan mendasar dari model open-weight adalah ketidakmampuan pengembang untuk memaksakan protokol keamanan setelah bobot model diunduh oleh pengguna ke perangkat keras mandiri. Pengguna dapat dengan mudah memodifikasi, melatih ulang, atau menghapus pembatas keamanan yang telah dipasang sebelumnya oleh perusahaan pembuatnya seperti Z.ai.

Meskipun teknik penyaringan data pra-pelatihan (pre-training data filtering) dapat membantu menyaring informasi biologi yang berbahaya, metode ini sulit diterapkan pada sektor keamanan siber. Pasalnya, sangat sulit melatih model AI agar mahir menulis kode pemrograman tanpa secara tidak sengaja membekalinya dengan kemampuan meretas.