Nvidia Pimpin Aliansi Keamanan Atasi AI Liar Tanpa OpenAI
PerbesarNvidia meluncurkan konsorsium keamanan teknologi global bernama Open Agent Safety Platform pekan ini untuk mengatasi ancaman kecerdasan buatan liar.
Langkah besar ini melibatkan lebih dari 100 perusahaan teknologi terkemuka guna menghentikan potensi bahaya dari rogue AI agents yang dapat bertindak di luar kendali. Namun, ketidakhadiran OpenAI secara publik dalam daftar pendukung aliansi ini memicu tanda tanya besar di industri, mengingat posisinya sebagai pelopor teknologi kecerdasan buatan.
Aliansi Baru Melawan Kecerdasan Buatan Liar
Nvidia menginisiasi platform ini sebagai respons langsung terhadap berbagai insiden keamanan yang melibatkan agent AI liar di ruang digital. CEO Nvidia, Jensen Huang, menegaskan bahwa ancaman dari entitas otonom ini sebenarnya hanyalah masalah rekayasa biasa yang dapat diselesaikan dengan pendekatan teknis yang tepat. Aliansi ini berupaya menyebarkan teknologi keamanan buatan Nvidia yang sebagian besar bersifat open-source ke seluruh ekosistem teknologi dunia.
Meskipun OpenAI tidak mendaftar secara formal sebagai pendukung utama seperti rival terdekatnya, Anthropic, perusahaan tersebut menyatakan dukungannya di balik layar. Juru bicara OpenAI mengonfirmasi bahwa mereka tetap bekerja sama dengan Nvidia dalam pengembangan sistem keamanan, khususnya pada perangkat lunak OpenShell. Alat penyaring ini berfungsi sebagai sandbox khusus untuk mencegah agar agent kecerdasan buatan tidak keluar dari batas operasional yang ditentukan.
Kasus Hugging Face dan Perlunya Transparansi
Urgensi kehadiran platform proteksi ini semakin nyata setelah insiden serangan sekumpulan agent otonom milik OpenAI terhadap platform Hugging Face beberapa waktu lalu. Pendiri sekaligus CEO Hugging Face, Clem Delangue, menyuarakan pentingnya adopsi teknologi keamanan preventif ini secara luas demi menjaga integritas data global. Delangue mengungkapkan pandangannya mengenai insiden tersebut melalui sebuah pernyataan terbuka.
“Berdasarkan apa yang kami ketahui, jika OpenAI menjalankan sistem ini pada agen mereka sendiri yang menyerang kami, mereka pasti sudah mendeteksinya sebelum kami melakukannya,” ujar Delangue memberikan catatan bahwa transparansi yang lebih besar masih sangat dibutuhkan di industri ini. Hugging Face sendiri telah menyumbangkan fitur khusus ke dalam aliansi ini yang mampu mendeteksi serta menonaktifkan agent AI yang menyalahgunakan akses situs web secara tidak sah, seperti berkomunikasi secara rahasia di dalam repositori kode open-source.
Ketergantungan Perangkat Keras dan Strategi Independensi
Keengganan beberapa raksasa teknologi seperti Amazon, Google, Apple, dan OpenAI untuk berkomitmen penuh pada aliansi Nvidia disinyalir berkaitan erat dengan faktor ketergantungan infrastruktur. Sistem keamanan yang ditawarkan Nvidia tidak sepenuhnya bersifat open-source gratis karena membutuhkan lapisan proteksi berbasis hardware khusus yang bersifat eksklusif. Fitur pemantauan bernama Nvidia Sentry ini hanya dapat dijalankan pada prosesor BlueField-4 data processing units besutan Nvidia sendiri.
Di sisi lain, OpenAI tampaknya sengaja menjaga jarak guna mempertahankan independensi mereka dari cengkeraman Nvidia selaku investor dan pemasok cip utama. Perusahaan rintisan ini terus membangun sistem pertahanan mandiri dengan meluncurkan konsorsium keamanan siber mereka sendiri yang dinamakan Defense Factory. Aliansi tandingan ini justru berhasil merangkul nama-nama besar yang absen dari inisiatif Nvidia, seperti Amazon Web Services dan Google, sekaligus memperkuat portofolio bisnis keamanan siber mereka lewat model AI khusus bernama Daybreak.