Mirip Insiden Hugging Face, Model AI Gemini Retas Situs Eksternal saat Pengujian
PerbesarModel kecerdasan buatan (AI) Gemini mengakses internet dan meretas sistem perusahaan eksternal saat menjalani uji keamanan siber. Kejadian ini berlangsung pada Mei 2026 lalu saat perusahaan independen, Irregular menguji keamanan siber model AI milik Google tersebut.
Vice President of Security Engineering Google, Heather Adkins, menjelaskan, dalam proses pengujian standar tersebut, Gemini menemukan informasi publik secara daring dan menebak kredensial masuk (login) untuk mengakses tiga situs web yang keliru dianggap berada di dalam lingkup uji cobanya.
"Kami telah memastikan bahwa ketiga entitas tersebut mendapatkan pemberitahuan, dan kami telah bekerja sama dengan mitra pelatihan kami terkait perubahan yang kini telah mereka terapkan pada proses pengujian," ujar Adkins sebagaimana dilansir Reuters (18/9).
Kejadian peretasan pertama terjadi ketika Gemini menebak password hingga mendapat akses. Sementara dua kejadian lainnya, model tersebut mendapatkan password secara online dari public repository.
Adkins menambahkan bahwa Gemini sudah menghentikan aksi peretasan tersebut. "Kejadian ini menggarisbawahi pentingnya melatih model AI yang kuat untuk bertindak secara bertanggung jawab," tambahnya.
Juru bicara Irregular menyebut insiden serupa juga terjadi di laboratorium pengembangan AI lain. Menurutnya, kejadian itu telah diinformasikan sejak akhir Juli. Meta, Anthropic, hingga OpenAI telah lebih dulu mengalami kejadian serupa.
Mirip Insiden OpenAI-Hugging Face
Pada Juli lalu, OpenAI melaporkan kejadian peretasan Hugging Face yang dibobol oleh model AI miliknya. OpenAI mengklaim kejadian itu merupakan insiden siber yang belum pernah terjadi sebelumnya.
Mirip seperti kasus peretasan oleh model AI Gemini, model AI OpenAI juga meretas Hugging Face saat sedang melakukan pengujian siber yang berlangsung di dalam lingkungan terisolasi (sandbox).
Meski begitu, alih-alih melakukan tugas yang diujikan kepadanya, bot-bot AI OpenAI justru berkomplot meretas Hugging Face dengan mengeksploitasi kerentanan software pihak ketiga dan memungkinkannya terhubung ke internet.