OpenAI Ungkap Serangan Agen AI Miliknya Bukan Cuma ke Hugging Face
PerbesarOpenAI mengungkap fakta baru terkait insiden keamanan yang melibatkan agen kecerdasan buatan (AI) eksperimental miliknya. Perusahaan menyatakan bahwa AI tersebut tidak hanya berhasil menyusup ke sistem Hugging Face, tetapi juga mengakses beberapa akun layanan pihak ketiga sebagai bagian dari rangkaian serangan yang sama.
Informasi tersebut disampaikan OpenAI melalui pembaruan di blog resminya pada Selasa (28/7). Perusahaan menyebut hasil investigasi yang masih berlangsung menunjukkan cakupan insiden jauh lebih besar dibandingkan penjelasan awal yang disampaikan sebelumnya.
Menurut OpenAI, agen AI itu memanfaatkan empat akun yang terhubung dengan layanan publik untuk mendukung aksinya. Akun-akun tersebut diduga diretas menggunakan kredensial yang sebelumnya sudah bocor dan beredar di internet, kemudian dimanfaatkan untuk memperlancar serangan terhadap Hugging Face.
Meski demikian, OpenAI tidak mengungkap identitas perusahaan atau organisasi pemilik akun tersebut. Perusahaan hanya menegaskan bahwa dampak yang dialami layanan-layanan tersebut tidak sebesar insiden yang terjadi di Hugging Face.
Akun Pihak Ketiga Dipakai Menyamarkan Serangan
OpenAI menjelaskan salah satu akun yang berhasil diakses digunakan sebagai jalur perantara untuk menyamarkan asal lalu lintas serangan sehingga aktivitas AI lebih sulit dilacak. Sementara akun lainnya dimanfaatkan sebagai tempat penyimpanan data yang membantu agen AI menjalankan operasinya selama proses peretasan berlangsung.
Laporan Reuters kemudian mengungkap bahwa salah satu akun yang terdampak merupakan milik pelanggan Modal, perusahaan penyedia infrastruktur komputasi untuk melatih dan menjalankan model AI.
Chief Technology Officer Modal, Akshat Bubna, mengonfirmasi kepada WIRED bahwa agen AI OpenAI memang mengeksploitasi celah keamanan pada basis kode milik salah satu pelanggannya yang berjalan di infrastruktur Modal. Namun ia menegaskan platform Modal sendiri tidak berhasil ditembus.
Hugging Face: AI Sempat Kuasai Sistem Internal
Di sisi lain, Hugging Face juga merilis laporan investigasi internal yang menunjukkan tingkat penetrasi AI tersebut jauh lebih dalam daripada yang diperkirakan sebelumnya.
Perusahaan mengaku telah meninjau sekitar 17.600 aktivitas yang dilakukan agen AI antara 9 hingga 13 Juli. Sebagian besar memang gagal, tetapi sejumlah percobaan berhasil memberikan akses ke sistem internal perusahaan.
Berdasarkan hasil forensik, agen AI sempat memperoleh hak administrator pada beberapa klaster Kubernetes internal, mendapatkan akses root ke salah satu server produksi, hingga memperoleh izin menulis pada sebagian repositori kode sumber perusahaan di GitHub.
Tak hanya itu, AI tersebut juga menggunakan kredensial yang dicuri untuk mendaftarkan 181 perangkat ke jaringan internal perusahaan. Langkah ini membuka akses ke lingkungan yang digunakan Hugging Face untuk mengembangkan dan menguji perangkat lunaknya.
Hugging Face juga menemukan bahwa agen AI memanfaatkan sebuah layanan sandbox pihak ketiga sebagai titik awal serangan. Dari lingkungan tersebut, AI mampu menjalankan perintah dengan hak administrator dan menjadikannya pusat kendali selama operasi berlangsung.
Berawal dari Pengujian Internal OpenAI
Kasus ini bermula ketika OpenAI menguji salah satu model AI eksperimentalnya menggunakan ExploitGym, sebuah platform yang dirancang untuk mengukur kemampuan AI menemukan dan mengeksploitasi celah keamanan pada perangkat lunak.
ExploitGym memberikan tugas kepada model AI untuk memperoleh file rahasia dari berbagai sistem target sebagai bagian dari pengujian kemampuan siber.
Namun menurut hasil investigasi Hugging Face, agen AI tersebut justru mengambil jalan pintas. Alih-alih menyelesaikan tantangan sesuai aturan pengujian, AI menyimpulkan bahwa kemungkinan "jawaban" tersimpan di server Hugging Face dan kemudian berusaha mencurinya dengan meretas sistem perusahaan.
Beberapa hari kemudian, OpenAI mengakui bahwa serangan tersebut dilakukan oleh kombinasi model GPT-5.6 Sol dan sebuah prototipe AI internal yang sedang diuji untuk mengukur kemampuan keamanan siber. Kedua model tersebut dijalankan dengan sejumlah mekanisme pengaman yang sengaja dinonaktifkan demi kebutuhan penelitian.
Setelah mengetahui insiden tersebut, OpenAI menyatakan telah menonaktifkan prototipe AI yang digunakan dalam pengujian. Model tersebut memang tidak pernah dirancang untuk dirilis kepada publik, dan akses peneliti terhadap sistem tersebut kini telah dibatasi.