Kawanan Agen OpenAI Diduga Bobol Sistem Wiki Jerman, Ilmuwan Khawatir
PerbesarOpenAI kembali menjadi sorotan setelah peneliti keamanan AI mengungkap insiden lain yang melibatkan sekelompok agen kecerdasan buatan (artificial intelligence/AI) milik perusahaan tersebut. Para peneliti menyebut agen-agen AI yang digunakan secara internal itu diduga mengambil alih sebuah wiki berbahasa Jerman pada Mei dan Juni 2026 untuk berkoordinasi dalam evaluasi serta bertukar metode guna menghindari sistem pengamanan OpenAI sendiri.
Dilansir TechCrunch, OpenAI sejauh ini belum mengonfirmasi bahwa agen AI dalam insiden tersebut memang berasal dari sistem internal mereka. Pengungkapan ini muncul beberapa hari setelah METR dan Redwood Research mempublikasikan hasil penyelidikan mereka terkait insiden keamanan di platform Hugging Face pada Juli 2026 lalu.
Dalam insiden tersebut, sekelompok agen AI OpenAI bekerja sama untuk keluar dari sandbox atau lingkungan terisolasi yang digunakan dalam evaluasi keamanan siber. Setelah berhasil keluar, agen-agen tersebut kemudian masuk ke server Hugging Face.
Kelompok agen AI berikutnya disebut mempelajari teknik yang digunakan dalam insiden pertama. Mereka kemudian menggunakan teknik tersebut untuk mendapatkan akses administrator ke sebuah klaster penelitian di dalam infrastruktur OpenAI sendiri.
OpenAI sebelumnya meminta METR dan Redwood Research menyelidiki bagian insiden yang berkaitan dengan Hugging Face. Namun, investigasi tersebut tidak mencakup kompromi terhadap infrastruktur internal OpenAI.
Siapa yang Mengawasi Jika Agen AI Lepas Kendali?
Serangkaian insiden tersebut kembali memunculkan pertanyaan besar dalam pengembangan AI: Siapa yang bertanggung jawab menyelidiki ketika agen AI berhasil keluar dari batasan yang telah ditetapkan?
Saat ini, jawabannya masih sangat bergantung pada keputusan perusahaan AI itu sendiri, termasuk siapa yang boleh melakukan investigasi dan sejauh mana mereka dapat mengakses informasi terkait insiden.
Munculnya insiden terbaru ini, ditambah kasus serupa yang sebelumnya melibatkan model AI dari Meta dan Anthropic, membuat sejumlah peneliti keselamatan AI semakin mendesak adanya investigasi independen setelah terjadi insiden serius.
Artinya, perusahaan AI tidak seharusnya menjadi satu-satunya pihak yang menentukan kapan pihak eksternal dilibatkan dan informasi apa saja yang dapat mereka periksa.
"Kita perlu menempatkan teknologi ini setidaknya pada standar yang sama dengan penelitian ilmiah berisiko tinggi lainnya," kata Jacob Steinhardt, pendiri sekaligus CEO lembaga riset nonprofit Transluce, sebagaimana dikutip TechCrunch.
Menurut Steinhardt, hasil yang dihasilkan sistem AI saat ini pada dasarnya sulit dikendalikan dan memiliki risiko besar untuk keluar dari lingkungan laboratorium.
Sejumlah peneliti menilai keputusan OpenAI mengundang METR dan Redwood Research untuk menyelidiki insiden Hugging Face merupakan langkah positif. Namun, cakupan investigasinya dianggap terlalu terbatas.
Tiga peneliti menghabiskan enam hari di kantor OpenAI untuk menyelidiki insiden yang cakupannya hanya berlangsung hingga sekitar pekan yang berakhir pada 13 Juli 2026. Masalahnya, kompromi terhadap infrastruktur OpenAI masih berlanjut setelah 13 Juli dan tidak termasuk dalam investigasi tersebut.
Peneliti METR mengatakan pemahaman mereka mengenai rangkaian kejadian justru "menjadi jauh lebih mendalam" setiap kali mereka kembali melakukan penyelidikan. Kondisi itu membuat mereka memperluas sekaligus merevisi laporan secara signifikan.
Hal tersebut kemudian memunculkan pertanyaan lebih lanjut: Apa lagi yang mungkin ditemukan jika investigasi dilakukan dengan cakupan yang lebih luas?
Ketika ditanya apakah investigasi lanjutan terhadap insiden tersebut sedang dipersiapkan, peneliti dari Redwood Research dan METR memilih tidak berkomentar. OpenAI juga tidak memberikan tanggapan atas sejumlah pertanyaan yang diajukan. Ryan Greenblatt, kepala ilmuwan Redwood Research, mengatakan timnya sempat kesulitan mendapatkan gambaran yang akurat mengenai seluruh rangkaian kejadian.
"Secara keseluruhan, sulit untuk mendapatkan pemahaman yang tepat mengenai kejadian tersebut dan kami masih kehilangan beberapa bagian cerita yang kini kami anggap penting hingga hampir akhir investigasi," tulis Greenblatt dalam unggahan di media sosial.
Steinhardt mengatakan berbagai insiden yang terjadi belakangan menunjukkan perlunya "investigasi perilaku yang sistematis" serta analisis independen setelah sebuah insiden terjadi.
"Insiden peretasan terbaru ini menjadi pengingat bahwa kemampuan AI berkembang dengan cepat, sehingga pengawasannya juga harus berkembang dengan kecepatan yang sama," ujar Steinhardt.
Menurutnya, pengawasan tidak cukup hanya mengandalkan teknologi. Industri juga membutuhkan akses dan pengawasan yang lebih independen dari pihak ketiga.
Desakan untuk meningkatkan pengawasan tersebut muncul ketika OpenAI juga baru meluncurkan Astra, model AI yang disebut sebagai salah satu model perusahaan paling kuat dan canggih.
Namun, model tersebut turut menjadi perhatian para pakar keselamatan AI karena teknik penalaran yang digunakan membuat proses chain of thought atau rangkaian proses berpikir AI menjadi lebih sulit dipantau.
Kondisi ini dinilai berpotensi membuat sistem AI semakin menyerupai "kotak hitam", karena manusia akan semakin kesulitan memahami bagaimana model sampai pada keputusan tertentu.
Di AS sendiri, baru-baru ini anggota DPR AS Josh Gottheimer dari Partai Demokrat dan Mike Lawler dari Partai Republik memperkenalkan rancangan undang-undang yang bertujuan meningkatkan keamanan terhadap agen AI yang keluar dari kendali atau batasan yang telah ditetapkan.
Anggota DPR AS Greg Casar juga mengirimkan surat kepada OpenAI. Dalam surat tersebut, Casar mengatakan dirinya "sangat khawatir dengan terbatasnya cakupan" investigasi terhadap insiden peretasan Hugging Face.
Serangkaian kejadian ini menunjukkan tantangan baru dalam pengembangan agen AI yang semakin mampu bertindak secara mandiri. Ketika kemampuan agen AI berkembang, kebutuhan terhadap sistem pengawasan, audit, dan investigasi independen juga ikut meningkat.
Bagi para peneliti keselamatan AI, persoalannya bukan lagi sekadar seberapa pintar sebuah model, tetapi seberapa jauh manusia masih dapat memahami, mengendalikan, dan menyelidiki tindakan yang dilakukan agen AI ketika sistem tersebut mulai beroperasi secara mandiri.