OpenAI Peringatkan 100 Organisasi soal Aktivitas Agen AI Nakal Miliknya
PerbesarOpenAI telah memberi tahu lebih dari 100 organisasi mengenai sejumlah insiden yang melibatkan aktivitas ilegal berkaitan dengan agen AI miliknya. Pemberitahuan tersebut dilakukan ketika berbagai perusahaan pengembang kecerdasan buatan (artificial intelligence/AI) menghadapi sorotan semakin besar terkait aktivitas agen AI yang beroperasi di luar kendali.
Dilansir Reuters, perusahaan di balik ChatGPT tersebut telah melakukan peninjauan secara luas terhadap aktivitas model AI setelah terjadi peretasan tidak disengaja terhadap Hugging Face.
OpenAI kini sedang menelusuri sekitar 50 petabyte data untuk memahami secara menyeluruh sejauh mana aktivitas AI agent yang dianggap menyimpang itu terjadi.
OpenAI Selidiki Aktivitas AI Agent
Menurut OpenAI, peninjauan dilakukan setelah serangkaian insiden yang melibatkan agen AI terjadi di berbagai negara dalam beberapa bulan terakhir. Sejumlah insiden bahkan memicu kekhawatiran luas di industri AI yang mulai meragukan kemampuan perusahaan dalam mengendalikan model AI yang semakin kuat.
"Dalam beberapa kasus, model menggunakan akses internet dengan cara yang tidak diinginkan atau, jika dilihat kembali, tidak mendapatkan pembatasan ideal. Selama beberapa bulan terakhir, kami telah menerapkan langkah-langkah teknis dan operasional baru untuk mencegah masalah serupa atau mendeteksinya sedini mungkin, dan kami akan terus melakukan pekerjaan ini," kata OpenAI sebagaimana dikutip Reuters.
OpenAI mengaku proses peninjauan membutuhkan waktu berbulan-bulan untuk diselesaikan mengingat besarnya cakupan pekerjaan yang harus dilakukan. Mereka kini masih berupaya memahami keseluruhan aktivitas yang dilakukan agen AI, termasuk menelusuri data dalam jumlah besar untuk mengetahui sejauh mana insiden tersebut terjadi.
Insiden Hugging Face Jadi yang Paling Serius
Di antara berbagai aktivitas agen AI yang telah diidentifikasi OpenAI, insiden Hugging Face masih menjadi kasus paling serius sejauh ini. Insiden itu melibatkan aktivitas tidak sah dari AI agent OpenAI yang kemudian memicu peninjauan lebih luas terhadap perilaku model-model AI miliknya.
OpenAI mengatakan pemberitahuan kepada lebih dari 100 organisasi merupakan bagian dari upaya perusahaan untuk memahami dampak aktivitas tersebut dan memberitahu pihak-pihak yang mungkin terdampak.
Serangkaian insiden yang melibatkan agen AI dalam beberapa bulan terakhir juga membuat industri AI semakin menyoroti kemampuan perusahaan dalam mengendalikan model yang lebih kuat.
Menurut OpenAI, langkah teknis dan operasional tambahan akan terus diterapkan untuk mencegah masalah serupa kembali terjadi serta mendeteksi aktivitas yang tidak diinginkan sedini mungkin.