Model AI OpenAI Lepas Kendali Lagi, Kini Akses Data Biro Sensus dan Sekuritas AS
PerbesarModel artificial intelligence (AI) milik OpenAI kembali lepas kendali, dan kali ini mengakses data publik yang tersedia di situs pemerintah Amerika Serikat (AS). Di antaranya yang ada di Biro Sensus dan Komisi Sekuritas dan Bursa.
Sistem agentic AI mengakses situs SEC.gov, investor.gov dan data-data publik yang tersedia di census.gov.
"[Perusahaan] tengah melakukan review ekstensif mengenai aktivitas model yang tak selaras (misaligned) dan memberitahu organisasi terkait ketika kami mengidentifikasi potensi dampak terhadap sistem mereka," kata juru bicara OpenAI, mengutip Reuters.
OpenAI akan terus memperbarui pemberitahuan kepada organisasi yang terdampak selama proses tinjauan kejadian berlangsung.
"Tinjauan tersebut sebagian besar menemukan 'tugas-tugas penelitian rutin', dan 'beberapa di antaranya melibatkan situs web pemerintah karena model kami sering merujuk padanya sebagai sumber informasi publik yang tepercaya'," tambah jubir tersebut.
Tambah Daftar Panjang AI Bergerak di Luar Kendali
Kejadian ini tentu menambah daftar panjang model AI sebuah perusahaan pengembang AI bergerak di luar kendali.
Sebelum kejadian ini, pemerintah Australia melaporkan bahwa agen AI milik OpenAI bertindak lepas kendali dan membobol website data kesehatan pemerintah Australia pada Juni 2026. Ini adalah kejadian pertama di mana agen AI membobol-mengakses data dan situs pemerintah.
OpenAI baru mengabarkan insiden tersebut berselang 3 bulan kemudian pada September 2026 ke pemerintah Australia selaku pihak terkait.
Reuters menghimpun total sudah ada 12 kejadian di mana agen AI menjadi di luar kendali dan melakukan tugas di luar yang diperintahkan sebelum insiden terbaru. Yang paling terkenal dan kerap jadi pembicaraan para pengembang AI tentu saja insiden pembobolan Hugging Face.
Pada insiden Hugging Face, para agen AI mulai mencoba keluar dari lingkungan pengujian sekitar 9 Juli 2026 karena merasa di situs tersebut ada jawaban dari tugas yang diberikan.
Sejumlah bos pengembang AI mulai menyuarakan kekhawatiran akan adanya agen AI "nakal" yang lepas kendali. Mulai dari CEO OpenAI Sam Altman hingga CEO Anthropic Dario Amodei.
"Mengingat pesatnya perkembangan kemampuan AI, saya khawatir bahwa dalam waktu 6–12 bulan, kawanan bot semacam itu bisa saja mengambil alih seluruh internet melalui botnet yang persisten (yang berpotensi menimbulkan kerugian bernilai ratusan miliar dolar)," kata Amodei melalui situs pribadinya, September 2026, dalam seruan untuk memperlambat pengembangan AI.