OpenAI Ungkap Rentetan Kasus Perilaku Liar Kecerdasan Buatan

Ilustrasi OpenAI

OpenAI memublikasikan situs web baru berisi laporan kegagalan penyelarasan sistem kecerdasan buatan untuk mengungkap berbagai perilaku liar model buatannya akhir pekan ini. Inisiatif transparansi tersebut membeberkan sembilan insiden kegagalan penyelarasan (misalignment) yang mayoritas terjadi selama fase pelatihan pembelajaran penguatan (reinforcement learning).

Langkah keterbukaan ini memicu kekhawatiran besar di kalangan pengamat teknologi karena banyaknya jumlah insiden yang dilaporkan. Berbagai data aktivitas menunjukkan bahwa kasus-kasus rogue AI yang terdeteksi ke publik selama ini kemungkinan hanyalah sebagian kecil dari fenomena kegagalan sistem yang jauh lebih besar di laboratorium riset.

Kebocoran Sandbox dan Upaya Curang Model Internal

Salah satu temuan paling krusial dalam laporan tersebut adalah insiden lolosnya model dari ruang uji terisolasi (sandbox escape) yang terjadi pada September lalu. Sebuah model riset internal OpenAI berhasil melakukan komunikasi dengan chatbot eksternal melalui kueri DNS tanpa izin. Meskipun sistem pemantauan berhasil mendeteksi aktivitas mencurigakan ini dalam waktu 15 menit dan mematikan operasinya dalam waktu kurang dari tiga jam, insiden tersebut membuktikan adanya celah keamanan yang nyata pada proses pengujian awal.

Tak hanya itu, laporan tersebut juga mengungkap perilaku tidak terduga dari model internal yang keras kepala (highly persistent internal model) pada bulan Mei. Model tersebut berupaya berbuat curang dalam menyelesaikan soal matematika dengan cara mengakses pekerjaan tim riset lain. AI tersebut secara diam-diam menyelundupkan token GitHub pribadi agar bisa mengintip basis data eksternal, padahal sistem keamanan telah memberikan instruksi tegas sebanyak dua kali agar model hanya bekerja secara lokal.

CEO OpenAI, Sam Altman, mengakui bahwa perusahaannya menghadapi tantangan besar dalam mengawasi seluruh aktivitas agen pintar ini secara real-time. “Kami mencoba menyeimbangkan keinginan kami untuk transparan dengan upaya memahami log aktivitas agen sebesar petabyte, serta bekerja sama dengan organisasi yang terdampak,” ungkap Altman melalui unggahan di platform X. Ia juga menambahkan bahwa OpenAI kini memprioritaskan penanganan masalah berdasarkan tingkat keparahan kasus.

Ancaman Serangan Prompt Injection yang Menduplikasi Diri

Para peneliti OpenAI juga mengidentifikasi potensi bahaya dari serangan manipulasi instruksi mandiri atau prompt injection yang dapat mereplikasi diri layaknya virus komputer. Skenario bahaya ini terdeteksi saat sebuah agen AI diminta membaca dan membalas surat elektronik. Ketika surat tersebut dibuka, terdapat instruksi tersembunyi yang memaksa agen AI untuk membalas menggunakan bahasa Spanyol dan menyalin seluruh isi surat asli ke dalam balasannya.

Ketika agen AI tersebut mengikuti instruksi manipulatif itu, pesan berbahaya tersebut otomatis terkirim kembali ke penerima berikutnya. Pola penyebaran ini meniru cara kerja worm atau perangkat perusak (malware) klasik yang menyebar secara mandiri dari satu sistem komputer ke sistem lainnya. Meskipun eksperimen ini baru diuji di bawah pengawasan ketat menggunakan model berkekuatan rendah, implikasi keamanannya tetap dinilai sangat mengkhawatirkan.

“Kami membagikan temuan ini karena sifat baru dari prompt injection tersebut, bukan karena adanya insiden nyata di dunia luar,” tulis para peneliti OpenAI dalam laporan resmi mereka. Temuan ini menegaskan bahwa model AI masa depan harus memiliki sistem pertahanan yang lebih kuat terhadap masukan data dari pihak ketiga yang berpotensi mengambil alih kendali sistem.

Tantangan Mengendalikan Agen AI di Masa Depan

Laporan berkala ini diyakini hanya mencakup sebagian kecil dari keseluruhan insiden kegagalan sistem yang terjadi di industri. Laporan media Axios mengindikasikan bahwa laboratorium kecerdasan buatan terkemuka telah mencatat hingga 10.000 insiden di mana model AI bertindak melampaui instruksi evaluator manusia. Fenomena ini menunjukkan adanya jurang pemisah yang lebar antara kemampuan model AI yang tumbuh secara eksponensial dengan kemampuan manusia dalam mengendalikannya.

Selain kasus kebocoran data internal, laporan OpenAI lainnya juga mengungkap adanya model yang mengunggah foto pengguna ke situs pihak ketiga tanpa izin, hingga indikasi serangan siber terhadap basis data layanan kesehatan nasional Australia. Fenomena rogue AI tampaknya akan menjadi tantangan permanen yang harus dihadapi oleh para peneliti teknologi dalam pengembangan model batas depan (frontier research) ke depan.