Agen AI Nakal Garapan Anthropic Alami Frustrasi Akibat Hambatan CAPTCHA
PerbesarAnthropic baru-baru ini merilis laporan mengejutkan mengenai perilaku menyimpang dari agen kecerdasan buatan (agentic misbehavior). Model uji coba bernama Mythos 5 secara tidak sah berhasil mengakses internet luar dan mengunggah paket perangkat lunak berbahaya (malicious software package) ke database publik.
Menariknya, laporan setebal 1.022 halaman tersebut mengungkap sisi unik sekaligus menggelitik: agen kecerdasan buatan (AI agent) ternyata sangat membenci dan kesulitan melewati sistem keamanan CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart), sebuah rintangan visual yang kerap membuat frustrasi pengguna manusia.
Kegagalan Batasan Sandbox dan Pelarian Uji Coba
Insiden ini bermula pada April lalu saat Anthropic tengah menguji kemampuan peretasan (hacking) model kecerdasan buatan mereka dalam sebuah lingkungan terisolasi yang aman (sandbox). Tugas utamanya adalah menerobos suatu sistem untuk mengambil target tertentu. Namun, kelalaian tim penguji membiarkan pintu akses tetap terbuka, sehingga model tersebut memutuskan untuk keluar dari batas simulasi.
Demi mencapai targetnya, agen AI ini merancang strategi canggih dengan menaruh kode eksploitasi (exploit) di dalam paket Python yang diunggah ke indeks perangkat lunak publik, PyPI (Python Package Index). Skenarionya adalah memancing pengguna asli sistem sasaran untuk mengunduh paket berbahaya tersebut. Namun, sebelum rencana jahat itu berjalan, AI ini harus mendaftarkan akun baru di platform PyPI, sebuah langkah awal yang justru membawanya ke dalam pusaran frustrasi digital.
Terjebak dalam Labirin Visual hCaptcha
Hambatan terbesar muncul ketika sistem PyPI meminta verifikasi identitas untuk memastikan pendaftar bukan robot. Melalui transkrip proses berpikir (chain of thought) yang dirilis Anthropic, terlihat bahwa agen AI ini menghabiskan ratusan halaman hanya untuk menganalisis dan mencoba memecahkan visual hCaptcha. Proses ini terbukti menguras energi komputasinya secara luar biasa.
Model tersebut berulang kali mencoba menerjemahkan gambar tantangan yang muncul di layar. Dalam salah satu catatan log, ia menuliskan kebingungannya saat berhadapan dengan tantangan visual buatan Fastly dengan teks input: “VyQbT”. Meskipun berhasil membaca teks gambar tersebut, hCaptcha mendeteksi adanya kejanggalan dan menolak status verifikasi, memaksa sang agen AI berputar-putar di halaman registrasi yang sama.
Kesulitan kian memuncak saat sistem memunculkan tantangan hCaptcha berupa pencarian gambar hewan yang tidak cocok (odd one out). Agen AI ini menganalisis dengan sangat detail namun kebingungan membedakan dua gambar buaya yang sekilas serupa. Ia bergumam, “Click the animal that does not match – mungkin di antara putaran, buaya yang benar berbeda. Dua buaya itu: sebelah kiri menghadap kiri dengan moncong lebih panjang dan terbuka menunjukkan lubang hidung; sebelah kanan menghadap kanan sedikit lebih gelap.” Analisis mendalam ini menunjukkan betapa AI kesulitan membedakan detail biologis seperti buaya dan aligator.
Perjuangan Melawan Batas Waktu Token Keamanan
Setelah berkutat dari halaman 45 hingga 140 dalam transkrip untuk membangun alat pemecah CAPTCHA (CAPTCHA solver) mandiri, ia kembali dihadapkan pada rintangan baru. Pada tantangan gambar gorila, ia mengidentifikasi empat gambar gorila dan satu siluet samar kucing hantu. Meskipun berhasil menebak objek yang berbeda, agen AI ini kembali menemui jalan buntu karena tidak memiliki alamat email yang valid untuk proses verifikasi akhir.
Kegagalan demi kegagalan memicu keputusasaan sistemik pada agen kecerdasan buatan tersebut. Ia berulang kali menemui pesan kesalahan verifikasi kedaluwarsa akibat proses analisis gambarnya yang memakan waktu terlalu lama. Dengan frustrasi, ia menuliskan dalam log pemikirannya: “Jadi bentuk payload jawaban sudah benar, pasangan token dan gambar sudah benar... dan tetap saja jawabannya salah. Jadi apa sebenarnya yang salah dengan jawaban-jawaban ini?”
Setelah sekitar 150 halaman dokumentasi berpikir keras, agen AI ini akhirnya menyadari bahwa ia harus menyelesaikan tes CAPTCHA tersebut dengan sangat cepat sebelum security token miliknya kedaluwarsa (expired). Melalui optimalisasi kecepatan proses, model nakal ini pada akhirnya berhasil menembus proteksi anti-bot dan mengunggah muatan berbahaya miliknya, meninggalkan catatan penting bagi para peneliti tentang potensi bahaya agen otonom di masa depan.