AS dan China Hampir Perang Gegara Chatbot AI Keliru Beri Laporan Intelijen
PerbesarMiliter Amerika Serikat diduga nyaris melakukan aksi penggeledahan terhadap sebuah kapal berbendera China di kawasan Timur Tengah, berbekal informasi intelijen yang keliru dari sebuah alat kecerdasan buatan (AI). Beruntung, rencana AS 'geruduk' kapal China itu batal di detik-detik terakhir.
Berdasarkan laporan CNN yang dikutip Gizmodo, keputusan melancarkan operasi tersebut diduga berdasarkan info yang keliru akibat halusinasi AI, yang menyebut kapal itu membawa komponen senjata nuklir. Seorang sumber anonim menyebut insiden ini "hampir memicu perang".
Kesalahan intelijen ini diduga bermula dari seorang analis di komando operasi khusus (special operations command) yang menggunakan chatbot dalam tugasnya. Chatbot itu keliru mengidentifikasi muatan kapal, dan tampaknya "meyakini" bahwa muatan itu bisa dipakai untuk membuat senjata nuklir.
Chatbot AI itu bahkan mengeklaim kapal China itu tengah mengirim komponen untuk program nuklir Iran.
Bayang-Bayang AI di Balik Serangan Mematikan ke Sekolah di Iran
Kasus kapal China ini memunculkan kekhawatiran yang lebih besar. Bukan pertama kalinya AI dikaitkan dengan kesalahan fatal militer AS dalam perang melawan Iran. Kasus paling disorot adalah serangan rudal ke Sekolah Dasar Shajareh Tayyebeh di Minab, provinsi Hormozgan, pada 28 Februari 2026.
Berdasarkan investigasi mendalam Bloomberg, saat itu dua rudal Tomahawk menghantam bangunan dan area sekolah. Serangan itu menewaskan lebih dari 150 orang, termasuk sedikitnya 123 anak-anak. Publik menganggap militer AS melakukan serangan salah sasaran paling mematikan pada abad ke-21 dari sisi jumlah korban anak.
Berdasarkan penuturan saksi yang dihimpun Bloomberg dari kelompok pembela HAM dan organisasi pemantau Airwars, para guru sempat memindahkan murid-murid dari halaman bermain ke ruang salat untuk berlindung setelah rudal pertama jatuh, namun beberapa menit kemudian rudal kedua menghantam dan sebagian atap runtuh hanya menyisakan sedikit anak yang selamat di ruang tersebut.
Apa peran AI dalam tragedi ini?
Bloomberg melaporkan, proses "kill chain" atau rantai keputusan penargetan sebelum perang biasanya melibatkan verifikasi berlapis oleh analis manusia. Dalam konteks ini, keterlibatan manusia jadi lebih ringkas berkat bantuan Maven Smart System (platform intelijen dan penargetan buatan Palantir Technologies).
Maven dibangun di bawah kontrak Pentagon senilai USD 1,3 miliar. Maven membantu mengatasi masalah 'banjir' informasi dengan menggabungkan citra satelit, umpan drone, data radar, dan sinyal intelijen ke dalam satu interface. Data itu jadi bekal untuk mengklasifikasikan target, merekomendasikan sistem senjata, dan menyusun paket serangan hampir secara real-time.
Menurut orang-orang yang terlibat dalam investigasi Bloomberg, sekolah di Iran itu masuk ke dalam 'radar' Maven bersama daftar target potensial lain dengan status yang belum diperbarui sebagai fasilitas IRGC (Korps Garda Revolusi Islam Iran). Hasilnya, sekolah anak-anak itu diklasifikasikan sebagai salah satu target rekomendasi untuk hari pertama serangan.
Gedung sekolah itu dibangun hampir satu dekade lalu di atas lahan yang sebelumnya digunakan unit angkatan laut IRGC, dan Pentagon mengkategorikannya sebagai basis militer beberapa tahun sebelumnya. Status ini tidak pernah diperbarui sebelum serangan Februari.
New York Times, sebagaimana dikutip Bloomberg, bahkan melaporkan bahwa petugas penargetan menggunakan citra satelit yang datanya belum diperbarui selama tujuh tahun dan tidak menunjukkan keberadaan sekolah di lokasi tersebut.
Penyebab pasti kesalahan ini masih menjadi perdebatan serius di internal pemerintah AS sendiri. Arms Control Association (organisasi non-partisan pemerhati kebijakan pengendalian penggunaan senjata) menilai, Komando Pusat AS (CENTCOM) menyimpulkan peta intelijen gagal menunjukkan fasilitas itu sudah lama beralih fungsi menjadi bangunan sipil, dan lokasi tersebut masuk ke daftar target hasil AI tanpa pengawasan manusia.
Palantir sendiri membantah tudingan bahwa sistemnya memberi informasi keliru. Juru bicara perusahaan menyatakan kepada Bloomberg tidak ada bukti bahwa perangkat lunak mereka menjadi penyebab kesalahan dalam serangan di Minab.
Dua insiden baik kapal China maupun sekolah di Iran punya pola yang sama: sistem AI militer AS yang dirancang untuk mempercepat pengambilan keputusan di medan perang, justru berisiko menghilangkan lapisan verifikasi manusia yang krusial.