Ketika AI Ikut Menentukan Target Perang, Siapa yang Bertanggung Jawab?
Mahasiswa Universitas Islam Negeri Syarif Hidayatullah Jakarta Fakultas Ilmu Sosial dan Ilmu Politik Jurusan Hubungan Internasional
·waktu baca 6 menit
Tulisan dari Ahmad Yassin Al-Manshuri tidak mewakili pandangan dari redaksi kumparan
PerbesarBayangkan jika sebuah sistem kecerdasan buatan salah mengidentifikasi target militer, lalu keputusan tersebut berujung pada jatuhnya korban sipil. Ketika teknologi ikut menentukan arah serangan, siapa yang harus bertanggung jawab: manusia yang menggunakan sistem tersebut atau teknologi yang memberikan rekomendasi?
Pertanyaan ini semakin penting seiring berkembangnya penggunaan kecerdasan buatan atau artificial intelligence (AI) dalam peperangan. AI dapat membantu militer menganalisis gambar dari drone, mengolah informasi intelijen, dan memperkirakan dampak serangan. Proses yang sebelumnya membutuhkan banyak waktu kini dapat dilakukan dengan lebih cepat.
Namun, kecepatan tidak selalu berarti ketepatan. Dalam perang, kesalahan kecil dalam membaca informasi bisa membawa dampak besar bagi kehidupan manusia. Karena itu, persoalan AI dalam peperangan bukan hanya tentang kecanggihan teknologi, tetapi juga tentang keselamatan warga sipil dan tanggung jawab atas keputusan yang diambil.
Ketika Mesin Membantu Menentukan Target
Dalam sebuah operasi militer, menentukan target bukanlah perkara sederhana. Pihak militer harus memastikan bahwa sasaran yang dipilih sesuai dengan hukum perang dan mempertimbangkan risiko terhadap warga sipil.
Di sinilah AI mulai digunakan untuk membantu proses pengambilan keputusan. Teknologi ini dapat mengolah banyak informasi, mengenali pola dari gambar, dan memberikan rekomendasi berdasarkan data yang tersedia. Kemampuan tersebut dapat membantu militer memahami situasi di lapangan dengan lebih cepat.
Namun, AI tetap bekerja berdasarkan data dan sistem yang dirancang manusia. Jika data yang digunakan tidak lengkap atau kondisi di lapangan berubah, hasil analisisnya dapat menjadi kurang tepat.
International Committee of the Red Cross (ICRC), dalam artikel yang diterbitkan pada Maret 2026, menjelaskan bahwa sistem AI dapat membantu memperkirakan dampak serangan terhadap infrastruktur sipil. Misalnya, serangan terhadap jaringan listrik bukan hanya menyebabkan pemadaman, tetapi juga dapat mengganggu pasokan air dan pelayanan rumah sakit.
Contoh tersebut menunjukkan bahwa dampak serangan tidak selalu berhenti pada sasaran yang terkena secara langsung. Kerusakan satu fasilitas bisa memengaruhi banyak kebutuhan masyarakat lainnya.
Masalahnya, tidak semua dampak tersebut dapat diperkirakan secara sempurna oleh teknologi. Jika hasil analisis AI diterima tanpa pemeriksaan yang memadai, risiko terhadap warga sipil bisa saja tidak diperhitungkan dengan baik.
Bahaya Ketika Manusia Terlalu Percaya pada AI
Persoalan yang perlu diperhatikan bukan hanya kemungkinan AI melakukan kesalahan, tetapi juga bagaimana manusia merespons hasil yang diberikan teknologi tersebut.
Dalam situasi perang, keputusan sering kali harus diambil dengan cepat. Ketika AI memberikan rekomendasi berdasarkan ribuan data, hasilnya mungkin terlihat meyakinkan. Namun, rekomendasi tersebut tetap perlu diperiksa karena sistem AI memiliki keterbatasan.
Bayangkan sebuah sistem mengidentifikasi sebuah bangunan sebagai sasaran militer berdasarkan informasi yang tersedia. Padahal, informasi tersebut sudah tidak sesuai dengan kondisi di lapangan dan bangunan itu juga digunakan oleh warga sipil. Jika rekomendasi tersebut diterima begitu saja, kesalahan analisis dapat berujung pada jatuhnya korban.
Situasi tersebut merupakan ilustrasi risiko, bukan klaim mengenai kejadian tertentu.
Menurut saya, masalah utamanya bukan sekadar apakah AI mampu memberikan jawaban dengan cepat, melainkan apakah manusia masih mau memeriksa dan mempertanyakan jawaban tersebut.
Teknologi seharusnya membantu manusia mengambil keputusan yang lebih baik, bukan membuat manusia berhenti berpikir kritis. Keputusan yang menyangkut keselamatan manusia tetap membutuhkan penilaian terhadap situasi nyata, pemeriksaan informasi, dan pertimbangan mengenai dampaknya.
Karena itu, penggunaan AI dalam perang perlu disertai pengawasan manusia yang bermakna. Manusia harus tetap mampu memahami keterbatasan teknologi dan mempertimbangkan apakah suatu tindakan dapat dibenarkan berdasarkan aturan yang berlaku.
Siapa yang Bertanggung Jawab Jika Terjadi Kesalahan?
Pertanyaan mengenai tanggung jawab menjadi semakin penting ketika keputusan militer melibatkan teknologi. Jika sebuah serangan dilakukan berdasarkan rekomendasi AI dan menyebabkan kerugian terhadap warga sipil, tanggung jawab tidak bisa begitu saja dialihkan kepada mesin.
AI bukan pihak yang dapat menggantikan tanggung jawab hukum manusia. Pengembangan dan penggunaan teknologi tersebut tetap melibatkan manusia yang merancang sistem, menyediakan data, mengoperasikannya, dan mengambil keputusan berdasarkan hasil analisisnya.
Dalam konteks ini, hukum humaniter internasional menjadi sangat penting. Hukum ini mengatur cara perang dilakukan dan memberikan perlindungan kepada orang-orang yang tidak atau tidak lagi terlibat dalam pertempuran.
Ada tiga prinsip yang perlu diperhatikan.
Pertama, prinsip pembedaan, yaitu kewajiban membedakan warga sipil dari kombatan serta objek sipil dari sasaran militer.
Kedua, prinsip proporsionalitas, yaitu larangan melakukan serangan apabila kerugian terhadap warga sipil diperkirakan berlebihan dibandingkan dengan keuntungan militer konkret dan langsung yang diharapkan.
Ketiga, prinsip tindakan pencegahan, yaitu kewajiban mengambil langkah yang layak untuk menghindari atau mengurangi dampak serangan terhadap warga sipil.
Ketiga prinsip tersebut tetap berlaku meskipun AI digunakan dalam proses pengambilan keputusan. Penggunaan teknologi tidak menghapus kewajiban untuk melindungi warga sipil.
Artinya, keputusan militer tidak cukup dibenarkan hanya karena sistem AI memberikan rekomendasi tertentu. Pihak yang mengambil keputusan tetap harus memastikan bahwa tindakan tersebut sesuai dengan hukum yang berlaku.
Dunia Membutuhkan Aturan yang Lebih Jelas
Penggunaan AI dalam perang bukan hanya persoalan satu negara. Perkembangan teknologi militer dapat memengaruhi hubungan antarnegara dan meningkatkan risiko konflik apabila tidak disertai pengawasan yang memadai.
Perserikatan Bangsa-Bangsa (PBB) telah membahas hubungan AI dengan perdamaian dan keamanan internasional. Dalam pernyataannya pada 24 September 2025, Sekretaris Jenderal PBB António Guterres menekankan pentingnya aturan global dan pengawasan manusia terhadap penggunaan AI, khususnya dalam bidang militer.
Meski demikian, menyusun kesepakatan internasional bukan perkara mudah. Setiap negara memiliki kepentingan keamanan dan kemampuan teknologi yang berbeda. Ada negara yang ingin mengembangkan teknologi militernya, sementara negara lain lebih menekankan perlindungan warga sipil dan pembatasan risiko.
Perbedaan tersebut membuat kerja sama internasional menjadi penting. Negara-negara perlu membahas batas penggunaan AI dalam operasi militer, memastikan keputusan tetap dapat diawasi, dan memperjelas mekanisme pertanggungjawaban jika terjadi pelanggaran.
Menurut saya, dunia tidak perlu menunggu sampai terjadi bencana besar untuk membahas persoalan ini secara serius. Aturan dan pengawasan justru perlu diperkuat ketika teknologi masih terus berkembang.
Tujuannya bukan menghentikan kemajuan teknologi, melainkan memastikan bahwa penggunaannya tidak mengorbankan keselamatan manusia.
Indonesia Juga Perlu Memperhatikan Persoalan Ini
Bagi Indonesia, perkembangan AI dalam peperangan penting untuk dipahami karena berkaitan dengan perubahan keamanan internasional. Walaupun Indonesia bukan pusat utama pengembangan teknologi militer dunia, dampak perkembangan tersebut tetap dapat memengaruhi kepentingan nasional dan hubungan antarnegara.
Indonesia perlu memperkuat pemahaman mengenai penggunaan AI dalam bidang pertahanan sekaligus mengikuti pembahasan internasional tentang aturan penggunaannya. Kerja sama dengan negara lain dapat menjadi sarana untuk mempelajari perkembangan teknologi dan mengurangi risiko yang mungkin muncul.
Selain itu, Indonesia dapat mendorong pembahasan mengenai perlindungan warga sipil dan pentingnya pengawasan manusia melalui forum multilateral.
Menurut saya, mengikuti perkembangan teknologi saja tidak cukup. Indonesia juga perlu memahami konsekuensi hukum dan kemanusiaan dari penggunaannya. Dengan begitu, pembahasan tentang AI tidak hanya berfokus pada kemampuan teknologi, tetapi juga pada bagaimana teknologi tersebut digunakan secara bertanggung jawab.
Teknologi Boleh Maju, Tanggung Jawab Tetap pada Manusia
AI dapat membantu militer mengolah informasi dengan lebih cepat dan memahami situasi yang kompleks. Namun, teknologi ini tetap memiliki keterbatasan, terutama ketika digunakan dalam situasi perang yang berubah dengan cepat.
Karena itu, kemajuan AI seharusnya tidak hanya diukur dari seberapa cepat sistem bekerja atau seberapa banyak data yang dapat dianalisis. Hal yang lebih penting adalah bagaimana teknologi tersebut digunakan tanpa mengabaikan keselamatan manusia.
Menurut saya, AI seharusnya menjadi alat bantu, bukan pengganti tanggung jawab manusia. Setiap keputusan yang berpotensi merenggut nyawa harus tetap melalui pemeriksaan, pengawasan, dan pertimbangan hukum yang memadai.
Perkembangan teknologi memang sulit dihentikan. Namun, manusia tetap memiliki pilihan untuk menentukan batas penggunaannya.
Pada akhirnya, persoalan terbesar bukan hanya ketika mesin melakukan kesalahan, tetapi ketika manusia menggunakan hasil teknologi tanpa memeriksa akibatnya. Sebab, secanggih apa pun AI yang dikembangkan, tanggung jawab untuk melindungi manusia tidak boleh ikut diserahkan kepada mesin.