Ketika Mesin Menentukan Target: Andil Manusia dalam Perang Berbasis AI

source: pexels.com

Perang modern tidak lagi hanya ditentukan oleh jumlah tentara, kecanggihan pesawat tempur, atau daya hancur rudal. Di balik operasi militer, algoritma kini dapat membantu menyaring intelijen, mengidentifikasi target, dan merekomendasikan tindakan serangan. Perubahan ini sudah barang tentu menjanjikan efisiensi sekaligus menghadirkan persoalan mendasar, ketika kecerdasan buatan (artificial intelligence/AI) ikut memengaruhi keputusan hidup dan mati, sejauh mana manusia masih memegang kendali?

Pertanyaan tersebut bukan hanya ihwal sekadar skenario futuristik. Penggunaan perangkat digital dan sistem berbasis AI untuk mendukung penentuan target dalam konflik bersenjata telah menjadi perhatian serius komunitas internasional. Dalam laporan Autonomous Weapon Systems and AI-enabled Decision Support Systems in Military Targeting yang diterbitkan Stockholm International Peace Research Institute (SIPRI) pada Juni 2025, peneliti menunjukkan bahwa AI dapat memengaruhi keputusan militer melalui dua jalur berbeda, yaitu sistem yang membantu manusia menentukan target dan sistem senjata yang dapat memilih serta menyerang target tanpa intervensi manusia lebih lanjut.

Keduanya memiliki persoalan yang berbeda, tetapi bertemu pada satu pertanyaan penting, siapa yang bertanggung jawab ketika teknologi turut membentuk keputusan untuk menggunakan kekuatan mematikan?

Persoalannya bukan semata-mata apakah mesin dapat menggantikan manusia. Baran tentu yang lebih mendesak adalah apakah keterlibatan manusia dalam pengambilan keputusan masih bermakna ketika informasi, rekomendasi, dan kecepatan operasi semakin bergantung pada algoritma.

Ketika Efisiensi Militer Berhadapan dengan Akuntabilitas

Salah satu contoh yang memperlihatkan kompleksitas persoalan ini adalah penggunaan perangkat digital dan sistem berbasis AI oleh militer Israel dalam perang di Gaza. Pada September 2024, Human Rights Watch menerbitkan laporan mengenai perangkat digital yang dilaporkan digunakan untuk membantu mengidentifikasi target, memperkirakan keberadaan warga sipil, dan mendukung keputusan operasional.

Laporan tersebut menyoroti sistem seperti Lavender dan The Gospel yang dilaporkan memanfaatkan pembelajaran mesin untuk membantu mengidentifikasi individu atau objek yang dianggap berkaitan dengan sasaran militer. Human Rights Watch memperingatkan bahwa ketergantungan terhadap keluaran algoritma berpotensi meningkatkan risiko kesalahan identifikasi dan membahayakan warga sipil. Organisasi tersebut juga mengakui keterbatasan informasi publik mengenai kapan, di mana, dan sejauh mana sistem-sistem itu digunakan dalam operasi tertentu.

Temuan tersebut tidak berarti bahwa seluruh serangan yang menggunakan bantuan AI otomatis melanggar hukum internasional. Namun, kasus Gaza memperlihatkan persoalan yang tidak dapat diselesaikan hanya dengan meningkatkan akurasi teknologi: bagaimana memastikan bahwa rekomendasi sistem benar-benar diperiksa, konteksnya dipahami, dan keputusan serangan tetap memenuhi kewajiban hukum?

Dalam kondisi perang, kecepatan dapat menjadi keuntungan strategis. Sistem AI mampu memproses informasi dalam jumlah besar yang sulit ditangani manusia dengan kecepatan serupa. Akan tetapi, semakin cepat target diidentifikasi dan direkomendasikan, semakin penting memastikan bahwa proses verifikasi tidak sekadar menjadi formalitas.

Di sinilah risiko automation bias muncul, yakni kecenderungan manusia untuk terlalu memercayai keluaran sistem otomatis. Operator dapat menganggap rekomendasi algoritma lebih objektif daripada penilaian manusia, padahal hasilnya tetap bergantung pada kualitas data, desain sistem, asumsi pemrograman, dan kondisi penggunaannya.

Dengan kata lain, teknologi yang dirancang untuk membantu pengambilan keputusan justru dapat mempersempit ruang pertimbangan kritis apabila manusia berhenti mempertanyakan hasil yang diberikan mesin.

Dilema Keamanan di Balik Perlombaan AI Militer

Penggunaan AI dalam peperangan juga dapat dibaca melalui konsep security dilemma dalam hubungan internasional. Dalam kondisi ketika negara tidak memiliki jaminan penuh atas keamanan mereka, pengembangan kemampuan militer dipandang sebagai cara mempertahankan diri. Namun, peningkatan kemampuan suatu negara dapat dipersepsikan sebagai ancaman oleh negara lain, sehingga mendorong persaingan yang lebih luas.

Dalam konteks AI militer, negara memiliki insentif untuk mengembangkan teknologi yang mempercepat pengolahan intelijen, meningkatkan ketepatan operasi, dan memperkuat kemampuan menghadapi lawan. Akan tetapi, ketika setiap negara berusaha memperoleh keunggulan teknologi, perhatian terhadap risiko penggunaan dan pengawasan sistem dapat tertinggal di belakang kepentingan strategis.

Persoalan ini semakin rumit karena tidak semua sistem AI memiliki fungsi yang sama. Sistem pendukung keputusan berbasis AI dapat menyajikan informasi atau merekomendasikan target, sedangkan sistem senjata otonom dapat memilih dan menyerang target setelah diaktifkan tanpa intervensi manusia lebih lanjut. Mencampuradukkan keduanya justru berisiko mengaburkan persoalan yang hendak diselesaikan.

SIPRI dalam laporan tahun 2025 menegaskan bahwa kedua kategori tersebut menimbulkan jalur risiko yang berbeda. Pada sistem pendukung keputusan, bahaya dapat muncul ketika manusia menerima informasi yang keliru atau terlalu bergantung pada rekomendasi sistem. Pada senjata otonom, persoalannya berkaitan dengan kemampuan sistem menggunakan kekuatan tanpa keputusan manusia secara langsung pada saat serangan dilakukan.

Karena itu, tantangan tata kelola AI militer tidak cukup dijawab dengan seruan agar manusia tetap berada dalam proses pengambilan keputusan. Kehadiran manusia secara formal belum tentu menjamin pengawasan yang bermakna. Yang perlu dipastikan adalah apakah manusia memiliki informasi, waktu, kewenangan, dan kapasitas untuk menilai atau membatalkan rekomendasi sistem.

Hukum Internasional Tidak Boleh Berhenti pada Kehadiran Manusia

Perdebatan tentang AI militer juga berkaitan langsung dengan hukum humaniter internasional. Dalam konflik bersenjata, penggunaan teknologi tidak menghapus kewajiban para pihak untuk melindungi warga sipil dan membatasi dampak serangan.

Prinsip pembedaan mewajibkan pihak yang berkonflik membedakan warga sipil dari kombatan serta objek sipil dari sasaran militer. Prinsip proporsionalitas melarang serangan yang diperkirakan menimbulkan kerugian insidental terhadap warga sipil atau objek sipil secara berlebihan dibandingkan dengan keuntungan militer konkret dan langsung yang diharapkan. Sementara itu, prinsip kehati-hatian mewajibkan langkah-langkah yang layak dilakukan untuk memverifikasi sasaran dan meminimalkan dampak terhadap warga sipil.

Prinsip-prinsip tersebut tetap relevan ketika AI digunakan untuk mendukung operasi militer. Mesin tidak dapat dijadikan alasan untuk mengabaikan kewajiban hukum yang berlaku bagi manusia dan negara. Persoalannya adalah bagaimana memastikan bahwa kewajiban tersebut benar-benar dipenuhi ketika keputusan dipengaruhi oleh sistem yang kompleks.

Dalam posisi resminya mengenai senjata otonom, Komite Internasional Palang Merah (ICRC) telah menyerukan aturan internasional yang mengikat untuk melarang sistem tertentu yang tidak dapat diprediksi secara memadai serta membatasi penggunaan sistem lainnya. Pada Maret 2026, ICRC kembali menerbitkan dokumen yang membahas penerapan hukum humaniter internasional terhadap senjata otonom dan tantangan kemanusiaan yang ditimbulkannya.

Meski demikian, penentuan tanggung jawab tidak dapat dilakukan dengan menyederhanakan semua persoalan menjadi kesalahan mesin. Negara tetap memiliki kewajiban untuk memastikan kepatuhan terhadap hukum internasional. Komandan, operator, dan pihak lain yang terlibat dapat memiliki tanggung jawab berbeda bergantung pada peran, kewenangan, pengetahuan, dan fakta yang relevan. Pengembang teknologi juga dapat menimbulkan pertanyaan mengenai desain, pengujian, dan transparansi sistem, meskipun tanggung jawab hukum mereka tidak otomatis sama dengan tanggung jawab pihak yang melaksanakan serangan.

Dengan demikian, persoalan utamanya bukan mencari satu pihak untuk menanggung seluruh kesalahan, melainkan mencegah terbentuknya celah akuntabilitas ketika keputusan melibatkan banyak aktor dan teknologi.

Indonesia dan Urgensi Menentukan Sikap

Bagi Indonesia, perkembangan AI militer seharusnya tidak dipandang semata-mata sebagai urusan negara-negara dengan industri pertahanan maju. Persoalan ini berkaitan dengan masa depan keamanan internasional, perlindungan warga sipil, dan arah pembentukan norma yang mengatur penggunaan kekuatan.

Indonesia memiliki ruang untuk mendorong pendekatan yang menempatkan perlindungan manusia dan kepatuhan terhadap hukum internasional sebagai bagian penting dari tata kelola AI militer. Upaya tersebut dapat dilakukan melalui diplomasi multilateral, partisipasi dalam pembahasan senjata otonom, serta dukungan terhadap aturan yang memperjelas batas penggunaan teknologi dan kewajiban pengawasan manusia.

Pada saat yang sama, Indonesia perlu memandang perkembangan ini sebagai pertimbangan dalam modernisasi pertahanan. Pengembangan atau pengadaan teknologi militer berbasis AI seharusnya disertai pengujian yang memadai, evaluasi risiko, pelatihan operator, dan mekanisme pertanggungjawaban yang jelas. Kecanggihan teknologi tidak akan menghasilkan keamanan yang berkelanjutan apabila institusi yang menggunakannya tidak memiliki kapasitas untuk mengendalikan risiko.

Tentu, tata kelola AI militer tidak dapat diselesaikan melalui regulasi nasional saja. Tanpa upaya internasional yang lebih konsisten, negara-negara dapat terus menghadapi insentif untuk mengutamakan keunggulan strategis masing-masing. Karena itu, kepentingan Indonesia tidak hanya terletak pada kemampuan mengadopsi teknologi, tetapi juga pada kemampuannya ikut membentuk aturan internasional yang membatasi penyalahgunaan teknologi tersebut.

AI berpotensi mengubah cara negara merencanakan dan menjalankan operasi militer. Namun, peningkatan kecepatan dan efisiensi tidak dengan sendirinya menjamin bahwa keputusan yang dihasilkan menjadi lebih tepat, sah, atau manusiawi.

Tantangan terbesar perang berbasis AI bukan sekadar kemungkinan mesin mengambil alih peran manusia, melainkan kemungkinan manusia tetap terlibat secara formal tanpa benar-benar menjalankan kendali yang bermakna. Ketika rekomendasi algoritma diterima tanpa pemeriksaan memadai, keberadaan operator tidak otomatis menjamin bahwa keputusan telah dibuat secara bertanggung jawab.

Karena itu, pembahasan mengenai AI militer harus bergerak melampaui pertanyaan apakah teknologi tersebut mampu meningkatkan keunggulan tempur. Pertanyaan yang lebih mendasar adalah bagaimana memastikan bahwa setiap penggunaan kekuatan tetap berada dalam kendali manusia yang nyata, tunduk pada hukum internasional, dan dapat dipertanggungjawabkan.

Pada akhirnya, kecerdasan buatan mungkin mampu membantu menentukan siapa yang dianggap sebagai target. Namun, keputusan untuk menggunakan kekuatan mematikan tidak boleh kehilangan batas hukum dan tanggung jawab manusianya. Sebab, ketika mesin ikut menentukan arah perang, kewajiban untuk melindungi manusia justru menjadi semakin mendesak.