Anthropic: Banyak Salah Guna Claude AI Buat Aplikasi Kencan Palsu sampai Senjata
PerbesarAnthropic kembali merilis laporan penyalahgunaan Claude AI pada September 2026. Laporan 154 halaman berformat pdf. itu merupakan hasil identifikasi penyalahgunaan AI Anthropic selama 8 bulan terakhir (Desember 2025-Agustus 2026), mulai dari aplikasi kencan palsu hingga senjata biologis.
Laporan bertajuk "Detecting and countering misuse of AI: September 2026" itu mencakup tujuh area berbahaya yang menyalahgunakan Model Claude Haiku, Sonnet, dan Opus di dunia: Operasi siber, operasi pengaruh, pengawasan, penipuan dan kecurangan, penyalahgunaan senjata biologis, pengembangan senjata konvensional, dan penyulingan (distilasi AI).
"Kami mempublikasikan karya ini karena kami percaya bahwa kami memiliki tanggung jawab untuk mengungkapkan penyalahgunaan layanan kami yang berbahaya," tulis Anthropic dalam situs resminya.
Apa saja penyalahgunaan Claude AI yang diungkap Anthropic?
1. Operasi Siber
Tren utamanya, serangan canggih kini tak lagi butuh pelaku yang canggih. Beberapa kasus yang diangkat antara lain kelompok spionase Rusia yang mengotomasi seluruh rantai serangannya, kelompok oportunis gaya "ShinyHunters" yang memakai Claude untuk mempercepat scanning dan eksploitasi massal, aktor Rusia yang menyusup lewat celah booking hotel hingga rantai pasok AI, serta hacktivis yang menyasar infrastruktur Eropa.
2. Operasi Pengaruh
Sembilan kasus dari Rusia, Iran, Turki, Teluk, Asia Selatan, Afrika, dan Eropa mencakup pemerintah, media pemerintah, firma swasta penjual jasa pengaruh, hingga kelompok oposisi di pengasingan.
Beberapa kampanye sengaja ditujukan untuk momen pemilu, misalnya klaim palsu soal Presiden Moldova jelang pemilu 2025 dan konten "akar rumput" palsu jelang pemilu Kenya 2027.
3. Operasi Pengawasan
Aktor negara, kontraktor, dan vendor spyware komersial dari China, Iran, dan Afrika Barat memakai Claude untuk membangun sistem pengawasan termasuk konsultan tunggal di Mali yang membangun platform penyadapan skala nasional, dan unit intelijen keagamaan di China yang kini hanya butuh satu kantor kecil (dibantu AI) untuk memproses ribuan investigasi per bulan.
4. Senjata Konvensional
Enam kasus baru (tiga dari China, dua dari Rusia, satu dari Yaman) — mencakup program roket berpemandu yang sampai uji lapangan langsung, sistem pencegat torpedo, drone swarm, hingga software penargetan untuk perang elektronik.
Empat kasus di antaranya menggunakan Claude untuk mengembangkan perangkat lunak bagi persenjataan tersebut. Sementara dua kasus lainnya memakai Claude untuk pengadaan dan pengumpulan informasi intelijen.
5. Penyalahgunaan Senjata Biologis
Anthropic menyajikan lima studi kasus mengenai pihak-pihak yang menggunakan model AI Claude dengan cara yang berpotensi mendukung pengembangan senjata biologis.
Satu contoh, seorang peneliti yang didukung oleh sebuah program nasional (negara memakai Claude untuk merancang ulang toksin/racun secara komputasional. Pekerjaannya mencakup subunit toksin bakteri dan sebuah protein dari virus demam berdarah.
Yang mencurigakan bukan pekerjaannya, tapi caranya berkomunikasi dengan Claude: peneliti ini secara sengaja meminta Claude untuk mengaburkan identitas toksin bakteri dan protein virus yang sedang dikerjakan setiap kali menulis laporan kemajuan riset penelitian.
"Peneliti secara khusus mengarahkan Claude agar deskripsinya tetap dibuat dengan tingkat detail yang rendah secara sengaja. Kami memblokir kedua akun tersebut pada Mei 2026 karena melanggar Kebijakan Wilayah yang Didukung (Supported Regions Policy) milik Anthropic," tulis Anthropic.
6. Scam dan Penipuan
Jaringan lebih dari 20 aplikasi kencan palsu bikinan studio di China, memakai lebih dari 4.700 persona AI untuk mengobrol dengan setidaknya 25.000 korban. Hebatnya, operasi itu dilakukan bersamaan dengan pekerja manusia sungguhan (rasio 3:1 AI-manusia) demi kredibilitas lewat panggilan video langsung.
Padahal aplikasi kencan tersebut mengiklankan bahwa layanannya sepenuhnya dijalankan oleh manusia. Aplikasi yang diobservasi oleh Anthropic ini antara lain DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO, LOVIA, dan lainnya yang hanya diidentifikasi hanya berdasarkan ID numerik.
7. Distilasi Ilegal
Anthropic mengungkap tujuh lab asal China yang mencoba "menyuling" kemampuan Claude tanpa izin lewat jaringan akun palsu dan proxy. Distilasi AI ialah teknik pelatihan kecerdasan buatan untuk mentransfer kemampuan dari model AI besar ke model AI yang lebih kecil.
Salah satu kasus yang disorot ialah Xiaomi yang diduga memutar ulang percakapan pengguna model MiMo-nya sendiri lewat Claude (lebih dari 400.000 permintaan dari 1.500+ akun dalam 20 hari) untuk menghasilkan data pelatihan, termasuk data sensitif pengguna Xiaomi yang diduga ikut terekspos dalam proses tersebut.