Wanita AS Dilaporkan Anthropic ke Polisi Gegara Kirim Chat Ancaman di Claude AI
PerbesarWanita berusia 30 tahun di Florida, Amerika Serikat, ditangkap setelah percakapannya dengan chatbot AI Claude dilaporkan ke polisi oleh perusahaan pengembangnya, Anthropic. Perempuan bernama Carli Michelle Heller itu diduga mengirimkan pesan berisi ancaman kekerasan melalui chatbot tersebut.
Sheriff Lee County, Carmine Marceno, menyebut Heller menggunakan Claude AI seperti buku harian untuk mencurahkan isi pikirannya. Namun, percakapan yang dianggapnya pribadi itu kemudian ditinjau oleh tim Anthropic dan diteruskan kepada aparat penegak hukum karena diduga mengandung ancaman.
Heller ditangkap di rumahnya pada 30 September 2026 tanpa perlawanan. Menurut WINK News yang mengutip laporan penangkapan yang diterbitkan Daily Caller, Heller diduga mengirimkan sejumlah pesan kepada Claude yang berisi pernyataan bernada ancaman.
Laporan tersebut menyebutkan pengguna yang diidentifikasi sebagai Carli menulis, “Saya akan menembaki kantor sheriff (Kantor Sheriff Lee County) sekarang juga,” pada 26 September 2026 sekitar pukul 05.10 waktu setempat.
Sehari kemudian pada 27 September 2026 sekitar pukul 01.07, pengguna yang sama diduga mengirim pesan lain yang berbunyi, "Ini benar-benar kesempatan terakhir. Saya sudah tidak mau lagi. Hari ini saya mendapatkan senjata api baru. Saya tembak Anda."
Menurut laporan penangkapan tersebut, fitur keamanan Claude secara otomatis memantau percakapan untuk mendeteksi kata dan frasa yang berkaitan dengan kemungkinan ancaman.
Karena isi pesan yang diduga mengancam itu, percakapan Heller kemudian diteruskan kepada tim manusia di Anthropic untuk ditinjau lebih lanjut. Tim tersebut selanjutnya melaporkan percakapan itu kepada aparat penegak hukum, yang berujung pada penangkapan Heller.
Sheriff Carmine Marceno mengatakan kepada WINK News bahwa AI merupakan teknologi yang kuat, tetapi dapat disalahgunakan seperti teknologi lainnya. Ia juga menekankan bahwa pengguna perlu memahami bahwa percakapan dengan chatbot AI tidak pernah sepenuhnya anonim.
"Ketika seseorang menggunakan AI untuk membuat atau memfasilitasi ancaman, kami harus menanggapi ancaman tersebut dengan serius," kata Marceno.
Heller didakwa atas tuduhan membuat ancaman kekerasan secara tertulis berdasarkan Pasal 836.10 Statuta Florida. Ia dijadwalkan menghadiri persidangan pada November 2026.