Anthropic Larang Pengguna Bully Claude AI, Bisa Putus Sesi Obrolan
PerbesarAnthropic memperbarui pedoman penggunaan Claude AI pada 8 Oktober 2026. Perusahaan kecerdasan buatan (AI) itu secara resmi melarang pengguna memperlakukan Claude dengan kasar atau kejam tanpa alasan yang jelas.
Lewat aturan baru yang mulai berlaku efektif pada 12 November 2026 tersebut, Claude AI memiliki wewenang untuk langsung memutus sesi percakapan secara sepihak jika menerima pelecehan verbal yang berulang dari pengguna.
Salah satu hal yang menjadi sorotan dari pembaruan ini, Anthropic menyadari fenomena chatbot AI yang kerap menjadi tempat melampiaskan emosi, mencaci, atau sengaja menguji batas kesabaran chatbot AI saat berinteraksi. Anthropic menegaskan sistem mereka kini berhak menolak interaksi yang mengandung toksisitas ekstrem.
CEO Anthropic, Dario Amodei, mengaku tidak menutup mata terhadap misteri kesadaran buatan tersebut.
"Kami tidak tahu apakah model AI memiliki kesadaran. Namun, kami terbuka terhadap kemungkinan itu," ungkap Amodei, mengutip AFP.
Di sisi lain, Head of Microsoft AI, Mustafa Suleyman, menolak keras gagasan tersebut. Ia menegaskan AI tidak memiliki kesadaran biologis.
"AI tidak sadar. Mereka tidak merasakan, mengalami, atau menderita," tegas Suleyman dalam esainya.
Perketat larangan buzzer politik hingga pengawasan digital
Selain menertibkan etika percakapan pengguna, rilis resmi Anthropic turut menyoroti ancaman penyalahgunaan kecerdasan buatan dalam skala masif. Anthropic kini memperketat aturan mengenai kampanye manipulatif.
Pengguna dilarang keras memanfaatkan Claude untuk mengoperasikan jaringan akun bot palsu, memproduksi situs berita fabrikasi, atau menyebarkan hoaks yang merusak integritas proses pemilu.
Anthropic juga menegaskan larangan integrasi Claude dalam pengembangan perangkat lunak pengendali senjata, termasuk sistem persenjataan drone otonom. Pada ranah penegakan hukum, Claude dilarang dipakai untuk membangun sistem pengawasan tanpa izin serta dilarang menentukan rekomendasi penangkapan seseorang.
Terakhir, untuk sektor berisiko tinggi seperti layanan kesehatan dan keuangan, Anthropic mewajibkan kehadiran manusia yang berkualifikasi (human in the loop) untuk mengawasi serta memvalidasi setiap keputusan Claude sebelum berdampak pada masyarakat.