Discord Salah Blokir Ribuan Pengguna Gara-gara Bug Moderasi AI
PerbesarPlatform komunikasi Discord mengonfirmasi adanya kesalahan pada sistem moderasi berbasis kecerdasan buatan. Akibatnya, lebih dari 8.000 akun pengguna diblokir secara keliru dalam kurun sekitar dua bulan terakhir.
Masalah tersebut dipicu oleh bug pada sistem pendeteksi konten yang membuat sejumlah gambar tidak berbahaya diidentifikasi sebagai konten berbahaya. Gambar-gambar tersebut mencakup spreadsheet, papan catur, tekstur gim, hingga latar belakang transparan berwarna putih atau abu-abu.
Bug Terjadi pada Sistem Moderasi AI
Dalam penjelasannya melalui akun resmi di platform X, Discord mengungkapkan bahwa sistem keamanannya menggunakan teknologi pencocokan gambar dengan basis data yang berisi konten ilegal atau berbahaya. Mekanisme ini dirancang untuk membantu mendeteksi materi yang melanggar aturan secara otomatis dalam skala besar.
Namun, mereka mengakui bahwa teknologi tersebut tetap memiliki risiko menghasilkan false positive, yakni kondisi ketika konten yang sebenarnya aman justru dianggap melanggar kebijakan.
Discord menjelaskan bahwa setiap temuan AI seharusnya melewati proses peninjauan oleh moderator manusia. Akan tetapi, bug pada sistem membuat sejumlah akun langsung dijatuhi sanksi permanen sebelum proses tersebut berjalan sebagaimana mestinya.
"Kami sedang menyiapkan perlindungan tambahan agar kejadian seperti ini tidak terulang," tulis Discord melalui pernyataan resminya di X.
Pengguna Mengaku Diblokir karena Gambar Berpola Kotak
Keluhan mengenai pemblokiran misterius bermunculan di X dan Reddit. Sejumlah pengguna mengaku akunnya ditangguhkan secara permanen hanya setelah mengunggah gambar dengan pola kotak-kotak sederhana.
Sebagian pengguna menduga sistem AI Discord menjadi terlalu sensitif terhadap pola berbentuk grid. Menurut mereka, pola serupa memang pernah digunakan oleh pelaku untuk menyamarkan konten pornografi maupun materi eksploitasi anak agar lolos dari sistem deteksi otomatis. Dugaan inilah yang diyakini menyebabkan AI salah mengenali gambar-gambar biasa sebagai konten berbahaya.
Insiden tersebut memicu kritik dari komunitas pengguna. Banyak yang menilai keputusan memblokir akun secara permanen berdasarkan deteksi otomatis berpotensi merugikan, terutama bagi mereka yang menggunakan Discord untuk bekerja, mengelola komunitas gim, atau berkomunikasi dengan keluarga dan teman yang tinggal berjauhan.
Discord bukan satu-satunya platform yang menghadapi persoalan tersebut. Pada 2025, sejumlah pengguna Instagram dan Facebook Groups juga melaporkan akun mereka tiba-tiba ditangguhkan tanpa penjelasan yang jelas. Banyak pihak menduga penyebabnya adalah sistem moderasi otomatis berbasis AI, meski Meta tidak pernah secara resmi mengonfirmasi dugaan tersebut.