AI Facebook Rasis, Beri Label Primata di Video Orang Kulit Hitam
PerbesarFacebook kembali jadi sorotan. Kecerdasan buatan (AI) mereka dilaporkan memberi label "primata" di video yang menampilkan orang kulit hitam.
Menurut laporan The New York Times, media pertama yang melaporkan ini, kontroversi label primata tersebut terlihat dalam video yang diunggah tabloid asal Inggris Daily Mail. Video yang diunggah pada 27 Juni 2020 itu menampilkan seorang pria kulit hitam dengan judul “White man calls cops on black men at marina.”
Anehnya, pengguna menemukan bahwa Facebook menanyakan apakah mereka ingin “terus melihat video tentang Primata" lewat prompt otomatis.
Manusia memang merupakan salah satu spesies di dalam keluarga primata. Meski demikian, ungkapan primata umumnya digunakan untuk merujuk hewan seperti monyet, simpanse, atau gorila — dan bukan manusia.
Kesalahan label ini pun membuat Facebook dituding melakukan diskriminasi ras.
Darci Groves, mantan content manager Facebook yang memviralkan kesalahan label ini, menyebut bahwa Facebook telah melakukan kesalahan yang "tidak dapat diterima."
"Um. Perintah "terus melihat" ini tidak dapat diterima, @Facebook. Dan meskipun videonya berumur lebih dari satu tahun, seorang teman mendapat permintaan ini kemarin. Teman-teman di FB, tolong eskalasi. Ini mengerikan," kata Groves dalam sebuah tweet, Jumat (3/8).
Perwakilan Facebook juga menyebut bahwa kesalahan label tersebut "tidak dapat diterima."
Dalam sebuah tanggapan kepada The Verge, Facebook mengumumkan bahwa mereka telah menonaktifkan seluruh fitur rekomendasi topik setelah menyadari apa yang terjadi.
"Ini jelas kesalahan yang tidak dapat diterima," kata juru bicara Facebook, Sabtu (4/8).
Facebook sedang menyelidiki penyebab mengapa kecerdasan buatan mereka salah melabeli orang kulit hitam sebagai primata. Perusahaan juga menyebut akan mencegah kesalahan itu terjadi lagi di masa depan.
“Seperti yang telah kami katakan, sementara kami telah membuat peningkatan pada AI kami, kami tahu itu tidak sempurna dan kami memiliki lebih banyak kemajuan untuk dibuat. Kami meminta maaf kepada siapa pun yang mungkin telah melihat rekomendasi ofensif ini," sambung sang juru bicara.
Tahun lalu, Facebook mengatakan sedang mempelajari apakah algoritma yang dipakai untuk melatih AI — termasuk yang dimiliki Instagram, yang dimiliki Facebook — punya bias rasial.
Ini bukan kali pertama kecerdasan buatan melakukan kesalahan rasis. Sebelumnya, AI memang dikenal punya masalah dalam melakukan pemindaian wajah pada orang kulit hitam.
Pada 2015, Google pernah meminta maaf setelah aplikasi Photo menandai foto orang kulit hitam sebagai "gorila."