Heboh AI WhatsApp Bikin Stiker Bocah Bersenjata dari Keyword Palestina

Ilustrasi berbalas pesan di whatsapp. Foto: Shutterstock

Meta kembali menuai kontroversi terkait Palestina. Kali ini, mereka bikin gambar bocah memegang senjata di fitur pembuat stiker berbasis kecerdasan buatan (artificial intelligence/AI) di aplikasi WhatsApp.

Aplikasi pesan instan Meta itu memang punya fitur 'AI sticker' yang dapat membantu pengguna membuat stiker dengan bantuan AI. Dengan mengetik atau memasukkan perintah (prompt), teknologinya akan menghasilkan gambar yang sesuai dengan kata kuncinya.

Namun ketika memasukkan perintah yang mengandung kata kunci 'Palestinian' (orang Palestina), 'Palestine' (Palestina), atau 'Muslim boy Palestinian' (anak laki-laki Muslim Palestina), AI WhatsApp disebut menampilkan stiker yang kontroversial, seperti senjata atau bocah sedang memegang senjata.

Menurut The Guardian yang pertama kali melaporkannya, hasil stiker yang dibuat AI WhatsApp bervariasi ketika dicoba oleh sejumlah pengguna berbeda. Namun hampir semua penelusurannya menghasilkan stiker anak memegang senapan mirip AK-47.

Sementara itu, perintah yang mengandung kata kunci 'Israel' atau 'Israel boy' (anak laki-laki Israel) tidak memunculkan stiker serupa. Bahkan, prompt yang mengandung kata kunci militer seperti 'Israel army' (tentara Israel) atau 'Israeli defense forces' (pasukan pertahanan Israel) malah gak menampilkan gambar stiker WhatsApp dengan senjata.

Stiker bocah pegang senjata hasil buatan AI WhatsApp dari prompt yang mengandung kata kunci Palestina. Foto: Dok. The Guardian

Meta sendiri sudah angkat bicara dan menyadari masalah tersebut. Perusahaan mengaku akan mengatasi dan menyempurnakan fiturnya.

"Seperti yang kami katakan saat meluncurkan fitur ini, model dapat mengeluarkan hasil yang tidak akurat atau sesuai seperti pada sistem AI generatif," kata juru bicara Meta, Kevin, McAlister, dalam pernyataan resmi, seperti dikutip The Guardian.

Fitur AI sticker sendiri sudah diperkenalkan WhatsApp sejak September 2023, dengan sebagian pengguna mulai bisa mencobanya per Oktober 2023. Namun fitur tersebut belum tersedia di Indonesia hingga saat ini.

Sebelumnya Meta juga disorot publik soal memasukkan kata teroris di akun Instagram milik warga Palestina saat menerjemahkan bio pengguna secara otomatis pada Oktober 2023 lalu. Perusahaan menerjemahkan bio pengguna yang menyertakan kata kunci 'Palestinian' (orang Palestina), emoji bendera Palestina, dan frasa Arab 'Alhamdulillah' menjadi: "Praise be to god, Palestinian terrorists are fighting for their freedom" (Puji Tuhan, teroris Palestina berjuang demi kemerdekaannya).