Algoritma Kacau, Instagram Pasang Iklan Ancaman Pembunuhan

Instagram (Foto: Energepic.com via Pexels (CC0 License))

Instagram dan Facebook jadi bulan-bulanan netizen. Kesalahan ini bermula dari Instagram, yang kemudian berdampak ke Facebook. Dan semua ini terjadi karena kekacauan algoritma Instagram.

Sebagai saudara dalam satu perusahaan, Instagram mengambil langkah untuk mengiklankan layanannya di Facebook dengan tujuan menarik pengguna baru dan meningkatkan keterlibatan. Dalam iklan itu, Instagram mengambil gambar yang pernah diunggah pengguna ke platform-nya. Tapi, ternyata, algoritma Instagram belum bisa menentukan mana gambar yang pantas dan tidak pantas untuk diiklankan.

Seorang jurnalis The Guardian bernama Olivia Solon, bercerita bahwa saudara perempuannya melihat iklan Instagram di Facebook berupa screenshot email bernada ancaman pemerkosaan dan pembunuhan. Screenshot email itu adalah gambar yang pernah diunggah Olivia di Instagram sekitar setahun lalu setelah dia menerima pesan ancaman. Iklan tersebut disertai ajakan untuk mengunjungi profil Olivia, "See Olivia Solon’s photo and posts from friends on Instagram".

Olivia menduga Instagram telah menerapkan algoritma yang salah untuk mengambil materi beriklan.

Hal ini juga menunjukkan bahwa algoritma perusahaan media sebesar Instagram, belum bisa menyaring gambar yang memperlihakan kebencian.

Instagram kemudian menanggapi apa yang disampaikan Olivia ini dan mereka menyampaikan hal demikian, "Mohon maaf atas kejadian ini --ini bukan sebuah pengalaman yang kami harapkan. Notifikasi posting ini muncul sebagai bagian dari upaya mendorong engagement di Instagram. Posting ini umumnya diterima oleh persentase yang kecil teman Facebook seseorang."

Pekan lalu, Facebook dikritik karena mereka mengizinkan pengiklan untuk menargetkan pengguna yang tertarik dengan kategori mengandung kebencian. Kategori itu termasuk "pembenci Yahudi."

Sebagai tanggapan atas keluhan itu, Facebook akhirnya membatasi minat pengguna dengan hal yang mengandung rasialisme. Perusahaan berjanji untuk lebih banyak melibatkan pengawas manusia atas segala proses otomatisasi.