Facebook Pakai AI untuk Deteksi Meme Ujaran Kebencian

Ilustrasi Facebook. (Foto: Dado Ruvic/Reuters)

Raksasa media sosial Facebook mengumumkan langkah terbarunya untuk membuat platform-nya menjadi sarana yang sehat bagi para pengguna. Langkah baru yang dilakukan Facebook adalah dengan memanfaatkan teknologi kecerdasan buatan (artificial intelligence/AI) untuk mendeteksi gambar-gambar yang beredar di platform-nya.

Dalam posting blog terbaru, Facebook menjelaskan sebuah sistem bernama Rosetta yang menggunakan machine learning untuk mengidentifikasi teks dalam gambar dan video, kemudian mentranskripnya ke dalam sesuatu yang bisa dibaca oleh mesin.

Intinya, Facebook menggunakan alat ini untuk mentranskrip teks pada meme-meme yang kini menjadi salah satu konten favorit para netizen.

Alat seperti ini memang bukan sesuatu yang baru, tapi Facebook memiliki tantangan yang berat mengingat besarnya jumlah pengguna mereka dan sangat beragamnya foto-foto yang tersebar. Dilansir The Verge, Facebook mengatakan bakal segera mengaktifkan Rosetta, yang akan mentranskrip teks dari miliaran foto serta video setiap bingkainya per hari, baik di Facebook maupun Instagram.

Ilustrasi Facebook. (Foto: Dado Ruvic/Reuters)

Namun, sejauh ini belum jelas apa yang akan dilakukan Facebook dari data-data yang telah dikumpulkannya itu. Menurut Facebook dalam blog-nya, data-data itu akan berguna untuk pencarian foto di dalam platform-nya.

Tapi, ada tujuan besar lain dari Facebook yang ingin dicapai dengan alat ini. Tujuan itu adalah menghalau penyebaran meme-meme yang berisi ujaran kebencian atau komentar ofensif.

Facebook mengatakan proses transkrip teks dan machine learning akan dipakai untuk secara otomatis mengidentifikasi konten yang melanggar kebijakan ujaran kebenciannya. Dan bukan hanya dalam satu bahasa, tapi berbagai bahasa.

Tentu ini akan sangat membantu untuk mengurangi penggunaan yang negatif di Facebook nantinya. Terutama ketika masa-masa politik sudah semakin dekat dan makin banyaknya kubu-kubu yang saling mengumpat.