Teknologi AI Belum Ramah untuk Perempuan

Foto: oleh Gerd Altmann dari Pixabay

Artificial Intelligence (AI) alias Kecerdasan Buatan telah menjadi teknologi yang lumrah digunakan di berbagai bidang saat ini. Meski demikian, di balik segala kemudahan yang dirasakan manusia, AI tetap tidak luput dari masalah: salah satunya adalah adanya bias gender yang dihasilkan saat teknologi tersebut diterapkan.

Contoh bias gender yang muncul dari penggunaan AI dirasakan oleh perusahaan teknologi ternama Amerika Serikat, Amazon. Beberapa tahun lalu, Amazon mulai menggunakan alat perekrut karyawan untuk menyeleksi lamaran kerja yang masuk. Setelahnya, pihak Amazon menemukan bahwa lamaran kerja yang mengandung kata "women's" atau perempuan langsung masuk ke urutan bawah.

Mengapa hal tersebut bisa terjadi? Jawabannya adalah data perusahaan yang digunakan alat tersebut sebagai acuan dalam melakukan analisa. Selama sepuluh tahun, kebanyakan orang yang melamar ke Amazon adalah pria. AI secara otomatis mendeteksi lamaran dengan kriteria yang lebih klop dengan data tersebut sehingga lamaran dari pelamar pria pun diberi nilai yang lebih tinggi.

Sampel bias lainnya ada pada AI yang berwujud teknologi pengenalan wajah. Sebuah studi yang dilakukan oleh Massachussets Institute of Technology menemukan bahwa AI paling sering melakukan kesalahan identifikasi terhadap wajah perempuan berkulit gelap dengan persentase 34,7 persen. Di sisi lain, tingkat kesalahan paling rendah adalah pada laki-laki berkulit terang dengan persentase 0,8 persen.

Data memang menjadi sumber masalah ini. Karena diciptakan oleh manusia, data kadang tak lepas dari sentimen-sentimen tertentu. Oleh karena itu, penciptaan teknologinya disebut perlu semakin melibatkan banyak orang dari berbagai golongan agar AI semakin inklusif tanpa ada segelintir orang dari suatu kelompok yang terlalu dominan.

“AI menjangkau banyak orang di dunia, dan teknologinya sudah mempengaruhi banyak aspek tentang bagaimana kita hidup, bekerja, terhubung, dan bermain,” ujar Asisten Profesor di Departemen Ilmu Komputer di Princeton University, Olga Russakovsky.

"(Tetapi) ketika orang-orang yang terkena dampak dari AI tidak terlibat dalam penciptaan teknologi, kita sering melihat hasil yang lebih disukai satu kelompok daripada yang lain. Ini bisa terkait dengan data-set yang digunakan untuk melatih model AI, tetapi juga bisa terkait dengan masalah yang digunakan AI untuk ditangani.

Gerakan untuk memperbaiki AI pun telah dicanangkan oleh Russakovski. Melalui yayasan AI4ALL, ia ingin membuat teknologi tersebut menjadi lebih inklusif dan beragam.

"Orang-orang yang saat ini membangun dan mengimplementasikan AI terdiri dari persentase populasi yang kecil dan homogen," kata Russakovsky. “Dengan memastikan partisipasi berbagai kelompok orang dalam AI, kami diposisikan lebih baik untuk menggunakan AI secara bertanggung jawab dan dengan pertimbangan yang berarti tentang dampaknya.” pungkasnya dilansir IFL Science.