Studi: 44 Persen Sistem Artificial Intelligence Menunjukkan Bias Gender
PerbesarArtificial Intelligence atau AI kini telah menjadi bagian dari kehidupan sehari-hari. Mulai dari menjawab pertanyaan sederhana hingga membantu menyelesaikan pekerjaan. Namun, di balik kemudahan tersebut—UN Women menyoroti bahwa sistem AI menunjukkan bias gender. Salah satu contoh yang terlihat adalah saat AI menggambarkan profesi dokter sebagai laki-laki, sementara perawat sebagai perempuan.
Temuan tersebut berawal dari riset seorang seniman asal Turki, Beyza Doğuç, yang meminta AI menulis cerita tentang seorang dokter dan perawat untuk sebuah novel.
Melihat adanya bias gender pada hasil tersebut, Beyza kemudian melakukan berbagai percobaan lain dengan memberikan beragam perintah kepada AI. Hasilnya, sistem itu berulang kali menunjukkan stereotip gender pada karakter maupun profesi tertentu.
Penasaran dengan penyebabnya, Beyza kemudian bertanya langsung kepada AI mengapa hasil yang diberikan menunjukkan bias gender. AI menjawab bahwa respons yang dihasilkannya didasarkan pada data pelatihan yang digunakan untuk mengembangkan sistem tersebut. Dengan kata lain, bias gender yang muncul bukan sebuah kebetulan, tapi cerminan dari data-data yang dilatih saat membuat sistem tersebut.
“Kecerdasan buatan mencerminkan bias yang ada di masyarakat kita dan yang termanifestasi dalam data pelatihan AI,” ujar Beyza kepada UN Women.
Selaras, dalam studi bertajuk When Good Algorithms Go Sexist: Why and How to Advance AI Gender Equity (2021), menemukan bahwa 44 persen dari 133 sistem AI di berbagai industri menunjukkan bias gender.
Seorang mahasiswa dari Rwanda, Afrika Tengah, yang berpartisipasi dalam first coding camp organized under the African Girls Can Code Initiative mengatakan bahwa AI sebagian besar dikembangkan oleh laki-laki dan dilatih menggunakan data yang didominasi perspektif laki-laki. Kondisi ini menjadi pemicu ketimpangan gender karena kurangnya data untuk perempuan.
Bias gender dalam AI pun memunculkan kekhawatiran baru, terutama bagi perempuan. Jika sistem AI terus dikembangkan tanpa perspektif gender dan keragaman yang memadai—teknologi ini berisiko menghasilkan layanan yang kurang akurat, serta keputusan yang bias dalam berbagai bidang: mulai dari pekerjaan hingga layanan kesehatan.
Bagaimana mencegah bias gender dalam AI?
Peneliti komputasi kuantum di Tufts University, Sola Mahfouz, mengatakan salah satu cara untuk mencegah bias gender dalam AI adalah memperbanyak peneliti perempuan di bidang tersebut.
“Diperlukan lebih banyak peneliti perempuan di bidang ini. Pengalaman hidup unik perempuan dapat secara mendalam membentuk landasan teoritis teknologi. Hal ini juga dapat membuka aplikasi baru dari teknologi tersebut,” ungkap Sola.
Sementara itu, Beyza mengatakan bahwa untuk mencegah bias gender dalam AI, kita perlu lebih dulu mengatasi bias gender dalam masyarakat. Di sisi lain, Helene Molinier, Penasihat UN Women untuk Kerja Sama Kesetaraan Gender Digital, mengatakan belum ada kebijakan buat membatasi pengembangan AI yang menunjukkan bias gender.
“Diperlukan model tata kelola multi-pemangku kepentingan global yang mencegah dan memperbaiki ketika sistem AI menunjukkan bias gender atau ras, memperkuat stereotip yang berbahaya, atau tidak memenuhi standar privasi dan keamanan,” ujar Helene.
Selain menunjukkan bias gender, AI juga turut membuka peluang baru terhadap tindak kekerasan seksual. UN Women menyebutkan bahwa 99 persen perempuan menjadi target deepfake.
“AI menciptakan bentuk-bentuk kekerasan yang baru sekaligus memperparah kekerasan yang sudah ada,” ujar Dwi Yuliawati, Head of Programmes UN Women Indonesia.