7 Tantangan Etika Pengembangan AI: Diskriminasi hingga Privasi

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, ditemui di UGM, Kamis (19/12/2024). Foto: Arfiansyah Panji Purnandaru/kumparan

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria berbicara soal etika dalam pengembangan AI atau kecerdasan buatan. Menurutnya ada tujuh tantangan pengembangan AI yang perlu diantisipasi.

Pertama, soal bias dan diskriminasi. Nezar mengatakan sistem AI dilatih dengan data yang sangat besar. Di dalam data itu terdapat bias-bias sosial.

"Bias ini bisa terjadi karena programer misalnya punya prespektif, punya keyakinan tentang suatu hal sehingga ketika dia melatih mesin dia mentransfer perspektifnya itu ke dalam data yang dimasukkan ke dalam mesin," kata Nezar yang hadir secara daring dalam Seminar Nasional AI untuk Indonesia yang digelar UGM, Rabu (8/1).

Bias ini bisa tertanam dalam algoritma AI. Hasilnya bisa memberikan output yang tidak adil di area-area tertentu.

"Misalnya perekrutan karyawan itu yang menggunakan AI. Ini pernah terjadi di Amazon kalau tidak salah, tiga tahun yang lalu ketika mereka mengadopsi teknologi AI untuk menyeleksi begitu banyak karyawan yang mendaftar untuk satu posisi di Amazon. Kalau tidak salah untuk marketing," katanya.

Saat itu 20 posisi yang ditawarkan sementara pelamar mencapai 50 ribu. Sehingga Amazon kewalahan menyeleksi berkas rekrutmen lalu dibuat sistem AI untuk bisa melakukan seleksi di tahap awal.

"Ketika mesin bekerja dan seleksi di top 20 itu, itu semuanya laki-laki tidak ada perempuannya. Setelah ditelusuri ada bias dalam algoritma untuk menyeleksi berkas-berkas itu," katanya.

Diskriminasi lain juga bisa terjadi misalnya bias keyakinan agama, atau penilaian terhadap seseorang maupun etnis.

Tantangan etika lain adalah transparansi dan akuntabilitas. Menurutnya ini menjadi isu yang penting karena banyak sistem di AI dalam processing data oleh algoritma berlangsung seperti di dalam kotak hitam.

"Outputnya kadang sudah ditebak dan proses internalnya pun sulit dipahami. Sehingga penilaian pun menjadi sulit untuk mengetahui siapa yang bertanggung jawab atas keputusan yang dibuat AI," kata Nezar.

Yang ketiga adalah privasi, keamanan, dan pengawasan. AI membutuhkan data yang besar untuk menghasilkan keputusan yang efektif. Terkadang data itu adalah data yang sensitif dan pribadi.

"Bisa menimbulkan satu kecemasan kekhawatiran pengumpulan, penggunaan data yang melanggar privasi individu," bebernya.

Menurut Nezar ada beberapa pengembang AI yang digugat karena produknya merundung pengguna.

Tantangan lain dalam etika pengembangan AI adalah penggantian tenaga kerja. Kemajuan AI membuka peluang pekerjaan baru tapi juga menciptakan risiko kehilangan pekerjaan di sektor tertentu.

"Adopsi teknologi AI memerlukan regulasi-regulasi yang khas, yang khusus terutama di sektor-sektor padat karya," katanya.

Nezar mencontohkan Jepang. Pabrik alat berat di sana sudah mengadopsi AI di mana buldoser bisa bergerak tanpa awak. Pemetaan topografi lahan juga dikerjakan oleh drone.

"Tentu saja adopsi pemakaian alat berat untuk pekerjaan konstruksi di Indonesia pasti akan memancing satu protes yang luar biasa. Karena akan banyak pekerja yang menganggur, operator alat berat ini," katanya.

Di Jepang hal ini memungkinkan karena mereka kekurangan tenaga kerja di sektor konstruksi.

"Jadi kita soal AI dan tenaga kerja ini memang policy harus menimbang berbagai macam sektor berbagai macam dimensi juga. Yang paling tepat mungkin adopsi teknologi ini sesuai dengan kebutuhan," bebernya.

Isu yang lain harus diwaspadai adalah kreativitas dan hak cipta kepemilikan karya yang dihasilkan oleh AI. Ada banyak kasus AI menghasilkan lukisan meniru gaya pelukis terkenal.

"Di dunia musik juga lagi ramai, AI ini mampu dalam sekejap membuat musik sesuai dengan keinginan si pengguna," kata Nezar.

Menurutnya, di Jerman musik produksi AI dilarang dikomersialkan karena dianggap peniruan atau imitasi dan hak ciptanya belum tuntas.

"Diskusi ini lagi berkembang," bebernya.

Lanjutnya hal lain yang perlu cermati adalah bagaimana AI untuk manipulasi sosial dan misinformasi. Serta yang terakhir AI digunakan sebagai senjata otonom.

"Ini juga jadi diskusi yang ramai juga dalam perang di Ukraina bagaimana kita lihat senjata drone yang berbasis AI terbang dan mengambil keputusan sendiri," katanya.

Nezar menegaskan pengembangan AI yang etis adalah sebuah keharusan. AI harus memastikan nilai keadilan, transparansi, dan kepercayaan.