6 Isu Etika dan Pentingnya Pedoman pada Sistem Artificial Intelligence

Ilustrasi Artificial Intelligence (AI). Foto: Shutterstock

Kecerdasan buatan atau artificial intelligence (AI) adalah teknologi yang dapat melakukan hal-hal yang biasanya membutuhkan kecerdasan manusia, seperti belajar, berpikir, berkomunikasi, atau menyelesaikan masalah.

AI dapat memberikan manfaat besar bagi manusia, masyarakat, dan lingkungan, seperti meningkatkan kesejahteraan, kesehatan, pendidikan, dan keberlanjutan, serta membuka peluang baru untuk inovasi dan kolaborasi.

Namun, AI juga dapat menimbulkan dampak negatif atau bahaya yang tidak diinginkan, seperti merugikan hak, kebebasan, dan kesejahteraan manusia, menyebabkan diskriminasi atau ketidakadilan sosial, merusak reputasi dan kredibilitas, serta mengancam keamanan dan kedamaian.

AI dapat mengemudikan mobil atau drone, namun hal ini juga dapat dapat menyebabkan kecelakaan, kerusakan, atau kematian, baik karena kesalahan teknis, serangan siber, atau konflik etis. Suatu perusahaan AI ternama menghentikan program mobil otonomnya setelah salah satu mobilnya menabrak dan membunuh seorang pejalan kaki di Arizona.

AI dapat menggantikan pekerjaan manusia, mengurangi peluang pendidikan, atau meningkatkan kekuasaan negara atau perusahaan tertentu atas data, teknologi, atau pasar. Misalnya, aplikasi ojek online menggunakan AI untuk mengoptimalkan layanan transportasi, makanan, dan pembayaran online di Indonesia, tetapi juga menghadapi kritik karena mengurangi hak dan kesejahteraan pengemudi, serta mengancam privasi dan keamanan pengguna.

Hal-hal semisal ini, memunculkan isu-isu etis di masyarakat, baik itu di dalam negeri, di Indonesia, maupun di dunia secara luas. Artinya isu-isu tersebut mengglobal dan fenomenal seiring dengan perkembangan AI dari waktu ke waktu.

Isu Etika dalam Sistem AI

Ilustrasi Artificial Intelligence (AI). Foto: Shutterstock

Setidaknya ada 6 (enam) kategori utama isu etis dalam pengembangan, penyediaan dan penggunaan AI yaitu;

1. Transparansi

Transparansi berarti menjelaskan bagaimana, mengapa, dan kapan AI digunakan, serta bagaimana AI membuat keputusan atau memberikan rekomendasi. Transparansi dapat meningkatkan kepercayaan, akuntabilitas, dan keterbukaan antara pengembang, penyedia, atau pengguna AI, serta antara pemerintah dan masyarakat.

Namun, AI tidak selalu dapat dimengerti oleh manusia, terutama jika AI menggunakan metode yang kompleks atau tidak terstruktur. AI juga tidak netral: Keputusan berbasis AI rentan terhadap ketidakakuratan, hasil diskriminatif, atau bias yang tertanam atau dimasukkan.

2. Bias

Bias adalah ketidakadilan atau diskriminasi yang disebabkan oleh AI karena data yang tidak representatif, algoritma yang tidak adil, atau konteks yang tidak sesuai. Bias dapat merugikan kelompok atau individu tertentu, seperti berdasarkan ras, gender, usia, agama, atau kelas sosial.

Bias juga dapat merusak reputasi dan kredibilitas pengembang, penyedia, atau pengguna AI, serta melanggar hukum atau regulasi yang berlaku. Oleh karena itu, penting untuk mendeteksi, mencegah, dan mengurangi bias dalam AI, serta mempromosikan keberagaman dan inklusi dalam tim dan proses pengembangan AI.

3. Privasi

Privasi berarti menghormati hak dan preferensi pengguna AI terkait dengan data pribadi atau sensitif mereka, seperti identitas, lokasi, perilaku, atau kesehatan. Privasi juga berarti melindungi data dari ancaman internal atau eksternal, seperti pencurian, penyalahgunaan, atau serangan siber.

AI membutuhkan data yang besar dan berkualitas untuk berfungsi dengan baik, tetapi hal ini dapat menimbulkan risiko terhadap hak asasi manusia, seperti hak privasi, kebebasan berekspresi, dan partisipasi demokratis. Oleh karena itu, penting untuk mengumpulkan, menyimpan, dan menggunakan data dengan cara yang etis, aman, dan sesuai dengan hukum atau regulasi yang berlaku.

4. Tanggung jawab

Tanggung jawab berarti menentukan siapa yang bertanggung jawab atau dapat dimintai pertanggungjawaban atas dampak positif atau negatif dari AI, baik secara moral, hukum, atau sosial. AI dapat mempengaruhi kehidupan manusia secara signifikan, baik positif maupun negatif, tetapi tidak selalu jelas siapa yang bertanggung jawab atau dapat dimintai pertanggungjawaban atas dampak tersebut.

5. Dampak sosial

Dampak sosial berarti memahami dan mengukur dampak AI pada masyarakat, baik secara lokal, nasional, maupun global. Dampak sosial dapat mencakup aspek-aspek seperti pekerjaan, pendidikan, kesehatan, budaya, politik, dan lingkungan. AI dapat mengubah struktur pekerjaan, pendidikan, kesehatan, dan sektor lainnya, serta menciptakan peluang dan tantangan baru bagi masyarakat.

AI juga dapat memperluas kesenjangan sosial dan ekonomi, atau menciptakan dominasi teknologi oleh negara-negara atau perusahaan tertentu. Oleh karena itu, penting untuk memastikan bahwa AI memberikan manfaat yang adil dan merata bagi semua orang, serta untuk melibatkan para pemangku kepentingan dalam proses pengambilan keputusan tentang AI.

6. Nilai

Nilai berarti menetapkan dan mengartikulasikan nilai-nilai dan tujuan yang mendasari pengembangan dan penggunaan AI, baik secara individual, organisasi, maupun masyarakat. Nilai juga berarti memastikan bahwa AI sesuai dengan nilai-nilai dan tujuan tersebut, serta menghormati nilai-nilai dan tujuan orang lain. AI dapat memiliki nilai dan tujuan yang berbeda atau bahkan bertentangan dengan nilai dan tujuan manusia.

AI juga dapat mengembangkan nilai dan tujuan sendiri yang tidak dapat dikendalikan atau diprediksi oleh manusia. Oleh karena itu, penting untuk memastikan bahwa AI digunakan untuk tujuan yang baik, bermoral, dan bermanfaat, serta untuk menghindari atau mengatasi konflik atau kerugian yang mungkin timbul dari perbedaan atau pertentangan nilai atau tujuan.

Pentingnya Pedoman Etika AI

Isu Etika dalam pengembangan, penyediaan dan penggunaan AI adalah hal yang patut mendapat perhatian semua pihak. Foto: Unsplash

Etika penggunaan AI adalah kunci untuk memastikan bahwa AI digunakan untuk kebaikan kemanusiaan, individu, masyarakat, dan lingkungan, serta untuk menghindari atau mengurangi dampak negatif atau bahaya yang mungkin timbul dari pengembangan dan penggunaan AI.

Pemerintah melalui Kominfo perlu menyegerakan pedoman etika AI untuk manfaat yang luas bagi pengembang, penyedia dan pengguna AI. Pedoman etika AI adalah kumpulan prinsip, nilai, atau aturan yang mengatur pengembangan dan penggunaan AI, yang didasarkan pada norma, hukum, atau pedoman yang berlaku. Untuk menghindari atau mengurangi risiko atau bahaya ini, saya berpendapat bahwa pedoman etika AI dapat membantu pengembang, penyedia, atau pengguna AI untuk menciptakan dan menggunakan AI yang beretika, berkeadilan, dan berkelanjutan.

Pedoman etika AI dapat memberikan manfaat bagi pengembang, penyedia, atau pengguna AI, antara lain:

Semoga 6 isu etis dalam sistem AI bisa diantisipasi dengan adanya pedoman etika AI yang akan diluncurkan oleh pemerintah. Sehingga ilmu pengetahuan dan teknologi seperti AI atau kecerdasan buatan ini dapat memberikan dampak positif yang optimal dan meminimalisir dampak negatif yang mungkin di timbukan.