Sebutan Error Ketika Chatbot AI Menghasilkan Output yang Keliru atau Menyesatkan
Menyajikan beragam informasi terbaru, terkini dan mengedukasi.
·waktu baca 4 menit
Tulisan dari Kabar Harian tidak mewakili pandangan dari redaksi kumparan
PerbesarKetika chatbot AI menghasilkan output yang keliru, tidak masuk akal, atau menyesatkan yang terlihat meyakinkan, apa sebutan untuk error ini? Pertanyaan ini semakin sering muncul seiring meluasnya penggunaan kecerdasan buatan dalam berbagai aktivitas digital sehari-hari.
Perkembangan teknologi AI membawa banyak kemudahan, tetapi setiap sistem tetap memiliki keterbatasan yang perlu dikenali sejak awal.
Beragam jenis kesalahan dapat muncul saat model memproses bahasa, memahami konteks, maupun menghasilkan jawaban berdasarkan data yang dipelajari sebelumnya.
Sebutan Error Ketika Chatbot AI Menghasilkan Output yang Keliru, Tidak Masuk Akal atau Menyesatkan
Ketika chatbot AI menghasilkan output yang keliru, tidak masuk akal, atau menyesatkan yang terlihat meyakinkan, apa sebutan untuk error ini? Jawabannya adalah AI hallucination atau halusinasi AI.
Dikutip dari aisera.com, istilah tersebut mengacu pada kondisi ketika model kecerdasan buatan generatif menghasilkan jawaban yang tampak logis, tersusun rapi, dan terdengar meyakinkan, tetapi isi jawabannya tidak sesuai fakta, tidak memiliki dasar yang benar, bahkan dapat sepenuhnya salah.
Halusinasi AI terjadi karena model bahasa tidak bekerja dengan cara memeriksa kebenaran informasi layaknya manusia mencari referensi.
Sistem memprediksi kata atau kalimat berikutnya berdasarkan pola yang dipelajari dari data pelatihan dalam jumlah sangat besar.
Proses tersebut memungkinkan AI menyusun respons yang lancar, tetapi tidak menjamin seluruh isi respons memiliki landasan fakta yang akurat.
Beberapa kondisi dapat meningkatkan kemungkinan munculnya halusinasi AI. Salah satunya adalah keterbatasan data pelatihan.
Apabila model belum pernah mempelajari suatu informasi secara memadai atau menemukan pertanyaan yang sangat spesifik, sistem dapat mengisi kekosongan dengan menyusun jawaban yang terdengar masuk akal meskipun sebenarnya keliru.
Penyebab lain berasal dari kesulitan memahami konteks percakapan. Model AI terkadang gagal menghubungkan pembahasan sebelumnya dengan pertanyaan lanjutan sehingga respons yang diberikan melenceng dari maksud sebenarnya.
Kesalahan memahami konteks juga dapat membuat AI mencampurkan beberapa informasi berbeda menjadi satu jawaban yang tidak akurat.
Keterbatasan teknologi pemrosesan bahasa alami atau Natural Language Processing (NLP) turut memengaruhi kualitas jawaban.
Bahasa manusia memiliki banyak makna ganda, ungkapan, istilah lokal, hingga kalimat yang bergantung pada situasi tertentu. Kondisi tersebut tidak selalu dapat dipahami secara sempurna oleh model AI.
Kesalahan lain yang sering ditemukan pada chatbot AI adalah salah mengenali entitas.
Sistem dapat keliru mengidentifikasi nama orang, lokasi, organisasi, tanggal, atau istilah tertentu. Akibatnya, jawaban yang dihasilkan menjadi tidak relevan walaupun struktur kalimat tetap terlihat benar.
Kesalahan memahami maksud pengguna juga cukup umum terjadi. AI dapat menafsirkan tujuan pertanyaan secara berbeda sehingga memberikan jawaban yang sebenarnya tidak diminta.
Situasi seperti ini biasanya muncul ketika pertanyaan menggunakan kalimat ambigu atau memiliki lebih dari satu kemungkinan makna.
Bias algoritma menjadi faktor lain yang dapat memengaruhi hasil keluaran AI. Model belajar dari data yang tersedia selama proses pelatihan.
Apabila data tersebut mengandung kecenderungan tertentu atau kurang mewakili kondisi nyata, respons yang dihasilkan dapat ikut membawa bias serupa.
Dampak halusinasi AI dapat berbeda bergantung pada bidang penggunaannya. Dalam layanan pelanggan, jawaban yang salah dapat membuat penyelesaian masalah menjadi lebih lama karena memerlukan campur tangan petugas manusia.
Pada bidang hukum, kesehatan, maupun keuangan, kesalahan seperti ini bahkan berpotensi menimbulkan keputusan yang merugikan apabila diterima tanpa proses verifikasi.
Beberapa contoh nyata pernah terjadi di berbagai sektor. Chatbot maskapai Air Canada pernah memberikan penjelasan yang tidak sesuai kebijakan sehingga perusahaan diwajibkan memberikan kompensasi kepada pelanggan.
Seorang pengacara di Amerika Serikat juga pernah mengutip perkara pengadilan fiktif yang dihasilkan ChatGPT tanpa melakukan pemeriksaan ulang.
Contoh lain muncul pada chatbot bisnis milik Kota New York yang sempat memberikan saran bertentangan dengan aturan hukum yang berlaku.
Risiko tersebut membuat proses evaluasi jawaban AI menjadi bagian penting dalam pengembangan sistem kecerdasan buatan.
Pengembang biasanya melakukan pembaruan basis pengetahuan, memperbaiki pengenalan maksud pengguna, meningkatkan kemampuan memahami konteks, serta memanfaatkan umpan balik pengguna untuk memperbaiki kualitas model secara bertahap.
Langkah lain yang banyak diterapkan adalah menyediakan mekanisme pengalihan kepada petugas manusia ketika chatbot tidak mampu memberikan jawaban yang memadai.
Pendekatan tersebut membantu mengurangi dampak kesalahan sekaligus menjaga kualitas layanan, terutama pada kebutuhan yang memerlukan tingkat akurasi tinggi.
Ketika chatbot AI menghasilkan output yang keliru, tidak masuk akal, atau menyesatkan yang terlihat meyakinkan, apa sebutan untuk error ini dapat dijawab dengan AI hallucination atau halusinasi AI, yaitu kondisi saat sistem menghasilkan jawaban yang terdengar meyakinkan tetapi tidak sesuai fakta.
Peningkatan kualitas model, data pelatihan yang lebih baik, serta verifikasi terhadap hasil keluaran AI (Artificial Intelligence) menjadi langkah penting untuk mengurangi risiko kesalahan tersebut. (Suci)
Baca Juga: AI Bisa Membantu Kegiatan Sehari-hari di Masa Depan