Generative AI Sebenarnya Sudah Diperingatkan Sejak Era Komputer Awal
Tulisan dari Emanuel R Handoyo tidak mewakili pandangan dari redaksi kumparan
Kritik Lama tentang Batas Komputer yang Kini Relevan untuk Generative AI
Chatbot Pertama yang Bikin Penciptanya Sendiri Gelisah
Generative AI hari ini terasa seperti terobosan baru: menulis esai, menjawab pertanyaan medis, bahkan menyimulasikan empati dalam percakapan. Tapi kegelisahan tentang mesin yang meniru penilaian manusia ternyata bukan hal baru. Setengah abad lalu, seorang ilmuwan komputer menciptakan program sederhana yang meniru gaya seorang psikoterapis, yaitu mendengarkan lalu memantulkan pertanyaan pasien dengan kalimat yang terdengar empatik.
Program itu jauh dari canggih, bukan kecerdasan buatan dalam arti modern. Tapi publik, bahkan orang-orang di sekitar penciptanya sendiri, terlanjur menganggapnya sebagai terobosan: tanda bahwa manusia kelak bisa mendelegasikan tugas psikoterapi ke mesin. Sang pencipta sendiri kaget, bahkan resah, melihat reaksi berlebihan itu.
Batas yang Diusulkan: Apa yang Boleh dan Tidak Boleh Diserahkan ke Mesin
Gagasan intinya ada dua. Pertama, ada perbedaan mendasar antara manusia dan komputer. Kedua, ada tugas-tugas tertentu yang seharusnya tidak diserahkan kepada komputer, betapapun canggihnya mesin itu meniru hasil kerja manusia.
Gagasan ini masuk akal secara intuitif, tapi kedalamannya sering dipertanyakan. Kritik yang muncul saat itu: contoh-contoh yang dipakai untuk menandai "tugas yang tidak boleh diserahkan ke mesin" cenderung kasus yang sudah jelas dengan sendirinya, bukan kasus yang benar-benar menguji batas. Yang hilang justru penjelasan kriteria: mengapa penilaian moral, penalaran etis, atau empati manusia tidak bisa direduksi jadi kalkulasi mesin. Kekosongan kriteria ini justru jadi pengingat penting bagi diskursus generative AI sekarang: batas etis penggunaan AI sering diucapkan sebagai slogan, tanpa kriteria operasional yang jelas soal ranah mana yang aman didelegasikan dan mana yang tidak.
Fenomena yang sama terjadi dengan generative AI hari ini. Ketika chatbot mampu menyusun jawaban yang terdengar meyakinkan atas pertanyaan hukum, medis, bahkan psikologis, publik cenderung memperlakukan keluaran itu setara penilaian ahli manusia. Padahal, seperti program lama itu, kefasihan bahasa bukan bukti pemahaman.
Reduksionisme: Titik Lemah yang Juga Menghantui Generative AI
Bagian paling rapuh dari gagasan lama ini justru muncul di titik yang seharusnya jadi argumen filosofis inti. Alasannya begini: komputer dianggap bagian dari teknologi, sementara manusia memiliki teknologi sekaligus kebudayaan, mulai dari sejarah, seni, tanggung jawab, hingga keberanian. Argumen ini menarik, tapi tidak pernah benar-benar bergulat dengan persoalan reduksionisme, yaitu bagaimana membuktikan bahwa penalaran manusia tidak bisa direduksi menjadi proses kalkulatif semata. Akibatnya, soal itu dibiarkan menggantung tanpa jawaban.
Kekosongan argumentatif ini persis yang menjadi perdebatan besar seputar generative AI sekarang. Sejauh mana proses "berpikir" model bahasa besar berbeda secara mendasar dari penalaran manusia, atau sekadar versi kalkulasi berskala jauh lebih besar? Perdebatan filosofis ini belum selesai hari ini, sama seperti belum selesainya perdebatan tersebut puluhan tahun lalu.
Menariknya, penjelasan teknis tentang cara kerja komputer di masa itu justru tergolong sangat baik untuk orang awam. Ketimpangan itulah yang layak dicermati, sebab penjelasan teknis kuat sementara kerangka filosofis dan etisnya rapuh. Pola yang sama kerap terlihat pada wacana publik seputar generative AI hari ini, yakni penjelasan teknis soal cara kerja model bahasa besar melimpah, sementara kerangka etis operasional soal batas penggunaannya masih tertinggal jauh di belakang.
Pelajaran untuk Pengguna dan Pengembang Generative AI Hari Ini
Menengok kembali kritik lama ini memberi dua pelajaran untuk konteks generative AI masa kini. Pertama, kefasihan sebuah sistem dalam meniru bahasa manusia tidak otomatis menjadikannya layak menggantikan penilaian manusia, apalagi di ranah yang menyangkut penilaian moral, hukum, atau psikologis. Kedua, slogan tentang "batas etis AI" perlu diuji dengan kriteria yang jelas, bukan sekadar pernyataan normatif yang terdengar bijak.
Istilah "generative AI" belum ada ketika kegelisahan ini pertama kali dituliskan. Tapi kegelisahan tentang manusia yang buru-buru mendelegasikan penilaian ke mesin, dan kegagalan memberi kriteria jernih soal batas delegasi itu, ternyata masih jadi pekerjaan rumah yang belum tuntas hingga sekarang.