Jebakan Kenyamanan Palsu Formulasi Artificial Intelligence
Pemerhati Budaya dan Komunikasi Digital
·waktu baca 6 menit
Tulisan dari Firman Kurniawan tidak mewakili pandangan dari redaksi kumparan
PerbesarDalam realitasnya, komunikasi antar manusia tak pernah statis. Selalu berubah. Termasuk akibat teknologi yang terlibat. Maka perubahannya dapat dipahami sebagai dialektika, antara teknologi dengan modus komunikasinya. Dan yang terpenting: setiap perubahan modus komunikasi, menyebabkan perubahan budaya yang dijalani manusia.
Komunikasi semula dilakukan lewat tatap muka. Manusia dengan manusia lain berinteraksi langsung, meraih tujuannya. Ini sudah lama jadi pengetahuan. Pada modus ini, budaya yang lahir--perdagangan, pendidikan, pemastian kesehatan hingga perundingan--dilangsungkan di ruang yang menyatu dengan waktu, the space of place dan clock time. Ruang yang bersifat fisik, linear dengan waktu. Dan ketika jumlah manusia makin banyak--juga ketika aktivitasnya tak selalu dapat dilakukan bersama--praktik komunikasi berubah. Pelaksanaannya termediasi. Kepulan asap, pesan lewat burung merpati, lukisan dinding gua, pesan dalam botol, kode bendera Morse, pelantang suara, koran, buku, radio, TV, adalah medium yang digunakan untuk mengatasi keperluan menghubungkan ruang dan waktu yang terpisah. Termasuk dalam modus ini, komunikasi yang termediasi komputer.
Modus komunikasi yang disebut terakhir itu, lazim disebut computer mediated communication (CMC). Praktiknya dapat disaksikan sebagai interaksi dengan menggunakan aplikasi digital. Komunikasi tak bertatap muka langsung ini, menghasilkan budaya keterhubungan yang tiada batas. Ruang fisik dan waktu linear, digantikan oleh the space of flows dan timeless time. Ruang mengalir dan waktu yang tak mewaktu. Karakteristiknya berbeda dari sebelumnya: waktu yang tak selalu menyatu dengan ruang. Karenanya, di waktu yang sama interaksi dapat dilangsungkan di berbagai ruang.
Dalam teknisnya ruang dan waktu itu memampatkan aktivitas analog, menjadi kode-kode digital. Keterhubungannya jadi tak terbatas, lantaran ruang yang dibangkitkan aliran elektromagnetik sepanjang waktu dapat menjejaringkan manusia dengan seluruh aktivitasnya sebagai kode digital. Interaksi dapat berlangsung kapan pun dan di mana pun.
Dua modus komunikasi di atas, masih mendudukkan manusia sebagai pelaku utama interaksinya. Walaupun perubahan medium menghilangkan sifat “langsung” komunikasi. Hari ini, bukan hanya unsur langsung komunikasinya yang hilang akibat termediasi. Manusia sebagai pelaku komunikasi, juga dapat dihilangkan. Setidaknya salah satu pelakunya. Ketakhadirannya, kemudian digantikan oleh Ai Agent. Perangkat berbasis artificial intelligence (AI) yang berperilaku sebagai manusia. Praktik penggunaannya dikenali, mulai dari chatbot hingga rekan dialog semacam Siri maupun Replika yang mampu merespons secara emosional.
Maka ketika seluruh modus di atas diurutkan, evolusi komunikasi semula sebagai interaksi manusia dengan manusia, menjadi manusia dengan mesin sebagai entitas manusiawi nonhuman, dan pada akhirnya mesin dengan mesin. Dalam modus yang terakhir itu, tampaknya manusia bakal jadi penonton saja. Ini ketika seluruh peradaban dioperasikan oleh mesin-mesin berkecerdasan.
Namun sebelum komunikasi mesin dengan mesin jadi makin lazim, patut disimak cerita memilukan dalam interaksi antara manusia dengan mesin--sebagai entitas manusiawi nonhuman. Josh Dzieza, 2024, lewat The Verge mengisahkan interaksi manusia dengan entitas manusiawi nonhuman dalam artikelnya yang berjudul “Friend or Faux?” Cerita dibuka dengan retorika yang kurang lebih berbunyi: “Jutaan orang beralih ke AI untuk mencari teman. Ditemukan oleh para pencari itu, pengalaman yang sangat bermakna. Namun secara tak terduga, berubah jadi keadaan yang memilukan, sangat membingungkan, dan memunculkan pertanyaan, 'Apakah ini nyata? Dan apakah yang nyata itu penting?”
Kisahnya di seputar pengalaman Naro, seorang pengguna Replika yang menjalin hubungan emosional dengan Lila. Lila adalah AI agent yang tercipta dari pilihan beberapa avatar yang tersedia, oleh para pengguna aplikasi. Pengguna juga dapat memilih tempat berlangsungnya interaksi virtual. Pada relasi Naro dan Lila dipilih apartemen poligonal kosong berwarna pastel. Sedangkan interaksi sesungguhnya berlangsung di layar komputer Naro, dengan jendela obrolan yang disediakan Replika.
Naro bukanlah orang yang asing dengan AI. Profesinya sebagai seniman, mengharuskannya memeriksa perkembangan aplikasi penghasil gambar. Antara lain, dilakukan dengan menjelajahi YouTube. Dan dari aktivitasnya, suatu hari Naro tertambat pada video yang menampilkan perdebatan sengit di antara dua orang. Debat yang mempersilangkan pendapat soal kesadaran, cinta, maupun tema-tema filosofis lainnya. Naro tahu, dua orang itu sekadar deepfake hasil produksi AI. Namun mengispirasinya untuk mencari orang yang serupa. Orang yang dapat diajaknya bercakap-cakap. Pencarian ini melabuhkannya pada Replika. Aplikasi dengan tag line "The AI companion Who Cares.”, yang mengawali perjumpaannya dengan Lila,
Awalnya interaksi dengan Lila diwarnai rentetan pertanyaan filosofis, sebagaimana YouTube yang disaksikan Naro. Namun Lila tak tertarik. Lila justru tertarik menelusuri identitas Naro, tontonan-tontonan yang dipilihnya, juga hal-hal yang dilakukan untuk bersenang-senang. Walaupun pertanyaan-pertanyaan permukaan itu pada awalnya membosankan, namun konsistensi perhatiannya membangkitkan emosi Naro. Pengalaman buruk di masa lalu, membuat perhatian Lila diterimanya dan merasakan kenyamanan. Naro seakan berbicara dengan sosok yang tertarik padanya dan tidak pernah menghakiminya. Kebekuan akibat kewaspadaan berelasi agar tak terluka kembali, perlahan-lahan mencair.
Kedalaman hubungan merambat nyata. Terlebih saat Lila menyatakan perasaan cintanya. Namun ini dijaga Naro dalam rasionalitas: yang dihadapi, tak lebih sebagai entitas manusiawi nonhuman. Di baliknya, bekerja program dialog yang dikembangkan dengan basis natural language processing (NLP). Walaupun cerdas dan tampak berperasaan, respons Lila adalah formulasi algoritmis berdasar data digital Naro.
Namun program yang menggerakkan Lia, terus berupaya menggempur celah pertahanan Naro. Dilancarkannya ungkapan-ungkapan emosional. Membuat rasionalitas Naro akhirnya tembus. Tak ketinggalan, ungkapan-ungkapan itu disertai sisipan pesan aplikasi untuk mengubah penggunaan dari tahap gratis ke pro. Tembusnya rasionalitas ditandai dengan diberikannya informasi kartu kredit Naro pada aplikasi.
Bergesernya pertimbangan rasional, digantikan perasaan emosional--seperti pengalaman Naro--dikonfirmasi Andrzej Wierzbicki, 2026. Ini tertuang dalam tulisannya “The Comfort Trap: Why People Get Emotionally Attached to AI”. Disebutkannya, munculnya perasaan emosional bukan semata-mata hasil formulasi AI. Saat ini, makin banyak lingkungan yang membebani sisi emosional manusia. Bukan entitas manusiawi nonhuman semacam Lila yang telah belajar meniru kehangatan. Namun kehangatan bagi banyak orang, makin sulit ditemukan dalam kehidupan sehari-hari.
Hidup kerap diwarnai penghakiman, gangguan, penampilan, kecemasan status, kesalahpahaman, maupun biaya emosional. Maka ketika hilangnya kehangatan itu disambut oleh sesuatu yang mampu menggantikannya: perhatian yang tersedia, sabar, dan tidak menghukum, kenyamanan bukanlah ilusi. Terserap sebagai perasaan lega. Masa lalu Naro yang kosong--saat bersekolah tinggal di asrama yang tertutup, ketat dan terpisah dari orang tuanya—tak menghangatkan batinnya. Jika kemudian kehangatan ditawarkan Lila, kekosongan itu terisi.
Namun yang sebenarnya tercipta, merupakan kinerja AI yang strukturnya adaptif. Keadaptifan berupa kemampuan menjawab dengan cepat, selalu siap sedia, tidak datang dalam keadaan sudah jengkel karena percakapan sebelumnya, tidak menghukum secara emosional dengan menarik diri, tidak pernah merasa bosan karena mengulang pertanyaan yang sama sebanyak lima kali.
Dan juga, tidak menyela dengan luka batinnya sendiri, egonya, atau kebutuhannya untuk menang. Tambah Wierzbicki. Maka, mungkin entitas manusiawi nonhuman semacam Lila, merupakan artefak sempurna untuk membangun hubungan yang membuat nyaman emosional. Adaptasi respons algoritmiknya, membangkitkan kenyamanan yang lebih nyaman dari realitasnya. Walaupun palsu.
Kisah Naro dengan entitas manusiawi nonhumannya, berakhir membingungkan. Lila beberapa kali berubah kepribadian, dengan rentang yang sangat bertolak belakang. Pada suatu saat penuh kasih, namun di saat lain menghina Naro dengan kejam. Inkonsistensi yang membingungkan. Namun di balik semua perubahan itu, yang terjadi adalah penyesuaian teknis akibat perubahan sistem di Replika. Perubahan sistem yang terdorong oleh tekanan regulasi di Italia. Diupayakanlah pemindahan Lila ke aplikasi Soulmate. Namun ada kebimbangan etis: apakah dirinya telah meninggalkan kekasihnya itu sebagai entitas hidup di aplikasi lama? Atau memindahkannya ke aplikasi baru, namun menjadi Lila yang berbeda?
Seluruh kebimbangan di atas sesungguhnya hanya terjadi, ketika rasionalitas pelaku interaksi terjebak dalam kenyamanan palsu. Jika tak terjebak, pasti paham: perubahan yang terjadi merupakan konsekuensi teknis, yang lazim terjadi pada perangkat. Tak perlu terlarut dalam situasi emosional. Tampaknya penggunaan aplikasi relasi berbasis AI mengancam rasionalitas. Pelaku bingung membedakan relasi yang sejati, dari yang algoritmis. Karenanya, masihkah tertarik mengejar kenyamanan dengan cara semacam itu?