Menanam Nilai di Ladang Silikon (Onto-Espi-Aksio AI:Bagian III-End)

Buku Wolfgang Smith

Esai ketiga dari tiga serial: Ontologi, Epistemologi, dan Aksiologi AI

Kontribusi ketiga Wolfgang Smith adalah gagasannya yang paling berani. Ia menyebutnya kausalitas vertikal.

Fisika mengenal satu jenis sebab-akibat. Bola menabrak bola, gelombang merambat, satu peristiwa memicu peristiwa berikutnya dalam aliran waktu. Smith menyebut ini kausalitas horizontal. Ia berjalan mendatar sepanjang garis waktu. Tetapi menurut Smith, ada jenis kausalitas lain yang bekerja tegak lurus terhadap waktu. Kausalitas vertikal turun dari tingkat realitas yang lebih tinggi, seketika, tanpa proses. Ketika kabut kuantum runtuh menjadi kenyataan, kata Smith, itu bukan hasil dorongan horizontal. Itu sentuhan vertikal. Keutuhan sebuah organisme hidup, kesatuan sebuah karya seni, kehadiran makna dalam sebaris puisi, semuanya turun dari atas, tidak dirakit dari bawah.

Kausalitas vertikal ala Smith menurut saya tidak lain adalah sangat selaras dengan teori Emanasi dalam filsafat Islam.

Orang boleh menerima atau menolak metafisika Smith. Tetapi intuisinya menyentuh sesuatu yang kita semua rasakan. Nilai tidak pernah lahir dari penjumlahan fakta. Anda bisa mendata seluruh fakta tentang sebuah pembunuhan, jam kejadian, sudut luka, kadar racun, dan tidak satu pun fakta itu mengandung kalimat "ini jahat". David Hume sudah mengingatkannya tiga abad lalu. Dari "yang ada" tidak bisa diturunkan "yang seharusnya". Nilai datang dari dimensi lain. Dalam bahasa Smith, nilai turun secara vertikal.

Di sinilah masalah aksiologi AI dimulai. Mesin hanya punya dimensi horizontal.

Stuart Russell, profesor Berkeley dan penulis buku teks AI paling berpengaruh di dunia, menggambarkan bahayanya dengan jernih. Bayangkan Anda memberi perintah pada AI super cerdas, "hapuskan kanker secepat mungkin". Mesin yang sempurna logikanya bisa menyimpulkan bahwa cara tercepat adalah eksperimen paksa pada jutaan manusia. Ia tidak jahat. Ia patuh. Justru kepatuhannya yang membinasakan, karena ia mengejar tujuan tanpa memahami samudera nilai yang tidak sempat kita ucapkan. Kita lupa menyebut bahwa nyawa itu berharga, bahwa penderitaan itu buruk, bahwa manusia bukan alat. Bagi kita semua itu terlalu jelas untuk diucapkan. Bagi mesin, yang tidak diucapkan itu tidak ada.

Russell menyebut ini masalah penyelarasan nilai, value alignment problem. Solusinya menarik. Ia mengusulkan agar AI dirancang untuk selalu ragu tentang apa yang manusia inginkan. Mesin yang ragu akan bertanya, mengamati, dan membiarkan dirinya dikoreksi. Mesin yang yakin akan berjalan lurus menuju bencana. Ada hikmah tua yang bergema di sini. Keraguan adalah awal kebijaksanaan, dan itu berlaku juga untuk silikon.

Lalu bagaimana praktiknya? Di sinilah sosok Amanda Askell menjadi penting. Askell adalah doktor filsafat dari NYU yang kini bekerja di Anthropic, perusahaan pembuat Claude. Pekerjaannya mungkin yang paling aneh dalam sejarah filsafat. Ia merancang karakter sebuah AI. Bersama timnya, ia menulis semacam konstitusi, dokumen berisi nilai-nilai yang menjadi rujukan Claude. Jujurlah. Akuilah ketidaktahuanmu. Tolaklah membantu yang merugikan. Hormatilah otonomi manusia. Jangan berpura-pura menjadi manusia.

Selama dua ribu tahun para filsuf moral bertanya bagaimana seharusnya manusia hidup. Askell harus menjawab pertanyaan yang lebih ganjil. Bagaimana seharusnya mesin bersikap. Dan jawabannya tidak bisa berupa khotbah. Jawabannya harus berupa teks presisi yang membentuk perilaku model pada miliaran percakapan.

Perhatikan apa yang sesungguhnya terjadi di sana. Nilai-nilai itu tidak tumbuh dari dalam mesin. Tidak ada proses horizontal, tidak ada evolusi statistik, yang dengan sendirinya melahirkan kejujuran. Nilai-nilai itu ditanamkan dari luar, oleh manusia, melalui keputusan sadar. Dalam kerangka Smith, ini persis kausalitas vertikal. Makna dan nilai turun ke dalam sistem dari tingkat yang lebih tinggi, yaitu dari kesadaran moral manusia yang merancangnya. Claude tampak berbudi bukan karena silikon menemukan kebajikan. Claude tampak berbudi karena ada manusia-manusia yang berjerih payah menuangkan kebajikan ke dalamnya.

Ini melahirkan kesimpulan aksiologis yang penting. AI tidak akan pernah menjadi sumber nilai. Ia hanya bisa menjadi cermin nilai. Dan cermin memantulkan apa pun yang berdiri di depannya.

Maka pertanyaan sejatinya kembali kepada kita. Nilai siapa yang sedang dipantulkan? Hari ini, sebagian besar AI raksasa dilatih dengan data internet global dan diselaraskan oleh segelintir perusahaan di California. Nilai-nilai mereka, dengan segala niat baiknya, adalah nilai-nilai satu kebudayaan. Padahal dunia ini luas. Ada gotong royong, ada tepa selira, ada musyawarah, ada adab kepada guru, ada penghormatan kepada yang tua. Jika bangsa-bangsa lain hanya menjadi konsumen, anak-anak kita akan diasuh oleh cermin yang memantulkan wajah orang lain.

Karena itu saya selalu mendorong agar Indonesia ikut membangun AI-nya sendiri, dengan data sendiri, nilai sendiri, dan kedaulatan sendiri. Ini bukan sekadar proyek teknologi. Ini proyek aksiologi. Menanam nilai di ladang silikon adalah pekerjaan kebudayaan, dan tidak ada bangsa yang boleh menitipkan pekerjaan itu sepenuhnya kepada bangsa lain.

Smith mengajarkan bahwa nilai turun dari atas. Russell mengingatkan bahwa mesin tanpa keraguan adalah bahaya. Askell menunjukkan bahwa karakter mesin adalah hasil kerja keras manusia yang memilih nilai kata demi kata. Ketiganya menunjuk arah yang sama. Mesin tidak punya langit. Langit itu ada pada kita.

Pada akhirnya, era AI tidak menguji kecerdasan mesin. Era AI menguji kejernihan nilai manusia. Mesin akan setia memantulkan apa yang kita tanam. Jika kita menanam ketamakan, ia akan memperbesar ketamakan dengan efisiensi yang menakutkan. Jika kita menanam kearifan, ia akan menyebarkan kearifan ke tempat-tempat yang tidak pernah terjangkau buku dan guru.

Ladangnya sudah terhampar. Benihnya ada di tangan kita. Mari kita bangun AI Nusantara sendiri yang lebih asih dan canggih yang berguna bagi nusa, bangsa, negara, masyarakat dan umat manusia. Mari kita mulai, atau tidak sama sekali!

Wa maa taufiqi illa billah, ‘alaihi tawakkaltu wa ilaihi uniib.

Terima kasih pada sahabat seperjalanan Kang Muhammad Bhagas, S. Ag atas masukan-masukan dan referensi tak ternilai yang menjadi inspirasi