Konten dari Pengguna

Chaos Singularity: Saat Keyakinan ke AI Justru Lahirkan Kekacauan

comment
0
sosmed-whatsapp-white
copy-circle
more-vertical

Tulisan dari Filsafat Sains Dimitri Mahayana tidak mewakili pandangan dari redaksi kumparan

Hinton (tengah). (Sumber: Web)
zoom-in-whitePerbesar
Hinton (tengah). (Sumber: Web)

Kita akrab dengan narasi Singularity. Suatu hari AI melampaui kecerdasan manusia. Lalu semua masalah selesai. Penyakit, kemiskinan, bahkan kematian. Narasi ini sangat optimis. Bahkan hiper-optimis.

Saya menawarkan narasi kebalikannya. Saya menyebutnya Chaosingularity.

1. Inti Gagasan

Masalahnya bukan AI yang terlalu cerdas. Masalahnya manusia yang menganggap AI super cerdas. Lalu menyerahkan banyak urusan penting kepadanya secara otonom. Keuangan, kesehatan, hukum, pertahanan, informasi publik.

Di situlah bencana dimulai. Pelan, lalu makin cepat.

2. Akar Ontologis: AI Itu Probabilistik

AI generatif bekerja dengan menebak keluaran yang paling mungkin. Bukan dengan mengetahui kebenaran.

Dari watak dasar ini lahir empat penyakit bawaan:

* Halusinasi: jawaban yakin, tapi keliru.

* Bias: mewarisi ketimpangan data latihnya.

* Inakurasi: kecil per kasus, besar bila dikalikan jutaan keputusan.

* Tanpa ground of truth: AI tidak punya pijakan kebenaran. Ia hanya punya pola statistik.

Ini bukan bug yang bisa ditambal tuntas. Ini sifat dasarnya.

3. Suara dari Dalam: Hinton

Salah satu sumber gagasan ini adalah Geoffrey Hinton. Bapak deep learning. Peraih Nobel Fisika 2024.

Justru dia yang paling keras memperingatkan. Ia menyebut peluang 10 sampai 20 persen AI berujung pada hasil katastrofik. Ia juga menilai keselamatan sering kalah oleh kejar keuntungan.

Kalau perancang mesinnya saja khawatir, kita patut berhenti sejenak.

4. Mengapa Tetap Dikebut?

Ada dua mesin pendorong.

* Geopolitik: perlombaan AI Amerika vs China. Siapa lambat, kalah. Kebijakan AI pemerintahan Trump, misalnya, menonjolkan deregulasi demi memenangkan perlombaan ini.

* Kapitalisme global: valuasi triliunan dolar, pusat data raksasa, janji efisiensi. Para tokoh industri digital global menjual Singularity sebagai keniscayaan.

Hasilnya, Singularity bukan lagi sekadar prediksi. Ia menjadi semacam keimanan baru. Neil Postman menyebutnya technopoly. Teknologi menjadi otoritas tertinggi. Budaya tunduk kepadanya.

5. Dampaknya: Kekacauan yang Menumpuk

Kesalahan kecil AI, bila dipakai otonom dan massal, tidak saling meniadakan. Ia berantai. Ia menumpuk. Makin lama makin chaotic.

* Informasi: deepfake dan hoaks. Publik sulit membedakan fakta.

* Kerja: PHK lebih cepat dari kemampuan kebijakan beradaptasi.

* Keuangan: kredit dan trading otomatis yang bias bisa memicu efek domino.

* Kesehatan dan hukum: diagnosis atau putusan keliru yang tampak meyakinkan.

* Keamanan siber: agen AI otonom dipakai menyerang sistem.

* Pendidikan: manusia malas berpikir. Keahlian tergerus.

* Pertahanan: senjata otonom. Ruang salah hitung makin besar.

6. Lalu Apa Sikap Kita?

Chaosingularity bukan ajakan menolak AI. Ini ajakan rendah hati.

* AI sebagai alat bantu. Bukan pengambil keputusan akhir untuk urusan kritis.

* Manusia tetap memegang kendali (human in the loop).

* Verifikasi, audit, dan uji stabilitas sebelum otonomi diberikan.

* Regulasi yang sehat. Bukan sekadar lomba cepat.

* Literasi publik: AI itu menebak, bukan mengetahui.

7. Catatan yang Adil

Kubu optimis punya argumen. AI terus membaik. Halusinasi bisa ditekan dengan retrieval, verifikasi, dan pengawasan. Sebagian ahli menilai AI masih jauh dari otonomi penuh. Amerika pun mulai menambah uji pra-rilis untuk model frontier.

Jadi masa depan belum pasti. Justru karena itu, pilihan kita hari ini menentukan. Singularity yang menolong. Atau Chaosingularity yang menenggelamkan.

Yang berbahaya bukan mesin yang cerdas. Yang berbahaya adalah manusia yang berhenti waspada. Dan menyerahkan urusan2nya pada mesin tanpa kesadaran, mesin yang ia sangka super cerdas. Bak Sapi Samiri, demikianlah AI tanpa kewaspadaan Pemerintah, Regulator, Institusi yang menggunakan maupun tanpa kebijakan dan kewaspadaan para pengguna individual akan membawa pada Chaosingularity Kiamat ala Hinton. (**)