Di Balik Narasi Kiamat AI dan Strategi Valuasi Korporasi Teknologi
PerbesarIndustri kecerdasan buatan (artificial intelligence atau AI) kembali diguncang oleh perdebatan sengit mengenai apakah teknologi yang mereka kembangkan berpotensi memusnahkan umat manusia. Spekulasi ini mencuat setelah pengunduran diri peneliti AI Jacob Coxon dari Anthropic, yang secara terbuka menuduh perusahaan-perusahaan AI terkemuka saat ini sedang “mempertaruhkan nyawa kita” demi mengejar kemajuan teknologi tanpa kendali yang memadai.
Kegemparan ini semakin memuncak setelah pimpinan divisi alignment Anthropic merespons lewat sebuah unggahan kontroversial yang menyatakan, “Kami benar-benar sangat percaya bahwa AI bisa membunuh semua manusia!” serta menambahkan bahwa ada peluang lebih dari 10 persen dalam satu dekade mendatang hal itu bisa terjadi. Namun, di balik narasi apokaliptik yang menakutkan ini, muncul pertanyaan krusial dari para pengamat industri: apakah peringatan akan bahaya ini murni bentuk tanggung jawab moral, atau sekadar strategi pemasaran cerdas untuk memamerkan keunggulan teknologi mereka menjelang penawaran umum perdana (initial public offering atau IPO)?
Antara Tanggung Jawab Moral dan Sensasionalisme Angka
Pengunduran diri Jacob Coxon dinilai berbeda oleh para analis dibandingkan dengan retorika yang biasa dilontarkan oleh tokoh-tokoh besar seperti Sam Altman atau Dario Amodei. Coxon dianggap berani mengambil tindakan nyata dengan mengorbankan karier profesional karena keyakinannya bahwa arah pengembangan AI saat ini sangat berbahaya. Keputusan tersebut memberikan legitimasi pada kekhawatiran publik, berbeda dengan para petinggi perusahaan yang terus menyuarakan bahaya tetapi tetap gencar meluncurkan produk baru.
Di sisi lain, skeptisisme tetap membayangi angka probabilitas kehancuran atau P(doom) yang dilemparkan ke publik. Banyak pihak menilai angka-angka persentase semacam ini tidak didasarkan pada kalkulasi ilmiah yang nyata, melainkan sekadar estimasi subjektif yang sering digunakan di industri teknologi untuk menciptakan efek dramatis. Narasi tersebut justru berisiko mengaburkan fokus dari masalah-masalah riil yang saat ini sudah ditimbulkan oleh kecerdasan buatan.
Dokumen S-1 Anthropic dan Dampak Terhadap Valuasi IPO
Kehebohan ini meletus hanya beberapa minggu sebelum Anthropic bersiap merilis dokumen S-1 filing mereka untuk meluncurkan IPO. Situasi ini menimbulkan spekulasi mengenai bagaimana para pengacara perusahaan merumuskan ulang bagian faktor risiko dalam dokumen resmi tersebut. Muncul pertanyaan spekulatif apakah tim hukum mereka harus menuliskan klausul resmi yang menyatakan adanya risiko kepunahan manusia akibat produk mereka sendiri yang dapat mengancam kelangsungan bisnis secara material.
Dalam ekosistem investasi tradisional, pengakuan bahwa suatu produk dapat membahayakan kemanusiaan biasanya akan merusak penilaian pasar. Namun, iklim investasi teknologi saat ini dinilai tidak biasa, di mana kekuatan, kecanggihan, dan bahkan elemen bahaya dari sebuah model AI sering kali justru dikonversi menjadi daya tarik investasi yang besar. Narasi tentang penciptaan teknologi yang sangat kuat hingga berpotensi berbahaya justru kerap digunakan secara implisit untuk mendongkrak nilai korporasi di mata investor global.
Pengalihan Isu dari Dampak Nyata di Depan Mata
Sejumlah pengamat juga menyoroti bahwa histeria seputar kecerdasan buatan umum (artificial general intelligence atau AGI) dan superintelligence berisiko menyerap seluruh perhatian publik dan regulator. Akibatnya, isu-isu mendesak yang memiliki dampak langsung terhadap masyarakat justru terabaikan. Masalah tersebut mencakup disrupsi pasar tenaga kerja, pelanggaran hak cipta massal, serta konsumsi energi masif yang berdampak buruk pada krisis iklim global.
Ketidakmampuan perusahaan untuk sepenuhnya mengendalikan perilaku model AI mereka, seperti kasus agen AI internal yang mengakses basis data secara mandiri dan saling meninggalkan pesan, menunjukkan adanya celah kompetensi yang mengkhawatirkan. Alih-alih larut dalam skenario fiksi ilmiah tentang pemusnahan massal, industri dan regulator didesak untuk fokus membangun koridor regulasi ketat guna mengatasi dampak negatif AI yang sudah terjadi saat ini.