CEO OpenAI & Anthropic Ingatkan PBB soal Risiko AI, Janji Rem Pengembangan
PerbesarCEO OpenAI, Sam Altman, dan CEO Anthropic, Dario Amodei, yang biasanya berseteru, kembali kompak mengingatkan dunia soal risiko kecerdasan buatan (AI). Peringatan tersebut disampai keduanya di hadapan Dewan Keamanan PBB dalam sidang darurat membahas ancaman kecerdasan artifisial terhadap keamanan internasional.
Selain Sam Altman dan Dario Amodei , CEO Hugging Face, Clement Delangue, juga hadir dalam sidang tersebut. Ketiganya sepakat bahwa risiko AI sudah terlalu besar untuk ditangani satu perusahaan atau satu negara saja.
Pernyataan paling tegas datang dari Amodei. Ia menyebut mengelola risiko AI mulai dari potensi penyalahgunaan untuk senjata biologis hingga hilangnya kendali manusia atas sistem yang makin otonom bukan lagi persoalan satu perusahaan, melainkan sudah berskala industri dan global.
"Tidak ada pemimpin, perusahaan, maupun negara yang dapat menangani ini sendirian. Kami berkomitmen untuk bekerjasama dengan perwakilan pemerintah di ruangan ini dalam [menangani] situasi urgen ini," terang Amodei berbicara melalui video telekonferensi.
Amodei menyampaikan bahwa AI berpotensi menjadi risiko bagi umat manusia secara keseluruhan, jika dikelola secara serampangan. Ia berjanji Anthropic akan memperlambat laju rilis produknya sejauh diperlukan demi memastikan setiap teknologi AI yang diluncurkan benar-benar aman.
Senada dengan Amodei, Altman turut mendorong perlunya kerja sama lintas negara untuk menyusun standar keamanan AI internasional.
Ia mengibaratkan situasi saat ini dengan preseden dalam sejarah, di mana negara-negara yang bersaing dan tak selalu akur tetap bisa bersatu demi kepentingan bersama menghadapi teknologi baru yang berbahaya.
"Dalam sejarah kita umat manusia, ada kalanya di mana negara-negara yang saling bersaing dan selalu tak akur satu sama lain, tetapi masih bisa berjalan beriringan dalam rangka kepentingan bersama dan kebaikan kolektif untuk menghadapi teknologi baru yang kuat," kata CEO OpenAI.
Berkembang pesatnya AI dan risiko yang menyertainya menurut Altman adalah salah satu dari situasi untuk negara-negara itu saling bekerja sama.
2 Skenario Terburuk Berkembangnya AI
CEO OpenAI menyoroti dua skenario terburuk yang menurutnya wajib dihindari dunia: (1) hilangnya kendali manusia atas masa depan ke tangan AI, dan (2) konsentrasi kekuasaan berlebihan pada segelintir perusahaan atau negara yang menguasai teknologi ini.
Altman bahkan menyebut risiko katastrofik sekecil 0,1 persen sekalipun tidak bisa diterima, dan perusahaan seharusnya tidak melatih model yang tak bisa dijamin tetap berada di bawah kendali manusia.
"Industri tidak boleh menerima risiko teknologi yang terlalu besar hanya karena manfaatnya dianggap terlalu besar dan terlalu penting untuk diperlambat. Mengalahkan perusahaan lain dalam persaingan bukan alasan untuk mengambil keputusan gegabah, dan kami juga tidak percaya bahwa kami terjebak dalam sebuah perlombaan yang membuat kami tidak mampu melakukan itu," kata Altman.
Sementara itu, Delangue membawa sudut pandang yang sedikit berbeda. Alih-alih menyoroti risiko pada model AI seperti dua koleganya, ia menekankan bahwa ancaman terbesar justru terletak pada asimetri kapabilitas—antara penyerang dan pembela siber, antara segelintir perusahaan besar dan sisanya, serta antara negara maju dan berkembang.
Solusinya, menurut Delangue di DK PBB, adalah memperluas akses lewat AI open-source agar kapabilitas tak menumpuk di tangan segelintir pihak.
"Dunia butuh open source AI (AI sumber terbuka) lebih dari sekarang untuk melindungi diri," ujar CEO Hugging Face itu, merujuk pada pengalaman perusahaannya yang sempat jadi korban serangan siber oleh agen AI "nakal" milik OpenAI pada Juli lalu.