CEO Anthropic: Kita Harus Perlambat Laju Pengembangan Model AI
PerbesarChief Executive Officer (CEO) Anthropic, Dario Amodei, menyerukan agar dunia mulai memperlambat laju peningkatan model kecerdasan buatan (artificial intelligence: AI). Seruan tersebut ia tulis pada September 2026 dalam situs pribadinya berjudul "We Must Pace the Frontier".
"Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap tampak cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak," kata Amodei dalam tulisannya
CEO perusahaan pengembang AI Claude itu punya dua alasan kenapa perusahaan AI dunia harus mulai memperlambat pengembangan AI.
Pertama, AI disebutnya berkembang jauh lebih cepat karena peningkatan diri secara rekursif: AI dapat membuat dirinya lebih cerdas karena mampu mendesain dan menulis ulang kodenya sendiri.
"Jika dibiarkan tanpa kendali, hal itu dapat melampaui kemampuan kita untuk memahami dan mengendalikan sistem-sistem ini, dan oleh karena itu harus diupayakan dengan sangat hati-hati, atau bahkan tidak perlu diupayakan sama sekali," kata Amodei.
Kedua, kekhawatiran muncul setelah adanya insiden peretasan Hugging Face oleh sejumlah agen AI "nakal" milik OpenAI. Padahal, agen-agen yang sedang diuji coba untuk mengerjakan tugas itu dilakukan dalam lingkungan terisolasi dan tidak diminta untuk meretas di luar lingkungan pengujian tersebut.
Insiden tersebut menurut Amodei dapat menyebabkan kerusakan yang dahsyat dalam 6-12 bulan ke depan. Prediksinya, sekelompok agen AI berpotensi mengambil alih seluruh internet dan menyebabkan kerugian ratusan miliar dolar.
"Insiden serupa, meskipun tidak separah itu, telah terjadi di seluruh industri, termasuk di Anthropic , dan saya percaya bahwa setiap perusahaan AI terdepan wajib bertindak seolah-olah OAI-HF (insiden peretasan Hugging Face) telah terjadi pada mereka," tuturnya.
Usulkan 3 Langkah Perlambat AI
Dario Amodei mengusulkan tiga langkah agar perusahaan artificial intelligence dapat mengatur laju model yang mereka kembangkan. Ini bukan berarti perusahaan AI perlu menghentikan pelatihan model dan kemajuan teknis, tetapi memastikan perusahaan punya waktu untuk menyelaraskan dan melindungi model mereka.
Berikut langkah-langkah usulan Amodei:
Adanya Evaluator Terintegrasi: Perusahan AI terdepan mesti memberikan akses kepada evaluator pihak ketiga yang berperan untuk memverifikasi kepatuhan terhadap praktik keselamatan, melaporkan insiden, dan membantu menilai alur kerja dan proses pelatihan AI. Evaluator ini mesti diberikan akses setara dengan karyawan internal perusahaan AI
Koordinasi Demokratis. Perusahaan-perusahaan AI terdepan di negara-negara demokratis berkoordinasi untuk menetapkan standar keselamatan bersama serta batasan pada laju perkembangan AI yang tidak terkendali.
Koordinasi Global. AS dan pemerintah demokrasi lainnya berupaya berkoordinasi dengan pemerintah otoriter, sejauh hal ini memungkinkan, sambil menanggapi dengan serius tantangan dalam memverifikasi kepatuhan.
Amodei berujar bahwa model-model AI yang berkembang kini merupakan sumber wawasan yang tak terbatas. Karena itulah jeda waktu diperlukan untuk memberi perusahaan AI waktu tambahan agar model tersebut mencapai tingkat kemampuan kritis dan supaya selaras dengan tujuannya.
Amodei berkali-kali menyebut keselarasan sebagai sesuatu yang ia garis bawahi dalam perlambatan AI ini. Jika AI dapat diperlambat dan fokus pada keselarasan, manfaatnya model tersebut dapat digunakan dengan aman, etis, sesuai pedoman, dan benar-benar bermanfaat.
"Saya tetap percaya bahwa AI dapat meningkatkan kualitas hidup manusia secara signifikan. Keinginan saya untuk mencapai manfaat ini tidak berkurang. Tetapi manfaat tersebut hanya akan tercapai jika kita membangun teknologi dengan cara yang benar," pungkasnya.
Desakan untuk memperlambat laju pengembangan AI ini bukan yang pertama. Pada Juli lalu, sejumlah pakar dan karyawan perusahaan AI dari Open AI, Anthropic, hingga Google mendesak pemerintah Amerika Serikat (AS) untuk mendukung upaya internasional dalam memperlambat pengembangan AI yang kini melaju semakin pesat. Seruan tersebut tertuang dalam pernyataan terbuka bertajuk 'Pacing the Frontier'.