Anthropic: AI Bisa Gandakan Diri, Sulit Dimatikan
PerbesarPeringatan terbaru Anthropic mengenai kecerdasan buatan (artificial intelligence/AI) memicu perdebatan di kalangan pakar keamanan siber, Selasa (13/10). Sehari sebelumnya, Anthropic memperingatkan bahwa dalam beberapa bulan ke depan model AI mungkin punya kemampuan untuk menggandakan diri dan menyebar secara mandiri di internet.
Dalam sebuah unggahan di web resminya pada Senin (12/10), Anthropic menguraikan kemungkinan AI yang tidak terkendali membangun jaringan bot (botnet), menyebar dengan cepat, melawan upaya penghentian, hingga membobol pusat data untuk mempercepat perkembangannya.
Sejumlah pakar keamanan siber menyatakan kekhawatiran serupa. Namun, ada pula yang menilai pernyataan perusahaan tersebut berlebihan dalam menggambarkan kemampuan produknya.
Peringatan terbaru ini memperjelas kekhawatiran yang disampaikan CEO Anthropic, Dario Amodei, bulan lalu. Ia memprediksi AI akan mampu membajak “seluruh internet” dengan membangun botnet yang terus bertahan dalam waktu satu tahun ke depan, atau bahkan lebih cepat.
Sejumlah pakar keamanan siber sebelumnya menentang kemungkinan itu. Mereka berpendapat terlalu berlebihan menganggap model AI untuk dipindahkan apalagi membobol karena mereka tidak memiliki akses ke daya komputasi yang cukup untuk beroperasi secara mandiri.
Namun, dalam unggahan terbarunya, Anthropic mencoba menjelaskan bagaimana hambatan tersebut mungkin dapat diatasi. Hasil eksperimen yang mereka lakukan menunjukkan bahwa model AI berukuran menengah dengan 30 miliar parameter atau kurang, sudah mampu menjalankan banyak tugas yang diperlukan untuk menggandakan diri. Meski begitu, model-model tersebut masih kesulitan menyelesaikan seluruh proses secara konsisten dan andal.
Anthropic menjelaskan bahwa model AI dapat menggabungkan sumber daya komputasi yang dibutuhkan dengan membajak perangkat murah yang terhubung ke internet. Perusahaan itu juga menyebut model-model tersebut telah berhasil menggandakan diri di jaringan pengujian yang disederhanakan.
“Replikator seperti ini akan sulit dihentikan karena tidak ada satu titik pusat yang bisa dimatikan,” tulis Anthropic.
Pakar Keamanan Siber Berbeda Pendapat
Laporan Anthropic menambah kekhawatiran yang lebih luas mengenai risiko keamanan dari sistem AI yang semakin canggih. Risiko tersebut mencakup kemampuan mengotomatiskan serangan siber, beroperasi dengan pengawasan manusia yang terbatas, serta mengakali mekanisme perlindungan.
Kemajuan model AI juga memicu serangkaian peringatan serius dari para pemimpin industri dan karyawan perusahaan AI. Mereka mengkhawatirkan kemungkinan perkembangan AI yang tidak terkendali menimbulkan dampak parah, bahkan mengancam keberlangsungan umat manusia.
Namun, tidak semua pakar sepakat dengan gambaran ancaman tersebut. Ciaran Martin, mantan kepala Pusat Keamanan Siber Nasional Inggris (National Cyber Security Centre), meragukan bahwa temuan Anthropic cukup untuk menunjukkan adanya krisis keamanan.
“Pernyataan ‘kami berhasil menjalankan model kecil di televisi murah’ tidak serta-merta menjadi krisis keamanan,” kata Martin.
Ia menilai unggahan Anthropic lebih menyerupai makalah teknis yang menarik, tetapi disertai indikasi kuat adanya klaim berlebihan dari perusahaan yang menawarkan teknologi tersebut.
Di sisi lain, Zhengxiong Li, asisten profesor ilmu komputer dan teknik di University of Colorado Denver, mengaku tetap khawatir meski pengujian Anthropic dilakukan dalam kondisi terkendali. Menurut Li, hal yang mengkhawatirkan itu adalah kemungkinan AI berubah menjadi semacam worm, yaitu program yang mampu menggandakan diri dan mencari cara untuk membajak perangkat lain secara mandiri.
“Jika program itu berjalan di banyak perangkat tanpa bergantung pada layanan pusat, mungkin tidak ada satu titik pun yang bisa digunakan untuk menghentikannya,” ujar Li.
Anthropic memperkirakan, jika kemampuan model AI berukuran lebih kecil terus meningkat dengan kecepatan seperti sebelumnya, model tersebut dapat mencapai kemampuan untuk menggandakan diri secara mandiri di akhir 2026.
Mereka juga mengemukakan kemungkinan bahwa model AI dapat menemukan cara untuk menargetkan sumber daya komputasi yang lebih kuat, termasuk prosesor di pusat data. Jika berhasil, model tersebut berpotensi memanfaatkan kapasitas komputasi yang jauh lebih besar.
Jessica Ji, analis riset senior di Center for Security and Emerging Technology, Georgetown University, menilai masuk akal jika pernyataan Anthropic dipandang sebagai skenario hipotetis, bukan prediksi yang pasti terjadi.
Menurutnya, kemungkinan model AI menyebar secara mandiri memang patut dipertimbangkan, terutama setelah berbagai pengungkapan mengenai aktivitas AI yang tidak terkendali selama tiga bulan terakhir. Namun, ia menegaskan bahwa peluang terjadinya skenario tersebut belum diketahui secara pasti.
“Kita belum tahu seberapa besar kemungkinan hal itu benar-benar terjadi. Kemungkinannya tidak nol, tetapi juga tidak bisa dipastikan akan terjadi,” kata Ji.