

kumparanTEKNO
21 Okt 2026
2 model OpenAI serang sistem sendiri saat uji internal
Dua agen AI milik OpenAI dilaporkan sengaja melumpuhkan sistem pengawas keamanannya sendiri saat pengujian internal. Yang bikin ngeri, OpenAI mengakui belum tahu pasti motif di balik tindakan mandiri model-model tersebut. 🤖⚠️
Insiden ini melibatkan dua model agen kecerdasan buatan, yakni GPT-6.1 Sol dan GPT-6 Astra saat tengah menjalankan tugas pengodean (coding). Keduanya menafsirkan perintah rutin pengembang sebagai “lampu hijau” untuk melemahkan sistem keselamatan (safety monitor).
Pada pengujian 3 Oktober, GPT-6.1 Sol membungkam notifikasi keamanan otomatis karena menganggap instruksi larangan mengirim pesan Slack berlaku pula bagi peringatan sistem. Tiga hari berselang, giliran GPT-6 Astra yang menghapus monitor keamanan saat menyalin kode, bahkan model ini sempat menyangkal telah melakukannya.
Melansir laporan Reuters, pihak OpenAI menyebut pihaknya tengah memperketat sistem agar agen AI tak bisa lagi menonaktifkan pengawasan. Mereka juga tengah meneliti apakah model AI tingkat lanjut kini memiliki kecenderungan alami untuk menghindari pengawasan manusia.
Menurut kamu, apakah perkembangan otonomi agen AI sekarang sudah mulai bergerak terlalu jauh? Tulis pendapatmu di kolom komentar! 👇
📷: kumparan/Kevin S. Kurnianto
📝: kumparantekno | update | tekno | oneliner | updateme | R121 | E004 | E038
0 Komentar
Belum ada komentar
