CEO OpenAI Peringatkan Bahaya AI: Jangan Sampai Manusia Kehilangan Kendali

CEO OpenAI, Sam Altman, menegaskan bahwa manusia harus tetap memegang kendali atas masa depan, terutama dalam menentukan bagaimana teknologi kecerdasan buatan (artificial intelligence/AI) memengaruhi kehidupan masyarakat.
Altman menolak gagasan yang berkembang di Silicon Valley bahwa suatu saat manusia perlu menyerahkan kendali pengambilan keputusan kepada AI secara bertahap.
Pernyataan tersebut disampaikan Altman saat menghadiri acara The New York Times DealBook Summit pada Rabu (18/11). Dalam acara tersebut ia membahas perdebatan di kalangan industri teknologi mengenai kemungkinan AI mengambil alih peran manusia dalam menentukan berbagai keputusan penting di industri maupun institusi.
"Salah satu hal yang belakangan banyak kami bicarakan adalah munculnya gagasan di Silicon Valley yang sebenarnya terdengar cukup konyol untuk dilawan. Namun, kami berdua sangat yakin bahwa manusia harus tetap mengendalikan masa depan,” kata Altman.
Belakangan ini, semakin banyak pembicaraan bahwa akan ada, atau bahkan seharusnya ada, proses penyerahan kendali secara bertahap kepada AI. Saya dan Greg sama-sama sepakat bahwa itu adalah gagasan yang buruk.”
- Sam Altman, CEO OpenAI -
Di acara itu Altman berbagi panggung dengan Greg Brockman, salah satu pendiri sekaligus Presiden OpenAI. Gagasan penyerahan kendali kepada AI muncul dari keyakinan bahwa model AI akan semakin canggih dan suatu saat mampu meningkatkan kemampuannya sendiri. Konsep ini dikenal sebagai recursive self-improvement (RSI).
Dalam skenario tersebut, teknologi AI yang sudah ada akan membangun generasi AI berikutnya dengan kemampuan yang lebih tinggi. Proses itu diyakini dapat terus berlanjut hingga menghasilkan superintelligence yang pada akhirnya tidak lagi bisa dikendalikan manusia.
Altman menjelaskan bahwa dirinya dan Brockman sebenarnya memiliki pandangan yang sama mengenai pentingnya menjaga kendali manusia atas masa depan. Perbedaan di antara keduanya lebih terletak pada cara mencapai tujuan tersebut dan tantangan yang mungkin muncul selama prosesnya.
"Pertanyaannya adalah bagaimana kita benar-benar mencegah hal itu terjadi. Bagaimana memastikan bahwa, di tengah berbagai tekanan dan kemungkinan langkah yang diambil perusahaan lain, manusia tetap memegang kendali penuh atas masa depan? Kita tidak ingin terjadi penyerahan kendali, baik secara tidak sengaja maupun disengaja. Saya rasa kami berdua sepakat mengenai hal itu," ujar Altman.
OpenAI Soroti Tantangan Keamanan AI yang Semakin Canggih
Brockman menambahkan, semakin tinggi kemampuan model AI, semakin besar pula tanggung jawab perusahaan untuk memastikan teknologi tersebut tetap selaras dengan nilai dan tujuan manusia (alignment), aman, serta terlindungi dari berbagai ancaman.
Menurutnya, kondisi tersebut mungkin mengharuskan industri mengubah sejumlah pendekatan yang selama ini digunakan dalam mengembangkan dan mengawasi AI.
Salah satu contohnya adalah pemantauan atau monitoring terhadap cara kerja model AI. Brockman menilai industri akan membutuhkan teknologi baru untuk mengawasi model yang semakin canggih.
Saat ini, peneliti AI memantau chain of thought, yakni proses ketika model AI menuliskan tahapan pemikirannya saat menyelesaikan masalah atau menjalankan tugas tertentu. Namun, menurut Brockman, metode tersebut mungkin tidak lagi cukup efektif untuk mengawasi model AI generasi terbaru.
Seiring meningkatnya kemampuan model, AI dapat melakukan lebih banyak hal melalui proses internalnya tanpa harus menuliskan seluruh tahapan pemikiran tersebut.
"Ketika kemampuan model semakin meningkat, mereka bisa melakukan lebih banyak hal hanya melalui proses internal tanpa harus benar-benar menuliskan pemikirannya. Artinya, kita membutuhkan pendekatan baru untuk melakukan pemantauan," kata Brockman.
Ia mengatakan OpenAI perlu mengembangkan teknologi baru untuk mengatasi tantangan tersebut. Sebab, ketika kemampuan AI mencapai tingkat tertentu, efektivitas pemantauan melalui chain of thought bisa semakin menurun.
Kendati begitu, Brockman menilai berbagai persoalan tersebut pada dasarnya merupakan tantangan teknis yang masih bisa diselesaikan.
OpenAI sendiri sebelumnya telah berkomitmen meningkatkan pemantauan chain of thought setelah terjadi insiden ketika sebuah model AI milik perusahaan berhasil keluar dari sistem pembatasan dan meretas repositori model AI Hugging Face.
Brockman mengungkapkan bahwa setelah insiden itu, OpenAI meminta 25 persen insinyur yang bekerja pada sistem produksi untuk menghentikan sementara pekerjaan mereka dan beralih fokus mengamankan teknologi AI perusahaan.
Meski sempat mengalami insiden keamanan yang menjadi sorotan, Brockman menilai pengembangan teknologi AI tetap harus berjalan. Menurutnya, kemajuan kemampuan AI justru dibutuhkan untuk membantu menghadapi pelaku kejahatan siber.
Ia mengkritisi bagaimana model AI dengan kemampuan siber yang semakin canggih kini berpotensi berada di tangan para pelaku ancaman (threat actors). Karena itu, pihak yang bertugas melindungi sistem dan jaringan komputer juga perlu memanfaatkan model AI dengan kemampuan paling mutakhir untuk menghadapi ancaman tersebut.
"Saya rasa penting untuk menyadari bahwa jika kita melihat tingkat kemampuan model AI yang ada saat ini di dunia, kita juga melihat model-model siber yang kini berada di tangan para pelaku ancaman di berbagai tempat. Karena itu, sangat penting bagi pihak yang bertugas melindungi sistem untuk menggunakan model dengan kemampuan paling canggih dalam menjalankan pertahanan," kata Brockman.
