OpenAI Pecat 3 Peneliti Vokal Kritik AI, Diduga Bagikan Info ke Eksternal
PerbesarPerusahaan pengembang ChatGPT, OpenAI, memecat tiga orang penelitinya karena diduga menyalahgunakan "informasi sensitif" dan melanggar kebijakan internal perusahaan.
Mereka diduga membagikan informasi rahasia perusahaan kepada organisasi eksternal yang menjadi penilai model kecerdasan buatan (artificial intelligence/AI).
Meskipun OpenAI tidak secara resmi mengonfirmasi identitas pegawai yang diberhentikan, laporan dari The Wall Street Journal (WSJ) dan Bloomberg menyebutkan ketiga peneliti tersebut adalah Jasmine Wang, Tomek Korbak, dan Mikita Balesni.
Ketiganya diketahui bekerja pada divisi keselamatan dan penyelarasan (safety and alignment) AI.
"Kami telah berpisah dengan tiga individu. Investigasi kami mengonfirmasi bahwa individu-individu ini menyalahgunakan informasi sensitif di luar prosedur resmi perusahaan, melanggar kebijakan kami, serta merusak kepercayaan yang sangat penting bagi pekerjaan kami,"ujar OpenAI dalam pernyataan resminya, seperti dilansir AFP.
Peringatan AI Mempertaruhkan Nyawa Manusia
Pemecatan ini terjadi di tengah memanasnya perdebatan global mengenai risiko eksistensial teknologi AI terhadap umat manusia.
Bulan lalu seorang peneliti berusia 27 tahun bernama Jacob Coxon mengundurkan diri dari Anthropic seraya memberikan peringatan keras bahwa laboratorium AI terkemuka —termasuk mantan tempatnya bekerja, OpenAI— sedang "mempertaruhkan nyawa kita" demi memacu pengembangan model yang semakin kuat.
Ketiga peneliti yang dipecat terpantau aktif menyuarakan kekhawatiran terkait keselamatan AI di platform X (sebelumnya Twitter) dalam beberapa pekan terakhir.
Mikita Balesni mengunggah pernyataan pada 10 September: "Saya di OpenAI dan saya pikir AI memiliki kemungkinan >10% untuk membunuh seluruh manusia."
Tomek Korbak menyampaikan kritik terbuka pada 11 September, "Saya cukup tidak puas dengan banyak hal yang dilakukan OpenAI. Saya sangat senang diperbolehkan mengatakan 'Saya cukup tidak puas dengan banyak hal yang dilakukan OpenAI'."
Jasmine Wang merespons pengunduran diri Coxon dengan menggarisbawahi bahaya recursive self-improvement (RSI)—teknik di mana perangkat lunak dirancang untuk terus mengajari dan mengembangkan dirinya sendiri secara mandiri.
CEO Anthropic (perusahaan pengembang AI Claude), Dario Amodei, sempat lebih dulu mengkhawatirkan teknik pengembangan diri secara rekursif AI. Karenanya, itu jadi salah satu alasan ia menyerukan memperlambat pengembangan AI.
"Jika dibiarkan tanpa kendali, hal itu dapat melampaui kemampuan kita untuk memahami dan mengendalikan sistem-sistem ini, dan oleh karena itu harus diupayakan dengan sangat hati-hati, atau bahkan tidak perlu diupayakan sama sekali," kata Amodei.