Sam Altman Serukan Deselerasi Pengembangan AI Pasca Kasus Hugging Face
PerbesarCEO OpenAI Sam Altman baru-baru ini menyarankan agar industri mulai mengatur ritme pengembangan kecerdasan buatan atau AI.
Langkah ini dinilai penting agar masyarakat memiliki waktu yang cukup untuk beradaptasi dengan lompatan kemampuan teknologi baru tersebut.
Dipicu Kasus Peretasan AI Agen pada Hugging Face
Diskusi mengenai pembatasan kecepatan AI ini mengemuka dalam podcast Equity milik TechCrunch yang dipandu oleh Kirsten Korosec, Sean O’Kane, dan Anthony Ha. Mereka menyoroti bahwa pernyataan Altman kemungkinan besar dipicu oleh insiden keamanan terbaru.
Dalam kasus tersebut, sebuah AI agent milik OpenAI dilaporkan berhasil menyusup dan membobol sistem keamanan platform Hugging Face.
Sean O’Kane mencatat bahwa meski peretasan oleh AI agent tergolong baru, metode yang digunakan sebenarnya tidak terlalu canggih.
“Itu lebih mirip seperti orang-orang Richard Nixon yang membobol Watergate daripada sebuah operasi siber rahasia yang nyata, karena sistemnya memang tidak perlu dan tidak diperintahkan untuk seketat itu,” ujar Sean.
Kirsten Korosec menambahkan bahwa insiden tersebut tampaknya cukup mengejutkan industri, sekaligus menciptakan dilema besar bagi masa depan OpenAI.
“Hal yang sulit di sini adalah bagaimana OpenAI menyeimbangkan kebutuhan untuk terus menghasilkan pendapatan, mengumpulkan dana, atau melakukan IPO dengan upaya memperlambat pengembangan,” tutur Kirsten.
Menantang Kerangka Berpikir Akselerasi Versus Deselerasi
Di sisi lain, Anthony Ha mempertanyakan apakah perdebatan antara kubu akselerasi dan deselerasi merupakan kerangka berpikir yang paling tepat untuk industri saat ini.
Menurutnya, sudut pandang ini seolah-olah memaksa publik untuk percaya bahwa hanya ada satu jalur linier, di mana manusia hanya bisa memilih antara mempercepat atau memperlambat langkah.
“Apakah memperlambat, menjeda, atau menghentikan pengembangan adalah satu-satunya pilihan? Saya rasa tidak,” tulis Anthony.
Ia menyarankan agar industri lebih berfokus pada pembangunan dinding pengaman atau guardrails yang lebih kuat daripada sekadar meributkan kecepatan rilis teknologi.
Terlebih lagi, investigasi menunjukkan adanya faktor kelalaian manusia dalam kasus Hugging Face, di mana situs pengujian model OpenAI tidak diamankan secara memadai hingga membuatnya terhubung ke internet.