BRIN Dorong Indonesia Uji dan Awasi Sistem Automasi AI
PerbesarAnggota Dewan Pengarah Badan Riset dan Inovasi Nasional (BRIN) Marsudi Wahyu Kisworo menyerukan Indonesia membentuk AI Safety Institute untuk menguji dan mengawasi sistem artificial intelligence (AI).
Usulan ini mengemuka seiring berkembangnya agentic AI. AI dianggap tak lagi memberikan jawaban atau pasif menerima instruksi, tapi juga mampu mengeksekusi keputusan dengan intervensi manusia yang semakin terbatas.
“AI yang tadinya pasif akan menjadi AI yang aktif. AI tidak lagi sebatas menjawab pertanyaan, tetapi sudah bisa mengeksekusi dan melakukan aksi,” ujar Marsudi sebagaimana dikutip melalui situs resmi BRIN, Sabtu (26/9).
Marsudi menyebut AI telah bergeser dari sistem yang menjalankan perintah menjadi teknologi yang dapat diberi tujuan, mengakses ekosistem perangkat lain, menentukan tindakan, dan menjalankan tugas.
Daftar isi
Daftar isi
Daftar isi
Perlunya Pengawasan pada AI yang Berdampak Luas
Pengawasan dan pengujian pada sistem AI itu menurut Marsudi perlu dilakukan sebelum digunakan pada sektor yang berdampak luas terhadap masyarakat.
Munculnya agentic AI memang membuka peluang pemanfaatan AI di berbagai bidang. Meski begitu, hal itu juga memunculkan tantangan keselamatan, keamanan, akuntabilitas, dan pengawasan. Apalagi jika ke depan pemanfaatan AI meluas ke bidang vital seperti kesehatan, pertanian, pendidikan, transportasi, layanan sosial, hingga infrastruktur kritis.
“Isu utamanya bukan lagi menolak atau menelan bulat-bulat AI, tetapi tantangan sebenarnya adalah bagaimana kita bisa mengeksplorasi maksimal tanpa mengorbankan keselamatan publik,” katanya.
Karenanya BRIN mendorong pembentukan AI Safety Institute agar dapat menjalankan fungsi pengujian dan audit independen serta menyediakan ruang uji terisolasi atau regulated sandbox. Harapannya, sistem AI dapat dievaluasi sebelum diterapkan ke sektor yang berdampak luas.
“Lembaga ini bukan untuk menambah birokrasi, melainkan bertindak sebagai benteng penguji, melakukan audit independen, serta menyediakan ruang uji terisolasi atau regulatory sandbox,” ujar Marsudi.
Ia mengatakan, pengujian diperlukan karena penggunaan AI dapat menghadirkan berbagai risiko, mulai dari bias dan diskriminasi, perlindungan data pribadi, kesalahan pengambilan keputusan, hingga kerentanan terhadap serangan siber.
Pengawasan di Tujuh Aspek
Marsudi mengusulkan tujuh aspek yang perlu diuji sebelum suatu sistem AI diberi kewenangan mengeksekusi keputusan yang berdampak luas yakni 1) potensi bias diskriminatif, 2) transparansi dasar pengambilan keputusan, 3) perlindungan data pribadi, 4) tingkat kontrol dan intervensi manusia, 5) mekanisme penghentian sistem, 6) kejelasan subjek hukum yang bertanggung jawab apabila terjadi kesalahan, serta 7) ketahanan infrastruktur terhadap peretasan.
BRIN menilai bahwa aspek pengawasan tersebut penting ketika AI digunakan dalam pengambilan keputusan berkaitan dengan masyarakat. Sebagai contoh dalam menentukan kelayakan bantuan sosial (bansos), akses fasilitas kesehatan, pemberian kredit, hingga pengelolaan sistem pendidikan.
Kendali atas AI menurut Marsudi tetap harus berada pada manusia, terutama dalam aspek pertanggungjawaban atas penggunaannya. Kendali manusia itu juga dinilai perlu demi mencegah manusia terlalu bergantung pada hasil kerja AI.
Ia pun mendorong pengaturan AI di Indonesia menjadi ketentuan khusus yang memiliki konsekuensi hukum
“Sudah saatnya Indonesia mulai memikirkan aspek-aspek keselamatan AI ini bergeser dari sebatas imbauan etika menjadi kewajiban hukum yang mengikat dalam koridor governance (tata kelola), risk (risiko), and compliance (kepatuhan),” ujar Marsudi.
Bos-bos AI Peringati Agen AI di Luar Kendali
Baru-baru ini dalam sidang darurat Dewan Keamanan PBB, tiga bos pengembang kecerdasan buatan seperti CEO OpenAI Sam Altman, CEO Anthropic Dario Amodei, dan CEO HuggingFace Clement Delangue mengungkap mengenai kekhawatiran akan AI yang semakin otonom.
Dario Amodei menyebut mengelola risiko AI mulai dari potensi penyalahgunaan untuk senjata biologis hingga hilangnya kendali manusia atas sistem yang makin otonom bukan lagi persoalan satu perusahaan, melainkan sudah berskala industri dan global.
Amodei menyampaikan bahwa AI berpotensi menjadi risiko bagi umat manusia secara keseluruhan, jika dikelola secara serampangan.
"Tidak ada pemimpin, perusahaan, maupun negara yang dapat menangani ini sendirian. Kami berkomitmen untuk bekerjasama dengan perwakilan pemerintah di ruangan ini dalam [menangani] situasi urgen ini," terang Amodei berbicara melalui video telekonferensi.
Sementara CEO OpenAI menyoroti dua skenario terburuk yang menurutnya wajib dihindari dunia: (1) hilangnya kendali manusia atas masa depan ke tangan AI, dan (2) konsentrasi kekuasaan berlebihan pada segelintir perusahaan atau negara yang menguasai teknologi ini.
"Industri tidak boleh menerima risiko teknologi yang terlalu besar hanya karena manfaatnya dianggap terlalu besar dan terlalu penting untuk diperlambat. Mengalahkan perusahaan lain dalam persaingan bukan alasan untuk mengambil keputusan gegabah, dan kami juga tidak percaya bahwa kami terjebak dalam sebuah perlombaan yang membuat kami tidak mampu melakukan itu," kata Altman.