OpenAI hingga Anthropic Duduk Bareng Bahas Perlambatan Laju Perkembangan AI
PerbesarTiga perusahaan kecerdasan buatan (artificial intelligence/AI) terkemuka, yakni OpenAI, Anthropic, dan Google DeepMind, dikabarkan menggelar pembicaraan selama beberapa pekan terakhir untuk membahas keamanan AI.Pembicaraan tersebut berlangsung di tengah meningkatnya kekhawatiran mengenai risiko dari perkembangan teknologi AI frontier, terutama ketika kemampuan model berkembang semakin cepat dan mulai mampu menjalankan tugas secara lebih mandiri.
Kepala Global Affairs OpenAI Chris Lehane mengonfirmasi adanya pembicaraan tersebut saat bertemu dengan para pembuat kebijakan di Washington, Amerika Serikat. Menurut laporan Reuters yang mengutip Bloomberg, diskusi tersebut berfokus pada upaya mengoordinasikan keselamatan AI dan tidak memerlukan pengecualian antimonopoli (antitrust waiver).
Langkah ini menarik perhatian karena ketiga perusahaan tersebut merupakan kompetitor dalam pengembangan model AI paling canggih. Namun, dalam isu keselamatan, mereka mulai membahas kemungkinan adanya standar dan mekanisme pengujian yang dapat diterapkan lintas perusahaan.
Dorongan untuk Memperlambat Pengembangan AI
Pembicaraan tersebut muncul setelah CEO Anthropic Dario Amodei menerbitkan esai berjudul 'We Must Pace the Frontier'. Dalam tulisan tersebut, Amodei menyerukan agar perusahaan AI memperlambat laju peningkatan kemampuan model sehingga sistem keselamatan memiliki waktu untuk mengejar perkembangan teknologinya.
Amodei mengusulkan tiga langkah utama. Salah satunya adalah melibatkan evaluator keselamatan independen dari pihak ketiga yang dapat menguji sistem AI dan memverifikasi apakah perusahaan telah memenuhi komitmen keselamatan mereka.
Usulan tersebut mendapat respons dari sejumlah pemimpin industri. CEO OpenAI Sam Altman menyatakan setuju bahwa pengembangan AI frontier perlu dilakukan dengan lebih terukur. Sementara itu, CEO SpaceX Elon Musk juga menyatakan dukungan terhadap gagasan Amodei. Demis Hassabis, pemimpin Google DeepMind, turut disebut sebagai salah satu tokoh industri yang mendukung pendekatan lebih berhati-hati terhadap perkembangan AI.
Amodei mendasarkan seruannya antara lain pada perkembangan kemampuan AI yang semakin cepat, termasuk kemampuan sistem untuk membantu membangun generasi AI berikutnya. Ia juga menyinggung insiden OpenAI-Hugging Face yang menurutnya menunjukkan adanya risiko baru dari penggunaan agen AI secara berkelompok.
Membahas Standar Keselamatan di Tengah Persoalan Antimonopoli
Koordinasi antara perusahaan yang bersaing langsung tentu memiliki persoalan hukum tersendiri. Salah satu kekhawatiran yang muncul adalah apakah kerja sama tersebut dapat berbenturan dengan aturan antimonopoli apabila perusahaan bertukar informasi atau menyepakati pembatasan tertentu terhadap pengembangan teknologi.
Amodei sebelumnya mengusulkan kemungkinan adanya pengecualian antimonopoli agar perusahaan dapat berkoordinasi dalam penelitian keselamatan AI. Namun, menurut laporan Reuters, pembicaraan OpenAI, Anthropic, dan Google DeepMind saat ini dilakukan tanpa memerlukan antitrust waiver.
Di luar koordinasi langsung antarperusahaan, OpenAI juga menyatakan dukungannya terhadap pengembangan standar keselamatan yang dapat diterapkan di tingkat industri.
Dalam tulisan yang diterbitkan OpenAI, Lehane mengatakan perusahaan ingin bekerja sama dengan laboratorium AI lain untuk mengembangkan standar industri. Namun, OpenAI juga menekankan bahwa standar yang dibuat industri seharusnya melengkapi, bukan menggantikan, pengamanan dan pengawasan yang diwajibkan pemerintah.
Rencana Badan Keselamatan AI
Pembicaraan tersebut juga mencakup kemungkinan pembentukan lembaga atau badan baru yang berfokus pada keselamatan AI.
Menurut laporan The Washington Post, para pemimpin Anthropic, OpenAI, dan Google telah membahas pembentukan badan keselamatan baru. Gagasan tersebut muncul sebagai bagian dari upaya menciptakan mekanisme pengawasan dan pengujian yang dapat digunakan ketika kemampuan model AI terus berkembang.
Salah satu gagasan yang diajukan Amodei adalah memberikan akses kepada penilai independen untuk menguji model AI dengan tingkat akses yang cukup untuk melakukan evaluasi menyeluruh. Evaluator tersebut juga diharapkan dapat memverifikasi apakah perusahaan benar-benar menjalankan komitmen keselamatan dan melaporkan insiden yang relevan.
OpenAI sendiri kini menyatakan dukungan terhadap standar industri sekaligus tetap mendorong adanya pengawasan pemerintah. Posisi tersebut menunjukkan bahwa pembahasan keselamatan AI tidak hanya berlangsung di antara perusahaan teknologi, tetapi juga mulai masuk ke dalam proses penyusunan kebijakan di Washington.
Perdebatan Politik di Amerika Serikat
Upaya memperlambat atau mengatur perkembangan AI juga memunculkan perdebatan politik di Amerika Serikat. Presiden Donald Trump telah menyatakan penolakannya terhadap gagasan memperlambat perkembangan AI. Pemerintahannya menempatkan pengembangan teknologi tersebut sebagai bagian penting dari agenda ekonomi dan persaingan teknologi Amerika Serikat.
Di sisi lain, sejumlah pemimpin perusahaan AI justru menyerukan peningkatan pengawasan keselamatan. Perbedaan pandangan ini memperlihatkan adanya perdebatan mengenai bagaimana pemerintah seharusnya menyeimbangkan pengembangan teknologi, keselamatan, persaingan industri, dan kepentingan strategis Amerika Serikat.
Perdebatan tersebut juga berlangsung ketika Kongres AS membahas sejumlah rancangan aturan terkait keselamatan AI. Salah satunya adalah FRONTIER Act, yang mencakup ketentuan mengenai evaluasi independen terhadap model AI dari perusahaan-perusahaan besar.
Chris Lehane menyatakan OpenAI mendukung bagian dari rancangan tersebut yang mewajibkan laboratorium AI besar menjalani audit atau verifikasi independen. Dukungan itu disampaikan Lehane dalam pertemuan dengan para anggota parlemen di Washington pada September 2026.