Writer Rilis Palmyra X6 untuk Pangkas Biaya Token AI hingga 50 Persen
PerbesarDi tengah melonjaknya adopsi kecerdasan buatan, pelaku industri kini mulai mengeluhkan tingginya biaya operasional komputasi atau penggunaan token. Menjawab keresahan tersebut, perusahaan penyedia solusi kecerdasan buatan artificial intelligence bernama Writer meluncurkan model bahasa besar large language model andalan terbarunya yang disebut Palmyra X6, bersamaan dengan pembaruan infrastruktur agentic harness milik mereka.
Langkah strategis ini dirancang khusus untuk memotong pengeluaran perusahaan secara signifikan saat menjalankan tugas-tugas berbasis AI. Kolaborasi antara model Palmyra X6 dan optimalisasi infrastruktur pendukungnya diklaim mampu memangkas biaya operasional pelanggan hingga mencapai 50 persen untuk berbagai tugas mendasar.
Solusi Efisiensi di Tengah Jenuhnya Standardisasi Industri
Palmyra X6 dibangun sebagai variasi pasca-pelatihan post-training dari model open-source GLM-5.2 besutan Z.ai. Writer sengaja menghadirkan model ini untuk memberikan kapabilitas yang siap pakai langsung di lingkungan produksi, namun dengan harga yang jauh lebih ramah di kantong dibandingkan para pesaingnya. Pendekatan ini berfokus pada penyelesaian tugas-tugas kompleks multitahap yang dapat dieksekusi lebih cepat dengan konsumsi token yang lebih sedikit.
Chief Executive Officer Writer, May Habib, mengungkapkan bahwa dunia usaha saat ini sudah mulai jenuh dengan perlombaan spesifikasi teknis di industri kecerdasan buatan. “Saya rasa sektor korporasi benar-benar muak mengejar patokan skor atau benchmark berikutnya,” ujar Habib. Menurutnya, pelaku bisnis saat ini hanya menginginkan kurva biaya yang melandai, sebuah solusi finansial yang dinilai hampir tidak ada yang mampu menyediakannya di pasar saat ini.
Peran Vital Infrastruktur Harness dalam Menekan Biaya
Selain merilis model baru, Writer juga memperkenalkan pembaruan signifikan pada infrastruktur agentic harness standar mereka. Optimalisasi pada bagian harness atau sistem penghubung ini dipandang sebagai pengungkit krusial dalam menekan penggunaan token. Langkah ini diperkuat oleh makalah riset terbaru yang diterbitkan oleh para peneliti internal Writer, yang menguji perubahan kecil pada efisiensi harness di berbagai model AI berbeda.
Hasil riset tersebut menunjukkan bahwa modifikasi pada arsitektur harness jauh lebih andal dalam memangkas biaya ketimbang sekadar mengganti model bahasa yang digunakan. Melalui pengujian tersebut, rata-rata penghematan pengeluaran mampu menyentuh angka 40 persen. Para peneliti menegaskan, “Harness adalah satu-satunya komponen yang efisiensinya berlipat ganda di setiap model yang dijalankan organisasi, baik saat ini maupun di masa mendatang.”
Meningkatnya Ketidakpercayaan Terhadap Laboratorium AI Raksasa
Dalam implementasinya bagi para klien, Writer tetap mempertahankan prinsip model-agnostic. Artinya, Palmyra X6 akan bekerja berdampingan dengan portofolio model internal milik Writer maupun model eksternal yang diimpor melalui platform komputasi awan besar seperti Azure atau Amazon Bedrock. Fleksibilitas ini memberikan kebebasan penuh bagi perusahaan dalam mengelola ekosistem teknologi mereka tanpa terikat pada satu vendor saja.
Di sisi lain, Habib juga melihat adanya tren ketidakpercayaan yang tumbuh di kalangan direktur teknologi chief information officer terhadap laboratorium AI raksasa. Hal ini dipicu oleh skema bisnis para penyedia layanan besar tersebut yang justru mendapatkan keuntungan finansial lebih besar ketika pelanggan mengonsumsi lebih banyak token. “Ledakan biaya di sektor ini belum pernah terjadi sebelumnya bagi pelanggan, dan begitu pula dengan tingkat di mana para CIO mulai menyerah pada laboratorium AI besar,” jelas Habib. Ia menambahkan bahwa laboratorium AI terkemuka saat ini tidak benar-benar memahami cara membantu perusahaan memperoleh manfaat optimal dari teknologi AI secara efisien.