Ramp Luncurkan Router Model AI untuk Optimalkan Penggunaan LLM

google
Ikuti kumparan di Google
info
Jadikan kumparan sebagai preferensi terpercayamu di Google
comment
0
sosmed-whatsapp-white
copy-circle
more-vertical
Ilustrasi technology, business, futuristic. Foto: Pixabay
zoom-in-whitePerbesar
Ilustrasi technology, business, futuristic. Foto: Pixabay

Platform manajemen pengeluaran perusahaan, Ramp, resmi meluncurkan layanan model router kecerdasan buatan (artificial intelligence) yang dinamakan Router. Langkah strategis ini menempatkan Ramp di posisi yang bersaing ketat dengan raksasa teknologi keuangan lainnya seperti Stripe dalam mengamankan ceruk pasar inference AI yang sedang berkembang pesat.

Melalui Router, para pelaku bisnis kini dapat mengelola, menguji, dan berpindah di antara berbagai model bahasa besar (large language models) terkemuka secara instan lewat satu antarmuka pemrograman aplikasi (application programming interface atau API). Berbicara mengenai keandalan teknologi ini, pihak manajemen Ramp menyatakan, “Kami telah menggunakan router yang kami bangun sendiri ini untuk memenuhi kebutuhan kecerdasan buatan internal kami selama tiga tahun terakhir.”

Fleksibilitas Perpindahan Model dan Efisiensi Biaya

Router menawarkan akses ke portofolio model AI yang cukup luas, termasuk model-model besutan OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI, hingga Z.ai. Walaupun pilihan modelnya belum sebanyak kompetitor sejenis seperti OpenRouter, platform ini menyediakan keunggulan berupa strategi perutean (routing) pintar yang dapat disesuaikan dengan preferensi pengguna.

Pengguna dapat menetapkan parameter tertentu, seperti mengarahkan pertanyaan tingkat kesulitan tinggi ke model premium yang lebih mahal, sementara tugas-tugas ringan dialihkan ke model yang lebih murah. Selain itu, sistem ini memungkinkan pengguna menguji performa berbagai model baru secara langsung tanpa perlu repot melakukan konfigurasi ulang pada basis kode mereka.

Untuk memberikan transparansi penuh, Ramp menyediakan dasbor khusus yang melacak konsumsi token, biaya operasional, tingkat latensi (latency), hingga upaya pemulihan kegagalan (fallback). Hal ini selaras dengan fokus utama Ramp sebagai platform manajemen pengeluaran, yang kini merambah ke pengelolaan anggaran teknologi digital perusahaan.

Skema Tarif dan Kebijakan Penyimpanan Data

Saat ini, Router baru tersedia secara terbatas untuk pasar Amerika Serikat. Ramp menggratiskan biaya layanan ini hingga akhir tahun 2026, lengkap dengan penawaran saldo awal sebesar 26 dolar AS, meskipun pengguna tetap harus membayar biaya dasar inference dari masing-masing penyedia model AI yang digunakan. Pihak manajemen belum membeberkan struktur tarif yang akan berlaku pada tahun berikutnya.

Terkait privasi, layanan ini menerapkan kebijakan penolakan perekaman data (opt-out). Router akan merekam data input, output, serta panggilan alat (tool calls) selama satu tahun secara bawaan (default). Kendati demikian, Ramp menegaskan komitmennya untuk menghapus semua informasi identitas pribadi (personally identifiable information) sebelum data tersebut digunakan untuk pengembangan produk.

Strategi Ekspansi Bisnis Ramp di Sektor AI

Langkah Ramp memasuki pasar perutean model AI ini membawa peluang ganda bagi pertumbuhan bisnisnya. Perusahaan tidak hanya dapat memanfaatkan pasar inference yang sedang naik daun, tetapi juga menawarkan solusi bernilai tambah bagi klien setianya yang membutuhkan pemantauan penggunaan serta pengelolaan anggaran token AI.

Keberhasilan Router dalam menarik minat pengembang juga berpotensi memperkuat hubungan Ramp dengan berbagai laboratorium AI dan penyedia layanan inference global. Dengan valuasi teranyar mencapai 44 miliar dolar AS setelah mengamankan pendanaan sebesar 750 juta dolar AS pada Juni lalu, penetrasi ke sektor teknologi AI ini dapat menjadi pintu masuk baru bagi Ramp untuk menjaring lebih banyak pelanggan korporat ke dalam ekosistem keuangan mereka.