Google Bikin Chip Ironwood Buat Jalankan Kinerja AI Lebih Cepat

Ilustrasi chatbot AI Google Gemini. Foto: Shutterstock

Google meluncurkan chip kecerdasan buatan atau AI generasi ketujuh bernama Ironwood. Chip ini dibuat untuk mempercepat kinerja AI.

Chip Ironwood merupakan akselerator AI yang dirancang secara khusus untuk inferensi alias melakukan pemrosesan data yang dibutuhkan saat user meminta informasi dari software seperti ChatGPT milik OpenAI.

Ironwood memberikan kalkulasi cepat untuk memberikan jawaban dalam chatbot atau memproses respons lain.

Chip Ironwood menawarkan kinerja dua kali lipat lebih baik untuk jumlah energi yang dibutuhkan dibandingkan dengan chip Trillium Google yang diumumkan tahun lalu, kata VP Google, Amin Vahdat dilansir Reuters.

Chip ini mampu mengelola komputasi kompleks dan permintaan komunikasi "thinking model" dengan baik, yang mencakup Large Language Models (LLM), Mixture of Experts (MoEs), dan tugas penalaran tingkat lanjut. Model-model ini memerlukan pemrosesan paralel yang masif dan akses memori yang efisien.

Secara khusus, Ironwood dirancang untuk meminimalkan pergerakan data dan latensi pada chip saat menjalankan manipulasi tensor yang masif.

"Kami merancang Ironwood TPUs dengan latensi rendah, jaringan ICI bandwidth tinggi untuk mendukung komunikasi terkoordinasi dan sinkron pada skala penuh pod TPU (tensor processing unit)," tulis Google dalam blognya.

Ironwood tersedia untuk ekosistem Google Cloud. Untuk pelanggan Google Cloud, Ironwood hadir dalam dua pilihan berdasarkan tuntutan beban kerja AI: konfigurasi 256 chip dan konfigurasi 9.216 chip.

"Solusi liquid cooling kami yang canggih dan desain chip yang telah dioptimalkan, (setara) dua kali kinerja pendinginan udara standar bahkan di bawah beban kerja AI yang berat dan terus-menerus. Faktanya, Ironwood hampir 30x lebih hemat daya daripada Cloud TPU pertama kami dari tahun 2018," jelas Google.

Unit pemrosesan tensor (TPU) Google di dalam chip ini eksklusif cuma bisa digunakan oleh para insinyur serta kalangan mereka sendiri. Tujuannya tak lain menjadikan AI milik Google unggul dibanding kompetitor.

Dengan chip ini, customer Google dapat melakukan training dan melayani workload dengan kinerja tertinggi dengan latensi serendah mungkin, sekaligus dapat merasakan peningkatan eksponensial saat melakukan komputasi.

"Lewat Ironwood, kami tidak sabar untuk melihat terobosan AI apa yang dipicu oleh developer kami sendiri dan pelanggan Google Cloud. (Chip ini akan) tersedia akhir tahun ini."