[비즈한국] Nvidia, yang selama beberapa tahun terakhir praktis mendominasi pasar perangkat keras AI, baru-baru ini menandatangani kontrak senilai 20 miliar dolar (sekitar 29 triliun won) dengan Groq, sebuah startup pembuat chip khusus inferensi. Hal ini dianggap sebagai sinyal bahwa arus industri semikonduktor AI sedang berubah, melampaui sekadar transaksi besar. Meskipun pasar melihat ini sebagai kesepakatan besar yang setara dengan akuisisi dan merger, Nvidia menekankan bahwa ini bukanlah M&A tradisional, melainkan kontrak yang berfokus pada lisensi teknologi dan akuisisi tenaga kerja utama. Groq sendiri tetap menjadi entitas yang independen. Namun, alasan mengapa kontrak ini menarik perhatian besar sudah jelas. Hal ini secara simbolis menunjukkan bahwa rumus utama pasar perangkat keras AI mulai bergeser dari 'GPU=AI'.
Alasan Mengapa 'Kerja Sama' Nvidia-Groq Menarik Perhatian
Titik awal persaingan AI adalah pelatihan. Diperlukan sumber daya komputasi untuk melatih model yang lebih besar dengan lebih cepat, dan GPU adalah alat yang paling sesuai dengan kebutuhan ini. Nvidia bangkit menjadi perusahaan yang paling diuntungkan di era AI dengan memanfaatkan tren ini. Namun, seiring dengan peralihan AI dari tahap penelitian ke fase layanan yang sesungguhnya, minat industri beralih ke tahap pasca-pelatihan. Seberapa cepat, stabil, dan murah sebuah model yang telah dilatih dapat digunakan kini menjadi elemen persaingan baru. Dalam proses ini, masalah konsumsi daya, latensi, dan biaya operasional mulai mencuat.
Di titik inilah chip khusus inferensi mulai mendapat perhatian. 'Language Processing Unit (LPU)' yang dikembangkan oleh Groq adalah sirkuit terpadu khusus (ASIC) yang dirancang dengan premis inferensi model bahasa. Berbeda dengan GPU yang mengutamakan fleksibilitas, chip ini memilih struktur yang mendefinisikan jalur komputasi sebelumnya untuk mengurangi percabangan yang tidak perlu. Hal ini menguntungkan dalam mengurangi latensi dan meningkatkan efisiensi daya. Dalam lingkungan chatbot atau layanan AI perusahaan di mana respons waktu nyata sangat penting, karakteristik ini secara langsung berujung pada daya saing biaya. Inilah alasan mengapa Nvidia merangkul teknologi eksternal, bukan sekadar memperluas desain GPU-nya sendiri. Analisisnya menunjukkan adanya penilaian bahwa area inferensi bukanlah panggung eksklusif GPU.
Namun, pilihan ini tidak berarti peran GPU menyusut. GPU tetap menjadi poros utama pembelajaran skala besar dan akselerasi AI umum. Strategi Nvidia lebih cenderung melengkapi area di mana GPU relatif tidak efisien daripada menggantikannya. Oleh karena itu, kerja sama dengan Groq diartikan sebagai batu loncatan untuk menambahkan teknologi khusus inferensi di atas struktur yang berpusat pada GPU.
Apa Perbedaan Antara LPU, TPU, dan NPU?
Tren ini bukan hanya kekhawatiran Nvidia semata. Google telah lama mengembangkan akselerator internalnya sendiri, yaitu 'Tensor Processing Unit (TPU)'. TPU adalah ASIC yang dirancang agar sesuai dengan beban kerja internal Google, yang memberikan efisiensi tinggi dalam layanan utama seperti pencarian, penerjemahan, dan rekomendasi. Ini adalah pilihan strategis untuk mengurangi ketergantungan pada GPU eksternal dan menempatkan struktur biaya layanan AI di bawah kendali sendiri. TPU berkembang dengan tujuan yang jelas, yakni pengoptimalan dalam ekosistem Google, bukan menargetkan pasar umum.
'Neural Processing Unit (NPU)' menunjukkan eksistensinya di panggung yang berbeda, yaitu di tangan individu, bukan pusat data. Apple memilih untuk menanamkan neural engine ke dalam iPhone untuk memproses komputasi AI di dalam perangkat. Ini adalah keputusan yang mempertimbangkan efisiensi baterai, privasi data, dan pengalaman pengguna secara bersamaan. Produsen ponsel pintar termasuk Samsung Electronics005930 juga memperkuat kinerja NPU dan menerapkan fungsi seperti penerjemahan waktu nyata, penyuntingan foto, dan pengenalan suara secara on-device. Meskipun NPU tidak menggantikan inferensi tingkat pusat data, perannya terlihat penting dalam menyebarkan AI ke dalam fungsi sehari-hari.
Seperti yang terlihat, LPU, TPU, dan NPU berangkat dari pemikiran masalah yang berbeda. Tuntutan realistis seperti beban biaya pusat data, strategi rantai pasokan Big Tech, dan batasan daya perangkat seluler telah mendiversifikasi bentuk chip. Hasilnya, perangkat keras AI berubah dengan cepat dari struktur di mana satu chip mengambil semua peran menjadi struktur di mana chip yang dioptimalkan sesuai dengan tujuannya hidup berdampingan.
Nvidia juga tampaknya tidak menyangkal perubahan ini. Sebaliknya, melalui teknologi seperti NVLink Fusion, Nvidia mengambil strategi untuk menghubungkan ASIC eksternal ke sistemnya sendiri guna mempertahankan perannya sebagai platform pusat bahkan di lingkungan di mana berbagai chip bercampur. Ini adalah perhitungan untuk mempertahankan pengaruh melalui koneksi dan koordinasi ekosistem, bukan melalui monopoli perangkat keras.
Oleh karena itu, kerja sama antara Nvidia dan Groq lebih baik diartikan sebagai adegan simbolis yang menunjukkan bahwa industri perangkat keras AI telah memasuki tahap matang, daripada deklarasi berakhirnya kekaisaran GPU. Dalam proses beralih dari persaingan di pusat menuju fase yang juga mempertimbangkan inferensi dan efisiensi ekonomi, jawaban tunggal mulai menghilang. GPU memang masih memegang kunci dalam industri AI, namun bukan lagi panggung tunggal. Perang perangkat keras AI kini diprediksi akan menjadi semakin sengit di tengah struktur multi-lapisan di mana peran masing-masing telah terbagi.