[비즈한국] GPT-3 dari OpenAI yang dirilis 5 tahun lalu dilatih menggunakan data sebesar kurang lebih 45 terabyte (TB). Jumlah ini empat kali lipat dari volume informasi yang dimiliki Perpustakaan Kongres Amerika Serikat. Mengingat dan memanfaatkan isi pelatihan tersebut merupakan area yang berbeda lagi. Saat ini, jumlah memori yang digunakan oleh sistem AI untuk memproses data masih belum cukup. Hambatan (bottleneck) yang menurunkan kecepatan dan efisiensi komputasi merupakan tantangan yang harus diatasi demi menyongsong era AI. High Bandwidth Memory (HBM) dianggap sebagai teknologi inti untuk memecahkan masalah ini. Itulah alasan mengapa pasar memori semikonduktor, yang dipimpin oleh perusahaan domestik seperti SK Hynix000660 dan Samsung Electronics005930, dinilai telah memasuki fase 'keunggulan pemasok' (supplier dominance). Di tengah meningkatnya ekspektasi masuknya kembali ke siklus super (booming jangka panjang) semikonduktor memori, kapasitas industri hulu dan hilir seperti rantai pasok, tenaga listrik, dan pengemasan (packaging) kini turut menjadi sorotan.
Siklus Super AI, Korea Berada di Pusat ‘Keunggulan Pemasok’
Persaingan global untuk memperbarui pusat data guna memenuhi permintaan komputasi AI kini meluas ke medan perebutan chip memori. Baru-baru ini, perusahaan-perusahaan besar di industri tersebut telah memastikan bahwa pasokan HBM untuk tahun depan telah 'habis terjual' (sold out). SK Hynix dalam konferensi pers laporan kinerja kuartal ke-3 pada tanggal 29 bulan lalu menyatakan, "Kami telah menyelesaikan rencana pasokan HBM tahun depan dengan pelanggan utama." SK Hynix, yang mencatat pangsa pasar HBM global sebesar 64% tahun ini, diperkirakan akan mempertahankan dominasinya. HBM produksi SK Hynix telah terjual habis setiap tahun sejak 2023.
Dalam laporan kinerja kuartal ke-3 pada tanggal 30 bulan lalu, Samsung Electronics secara tidak langsung menyebutkan fakta bahwa mereka sedang memasok HBM3E kepada Nvidia. Dalam konferensi pers tersebut, mereka menjelaskan, "Rencana produksi HBM tahun depan telah ditetapkan jauh lebih besar dibandingkan tahun ini. Permintaan pelanggan untuk rencana tersebut sudah terjamin," dan menambahkan, "Kami sedang meninjau secara internal kemungkinan peningkatan produksi karena adanya permintaan tambahan."
Micron dari Amerika Serikat, salah satu dari tiga pemain utama pasar HBM, juga merupakan pemasok utama produk memori inti kepada Nvidia. Dengan pangsa pasar 21% tahun ini, mereka melampaui Samsung Electronics (15%). Micron menyatakan pada bulan September bahwa mereka sedang dalam diskusi untuk pasokan volume HBM4 dengan klien dan diperkirakan stok akan segera habis. Basis pelanggan mereka meningkat dari 4 perusahaan di kuartal ke-3 menjadi 6 perusahaan di kuartal ke-4.
Menurut laporan diagnosis industri hilir semikonduktor dari Korea International Trade Association (KITA) pada tanggal 7, ekspor semikonduktor tahun ini mencatat tren kenaikan sekitar 30% sejak memasuki paruh kedua tahun ini. Jika tren ini berlanjut, pasar semikonduktor global tahun depan diproyeksikan tumbuh 17,8% menjadi 909 miliar dolar (1.332,7 triliun won). Sektor yang memimpin pertumbuhan pasar adalah memori semikonduktor (33,8%). Ryu Young-ho, peneliti di NH Investment & Securities, berpendapat, "Saat AI kini memasuki tahap 'scale-out' (perluasan horizontal), masalah hambatan memori semakin dalam," dan "Kita berada dalam fase di mana pentingnya kombinasi berbagai memori menjadi sorotan, melampaui fase yang hanya berfokus pada HBM saja."
Fenomena konsentrasi pada AI dan memori berperforma tinggi ini bahkan memicu kekhawatiran akan semakin langkanya chip memori untuk produk IT umum seperti ponsel pintar dan peralatan rumah tangga. Jeon Bo-hee dari KITA Institute for International Trade and Cooperation mengatakan, "Sejak tahun lalu, pasar pusat data AI melonjak pesat dan paradigma permintaan telah berubah," dan "Seiring pertumbuhan berkelanjutan pusat data AI setelah tahun depan, penataan ulang permintaan akan berakselerasi, dan pada tahun 2030, pasar ini akan muncul sebagai pemimpin dominan yang mencakup 36% dari total permintaan."
Dari Pusat Memori AI Menuju Kepemimpinan Infrastruktur AI
Server AI menggunakan lebih banyak DRAM dan NAND flash dibandingkan server konvensional, serta memiliki ketergantungan yang tinggi pada HBM dalam proses pembelajaran dan penalaran. Inilah latar belakang mengapa Nvidia memperkuat kerja sama dengan perusahaan-perusahaan Korea. Nvidia menguasai sekitar 90% pasar semikonduktor AI, sehingga mendapatkan pasokan HBM berperforma tinggi secara stabil sangat penting untuk menjaga keunggulan kompetitif.
Lonjakan semikonduktor AI kini dinilai akan meluas ke ekosistem yang lebih luas, termasuk industri pendukung hilir seperti listrik dan pengemasan, hingga pemrosesan awal dan penyimpanan data. Untuk mengeluarkan efisiensi penuh dari chip memori, diperlukan dukungan infrastruktur pasokan listrik dan pendinginan berkinerja tinggi, serta teknologi pengemasan. Tren ini memunculkan ekspektasi bahwa industri semikonduktor Korea yang berpusat pada memori akan mendapatkan peluang ekspansi.
Pasar semikonduktor global tahun 2025 diproyeksikan tumbuh 17,8% dibandingkan tahun sebelumnya, dan akan tumbuh tinggi menjadi 909,8 miliar dolar pada tahun 2026. Seorang pejabat industri mengatakan, "Daya saing semikonduktor AI akan ditentukan bukan hanya dari chip itu sendiri, melainkan dari efisiensi pergerakan data serta kemampuan manajemen panas dan listrik," dan "Teknologi pengemasan dan efisiensi listrik menjadi area yang sangat penting."
Dunia sekuritas juga melihat tren investasi infrastruktur ini akan mengarah pada permintaan untuk material, komponen, dan peralatan (so-bu-jang) semikonduktor. Hana Securities memperkirakan, "Seiring dimulainya kembali belanja modal (capex) oleh Samsung Electronics dan SK Hynix, perusahaan so-bu-jang yang mengalami kelesuan tahun ini akibat kekosongan pesanan akan mulai beralih ke peningkatan kinerja mulai tahun depan."
Pejabat industri tadi menjelaskan, "Dalam struktur di mana GPU menangani komputasi dan HBM meningkatkan efisiensi komputasi, kita harus memanfaatkan kepemimpinan teknologi dan investasi yang berpusat pada memori AI untuk memperluas ekosistem hingga ke infrastruktur listrik, pengemasan, dan data."
Terdapat pula suara yang mengatakan bahwa diperlukan gambaran besar di tingkat pemerintah untuk mencapai hal ini. Han Sung-soo, Kepala Institut Strategi ICT, menekankan, "Semikonduktor memori AI kini bukan sekadar komponen penyimpanan data, melainkan inti yang menentukan kinerja sistem," dan "Untuk melampaui batasan sektor swasta, kita perlu membangun model melalui dukungan R&D strategis pemerintah serta kerja sama erat antara industri, akademisi, dan lembaga penelitian."