[BizHanKook] Pusat gravitasi dalam persaingan kecerdasan buatan (AI) kini telah bergeser dari pelatihan model bahasa besar (LLM) dan pengadaan unit pemrosesan grafis (GPU), menuju inferensi dan efisiensi biaya dalam mengoperasikan layanan nyata. Di tengah situasi di mana tidak hanya performa semikonduktor, tetapi juga perangkat lunak, jaringan, dan penyimpanan harus dioptimalkan secara bersamaan, AMD mulai melakukan verifikasi infrastruktur yang menggabungkan berbagai semikonduktor komputasi yang berbeda dengan perusahaan AI dalam negeri. Rencananya adalah memasukkan semikonduktor dan perangkat lunak perusahaan Korea ke dalam ekosistem AMD untuk memperluas sistem yang telah divalidasi di Korea ke pasar global.
Pada tanggal 4, AMD menyelenggarakan ‘Advancing AI World Tour Seoul 2026’ di Westin Seoul Parnas, Gangnam-gu, Seoul, untuk berbagi strategi AI global dan arah kerja sama di Korea. Ini adalah pertama kalinya perusahaan mengadakan acara teknologi tahunan, yang biasanya diadakan di Amerika Serikat, di Korea. Perusahaan semikonduktor dan infrastruktur AI dalam negeri seperti FuriosaAI, MangoBoost, dan More, serta mitra seperti Naver Cloud, juga berpartisipasi untuk memamerkan teknologi dan kasus penerapannya.
Infrastruktur Heterogen dengan NPU Buatan Lokal, Menjadikan Korea sebagai 'Pusat Verifikasi'
Keith Strier, Senior Vice President of Worldwide AI Market di AMD, mengumumkan dalam pidato utamanya bahwa bersama dengan FuriosaAI dan MangoBoost, mereka akan membangun klaster referensi pertama di Seoul pada musim semi 2027. Metodenya adalah menggabungkan unit pemrosesan pusat (CPU) dan GPU AMD dengan unit pemrosesan saraf (NPU) dari perusahaan semikonduktor AI Korea, FuriosaAI, serta unit pemrosesan data (DPU) dari perusahaan infrastruktur pusat data, MangoBoost. Ketiga perusahaan tersebut juga menandatangani nota kesepahaman (MOU) pada hari itu. CPU akan bertugas mengoordinasikan tugas, GPU melakukan perhitungan skala besar, NPU menangani inferensi AI, dan DPU menangani jaringan serta perpindahan data, guna memanfaatkan keunggulan masing-masing semikonduktor.
Klaster referensi adalah sistem standar yang digunakan untuk memverifikasi apakah berbagai semikonduktor dan perangkat lunak dapat bekerja bersama dalam lingkungan pusat data yang nyata, serta menjadi acuan bagi perusahaan lain saat akan mengadopsinya. Strier menyatakan, “Saat menandatangani MOU pada bulan Juli lalu, kami berjanji tidak hanya membawa teknologi AMD ke Korea, tetapi juga mengintegrasikan teknologi Korea ke dalam ekosistem AMD. Ini akan menjadi contoh pertama yang menunjukkan seperti apa infrastruktur AI yang heterogen sekaligus memenuhi janji kepada mitra Korea.”
Strier menekankan, “Tidak ada satu chip tunggal yang dapat memenuhi semua beban kerja, dan kebutuhan tersebut tidak bisa diselesaikan dengan konfigurasi atau rak tunggal.” Sistem unit rak ‘Helios’ yang menggabungkan 72 GPU dijadwalkan akan diperkenalkan di pusat data dan cloud utama di seluruh dunia pada tahun 2027. Seiring dengan meluasnya agen AI, peran CPU dalam mengoordinasikan tugas juga kembali meningkat. Strier memprediksi, “Jumlah CPU yang akan dijual sepanjang tahun depan akan lebih banyak dari total penjualan dalam beberapa tahun terakhir.”
Kerja sama antara Kementerian Sains dan ICT (MSIT) dan AMD juga semakin konkret. Sebelumnya, pada bulan Juli, mereka telah menandatangani MOU yang mencakup pembangunan infrastruktur komputasi AI, pendirian pusat penelitian AI AMD, dan pengembangan talenta. Pada bulan Oktober, AMD juga mengumumkan rencana untuk mendirikan pusat penelitian AI di Korea dengan ratusan personel peneliti. Lee Do-kyu, Kepala Kebijakan Informasi dan Komunikasi MSIT, mengatakan dalam diskusi panel hari ini, “(Dalam MOU) terdapat poin mengenai kerja sama dengan NPU domestik Korea, yang merupakan hal yang sangat luar biasa.”
Ia menjelaskan bahwa meskipun MOU biasanya dibuat secara komprehensif, poin kerja sama antara CPU/GPU AMD dan NPU Korea dicantumkan secara spesifik, dan kerja sama di lapangan sedang berlangsung berdasarkan poin tersebut. Pemerintah berencana untuk mendukung adopsi oleh sektor publik, swasta, dan klien luar negeri dengan membangun referensi verifikasi skala besar yang menggabungkan berbagai kombinasi seperti NPU buatan lokal dengan CPU/GPU AMD tahun depan.
Tantangan Membuktikan Daya Saing Biaya
Peran perusahaan Korea tidak berhenti pada pasokan semikonduktor. Ramin Roane, Wakil Presiden Manajemen Produk AI AMD, mengungkapkan, “Bersama mitra ekosistem Korea, kami sedang membangun tumpukan perangkat lunak (software stack) berbasis Korea menggunakan ROCm.” Untuk menyajikan model AI, perhitungan harus dioptimalkan sesuai dengan perangkat keras, dan pembaruan perangkat lunak harus dilakukan berulang kali setiap kali model baru dirilis. Selain itu, berbagai perangkat harus dioperasikan seolah-olah menjadi satu sistem.
Perusahaan perangkat lunak infrastruktur AI, More, mendiagnosis bahwa pusat data kini telah berubah menjadi ‘pabrik token’ yang tidak hanya menyewakan sumber daya komputasi GPU, tetapi juga mengoperasikan model secara langsung dan menyediakan token. Cho Kang-won, CEO More, menjelaskan bahwa mereka sedang mengembangkan struktur yang dapat mendukung model terbaru dengan cepat melalui penggabungan perangkat lunak optimasi tingkat chip dan klaster di atas AMD ROCm, serta menggunakan berbagai jenis GPU, termasuk GPU AMD, NVIDIA, dan nantinya NPU buatan dalam negeri. More menyatakan bahwa berdasarkan pengukuran internal mereka, hasil inferensi model GLM sekitar dua kali lebih tinggi dibandingkan kombinasi GPU NVIDIA umum dengan perangkat lunak sumber terbuka standar. Perusahaan menjelaskan bahwa perusahaan yang membangun pusat data mandiri dapat menekan biaya operasional hingga sekitar setengahnya dibandingkan menggunakan layanan token pihak ketiga.
MangoBoost menekankan kapabilitas sistem yang mengoptimalkan jaringan, penyimpanan, akselerator, dan perangkat lunak secara bersamaan. Kim Jang-woo, CEO MangoBoost, mengatakan, “Kedaulatan data memang penting, tetapi yang lebih penting adalah kenyataan bahwa AI saat ini terlalu mahal,” dan memperkenalkan contoh di mana efisiensi GPU perusahaan besar Korea ditingkatkan dengan menggabungkan perangkat keras mandiri, sehingga meningkatkan rasio performa terhadap biaya hingga lebih dari dua kali lipat.
Park Young-hee, Center Head dari Cloud Technology Group di Naver Cloud, mengungkapkan bahwa mereka mengoperasikan sekitar 35.000 server operasional yang dilengkapi dengan CPU untuk server AMD ‘EPYC’. Ia menjelaskan bahwa sistem ini mengurangi ruang rak sebesar 20-25% dibandingkan sistem berbasis Intel, dan adopsi diperluas dengan mempertimbangkan total biaya kepemilikan (TCO) termasuk daya dan pendinginan.
Namun, agar infrastruktur heterogen dapat diterima di pasar, semikonduktor yang berbeda harus kompatibel secara stabil, dan performa serta biayanya harus dibuktikan secara objektif. CEO Cho menekankan, “Jika vendor tertentu memutuskan untuk tidak memasok GPU ke Korea selama setahun, maka saat ini kita berada di lingkungan di mana pusat data tidak dapat dibangun.” Artinya, diperlukan perangkat lunak dan kapabilitas sistem untuk mengoperasikan pusat data meskipun pemasok semikonduktor berubah, bukan sekadar menggunakan semikonduktor yang berbeda.
Kepala Lee menyatakan, “Pemerintah akan mendukung agar perusahaan kita dapat berperan sebagai mitra yang tepat dalam ekosistem terbuka global, dan kami berupaya membangun lingkungan di mana informasi sensitif yang penting dapat diproses di dalam negeri.”