[비즈한국] Skeptisisme terhadap AI kembali mencuat. Bukan berarti 'AI tidak berguna', melainkan kekhawatiran yang berulang dari perspektif industri bahwa 'AI tampaknya tidak cukup berharga untuk mendapatkan investasi sebesar yang diharapkan'. Terlepas dari bagaimana kesimpulannya nanti, kita tidak akan berhenti memercayai potensi teknologi AI atau mengurangi penggunaannya. Justru, untuk sementara waktu, penggunaan tersebut kemungkinan besar akan terus meningkat.
Investasi yang digelontorkan perusahaan-perusahaan terkait AI ke dalam komputer saat ini berada di level yang melampaui imajinasi. Jika melihat laporan kinerja Google baru-baru ini, pengeluaran modal (capex) untuk tahun 2026 diperkirakan mencapai 200 miliar dolar AS. Google mencatatkan pendapatan sekitar 120 miliar dolar AS dalam satu kuartal terakhir, tumbuh 24% dibandingkan kuartal yang sama tahun lalu. Bagi perusahaan seukuran Google, pertumbuhan sebesar ini adalah hal yang luar biasa. Di antaranya, divisi cloud mencatatkan pendapatan 82% lebih tinggi dibandingkan periode yang sama tahun lalu. Alasannya hanya satu, yaitu AI.
Namun, tak disangka, setelah pengumuman ini, pasar saham tiba-tiba mengangkat isu skeptisisme AI. Memang benar bahwa Google mencatatkan kinerja yang lebih baik dari ekspektasi dan memperoleh penggerak pertumbuhan yang kuat, namun alasan di balik skeptisisme tersebut adalah karena pengeluaran modal yang dianggap terlalu tinggi. Meski pandangan bisa berbeda-beda, penilaian terhadap perusahaan-perusahaan terkemuka di sektor AI, termasuk semikonduktor, mendingin dengan cepat. Hal ini bahkan cukup menakutkan.
AI tetap menjadi kata kunci utama yang memimpin industri saat ini. Perusahaan yang dikategorikan sebagai hyperscaler, termasuk Google, sedang meraup keuntungan besar. Dan untuk membangun model yang lebih baik, mereka terus memperluas infrastruktur terkait AI. Faktanya, mereka sedang menyapu bersih hampir semua sumber daya komputasi di dunia. Pertumbuhan infrastruktur saat ini lebih serius dari sebelumnya, dengan intensitas dan perluasan yang berlanjut hingga ke tingkat yang menakutkan.
Haus akan Teknologi untuk Meningkatkan ‘Pembuatan Token per Biaya’
Baru-baru ini saya menghadiri acara AI tahunan AMD, ‘Advancing AI’, yang diadakan di San Francisco, AS. Ini adalah ajang untuk memperkenalkan produk baru terkait AI AMD, serta mengumumkan strategi dan peta jalan (roadmap) besar perusahaan. Faktanya, sejauh ini acara tersebut berkutat pada GPU untuk pemrosesan AI dan kerangka kerja pengembangan ROCm yang memanfaatkannya. Hal ini dikarenakan AI dunia dimulai berdasarkan kerangka kerja CUDA NVIDIA dan dijalankan dengan GPU NVIDIA yang mendukungnya.
Selama ini, sudah sewajarnya AMD menekankan poin bahwa “GPU AMD juga memiliki performa yang luar biasa, dan ROCm dapat menciptakan lingkungan AI yang mudah dan kuat layaknya CUDA NVIDIA.” Terutama karena pasokan GPU NVIDIA tidak mampu mengimbangi permintaan yang meledak, adalah hal yang wajar jika AMD menawarkan GPU-nya, termasuk seri ‘Instinct’, sebagai alternatif yang paling kuat dan realistis.
Namun, posisi AMD tahun ini berubah secara halus. Mereka tidak lagi sekadar menjadi alternatif bagi NVIDIA, tetapi telah memberikan jawaban realistis untuk kata kunci yang paling hangat saat ini, yaitu ‘performa per biaya’ dan ‘jumlah token yang dibuat per biaya’. Pelatihan dasar untuk model AI utama sudah mapan, dan kinerja infrastruktur untuk pelatihan ini setidaknya sudah sedikit lebih lega. Namun, masalah paling realistis saat ini terletak pada ‘inferensi’, yaitu memberikan jawaban sesuai kebutuhan pengguna.
CEO AMD Lisa Su mengungkapkan dalam keynote-nya bahwa “Hingga dua tahun lalu, rasio antara pelatihan dan inferensi adalah sekitar 6:4, namun mulai tahun ini, rasio tersebut berbalik.” Ini berarti permintaan AI di lapangan meningkat secara eksplosif. Kini, model bahasa besar (LLM) tidak hanya menulis teks, tetapi juga menulis kode untuk proyek pengembangan skala besar, menganalisis eksperimen ilmiah, serta membuat gambar dan video. Tentu saja, kemampuan mencari dan merangkum informasi serta merangkai kalimat dengan lebih natural adalah hal yang lumrah. Namun, pemrosesan semua itu pada akhirnya bergantung pada kemampuan inferensi komputer yang menjalankan setiap layanan tersebut.
Terlebih lagi, tren AI kini beralih ke 'Agen AI', di mana beberapa AI yang dioptimalkan untuk bidang tertentu digabungkan untuk menyelesaikan satu pekerjaan besar, alih-alih setiap AI bekerja sendiri-sendiri. Untuk menyelesaikan satu tugas, lebih banyak model AI harus dijalankan.
Tahun ini, AMD tidak hanya meluncurkan GPU, tetapi juga memperkenalkan ‘Helios’, sebuah superkomputer AI yang mengintegrasikan CPU, GPU, dan lingkungan jaringan yang menghubungkan 18 server tersebut. Saya mengangkat topik ini bukan hanya karena komputer ini bagus, tetapi karena penting untuk memperhatikan bahwa arah tujuan komputer ini mencerminkan realitas AI saat ini.
Inti dari komputer ini adalah menggabungkan server blade berbentuk datar yang masuk ke dalam pusat data. Setiap server yang dicolokkan ke baki (tray) terdiri dari prosesor EPYC dengan 256 core dalam satu chip dan empat GPU performa tinggi yang disebut Instinct MI455X. GPU ini dipasangkan dengan memori HBM4 berkapasitas masif 432GB. Sebanyak 18 unit blade ini digabungkan untuk membentuk sistem rak sebesar lemari es. Dengan begitu, sistem ini menyatukan 4.608 core, 72 GPU, dan 31TB (terabyte) HBM menjadi satu kesatuan.
‘Rack-Scale System’, Metodologi untuk Mendapatkan Daya Komputasi Lebih Banyak di Ruang yang Sama
Helios juga merupakan bentuk komputer yang sering terlihat di pusat data, jadi apa yang istimewa? Faktanya, bagi komputer modern termasuk AI, *throughput* (total volume pemrosesan) menjadi tolok ukur yang lebih penting daripada sekadar kecepatan pemrosesan. Maksudnya adalah seberapa banyak kalkulasi yang bisa dilakukan. Jadi, kuncinya adalah memasukkan komputer sebanyak mungkin ke dalam satu sistem, yaitu ruang terbatas. Namun, ini bukan sekadar masalah memasukkan sebanyak mungkin. Meski server terlihat canggih, bentuknya sebenarnya tidak jauh berbeda dengan PC yang kita gunakan. CPU dan memori menjadi pusatnya, dan menyambungkan GPU ke dalamnya pun sama.
Secara khusus, GPU bertukar data melalui terminal yang disebut PCI Express, dan kecepatan serta jumlah data yang melalui jalur ini ada batasnya. Oleh karena itu, jika Anda memasang dua GPU dalam satu komputer untuk memproses AI, Anda tidak mendapatkan pekerjaan dua kali lipat secara tepat, melainkan ada sedikit kehilangan (loss). Dulu, ada kalanya orang memasang banyak GPU dalam satu komputer, namun semakin banyak GPU yang ditambahkan, kerugian kinerjanya semakin besar. Selain itu, jumlah GPU yang bisa dipasang dalam satu komputer dibatasi oleh PCI Express dan keterbatasan ruang. Itulah sebabnya beberapa server unit digabungkan untuk membuat satu sistem. Biasanya, rak seperti rak buku yang menyusun sistem ini dibuat dengan cara ini.
Namun, menggabungkan server dengan server lainnya justru menimbulkan kerugian yang lebih besar. Di dalam satu server, pemrosesan dilakukan melalui papan sirkuit, tetapi jika server disambungkan dengan server lain, hasil yang diproses di dalam satu komputer harus dikirim kembali melalui jaringan. Karena berbagai alasan, seperti volume transmisi dan waktu tempuh fisik data, kerugian kinerja meningkat drastis. Ada ungkapan bahwa menggabungkan 100 GPU tidak memberikan 100 kali lipat performa, bahkan sulit untuk mencapai 50 kali lipat.
Namun, bukan itu saja. Seiring meningkatnya volume pemrosesan AI, kebutuhan akan GPU dalam jumlah luar biasa pun muncul, dan pusat data yang menghubungkan puluhan hingga ratusan rak ini pun terbentuk. Pusat data bertujuan untuk memasukkan lebih banyak komputer ke dalam ruang terbatas. Sama seperti pentingnya memasang banyak CPU atau GPU, efisiensi koneksi juga harus ditingkatkan.
Alasan AMD tidak menjual CPU dan GPU sebagai ‘barang satuan’ melainkan dalam bentuk ‘produk jadi’ berupa sistem melalui Helios adalah untuk menawarkan standar universal bagi koneksi ini. Tujuannya agar performa optimal tercapai saat satu CPU 256-core dipasangkan dengan 4 GPU, dan agar koneksi dapat dilakukan tanpa kemacetan (bottleneck). Menghubungkan beberapa sistem standar seperti ini juga menguntungkan dalam mengoperasikan pusat data secara stabil.
Konsep ini juga sudah diajukan oleh NVIDIA melalui ‘Vera Rubin’. Meskipun bisa diartikan sebagai langkah memonopoli platform dan menjual produk jadi agar GPU bisa dijual dengan harga lebih mahal, ini adalah cara yang paling efektif untuk memadatkan kinerja komputasi dalam jumlah besar secara stabil di ruang pusat data yang terbatas, sehingga jauh lebih menguntungkan dalam kondisi di mana infrastruktur harus segera diamankan.
Faktanya, melalui Helios, AMD memasukkan lebih banyak memori HBM4 ke dalam satu rak dibandingkan sebelumnya. CEO Lisa Su mengatakan bahwa karena lingkungan AI di masa depan pasti akan menuntut lebih banyak memori, mengamankan memori HBM sebanyak mungkin di ruang yang sama adalah tugas paling mendesak di pasar saat ini.
Agen AI yang Masih Haus akan Memori
Model bahasa besar hingga saat ini berfokus pada bentuk ‘chatbot’, namun mulai sekarang, seiring dengan dibukanya era Agen AI, setiap agen membutuhkan lebih banyak inferensi, dan orkestrasi yang mengumpulkan hasil-hasil tersebut untuk menciptakan nilai menjadi penting. Dengan demikian, bukan hanya kinerja inferensi, tetapi jumlah memori yang harus diingat juga akan meningkat.
AI akan terus menuntut daya komputasi yang lebih besar dan memori yang lebih banyak. Saat ini pun, kita telah mengorbankan sumber daya terbatas seperti prosesor dan memori yang diperlukan untuk PC dan smartphone demi AI. Harga yang harus dibayar adalah harga semikonduktor yang luar biasa mahal. Namun, pasar AI saat ini menyedot lebih banyak sumber daya daripada itu. Helios dari AMD atau Vera Rubin dari NVIDIA adalah tawaran teknis yang menarik untuk mengatasi hal tersebut.
Tepat sebelum memulai keynote Advancing AI, AMD juga mengumumkan rencana kemitraan dan investasi dengan Microsoft dan Anthropic. Secara khusus, mereka memutuskan untuk melakukan investasi strategis skala besar senilai 5 miliar dolar AS (lebih dari 7 triliun won) pada Anthropic, yang menyediakan layanan Claude. Berdasarkan hal tersebut, Anthropic memutuskan untuk memperkenalkan infrastruktur AI berbasis Helios dengan kapasitas 1 gigawatt paling lambat tahun depan. Meskipun biaya introduksi infrastruktur ini belum dapat dipastikan secara tepat, ini adalah proyek yang menelan biaya luar biasa. Anthropic dapat dibaca sedang mengamankan sumber daya dengan cara memberikan sebagian sahamnya kepada AMD. AMD sendiri, alih-alih mengejar pendapatan langsung, memilih untuk mengamankan sebagian saham Anthropic sebagai bentuk aset nyata melalui perangkat keras. Langkah NVIDIA baru-baru ini yang memasok sistem Vera Rubin bersamaan dengan investasi pada Naver juga dapat dibaca sebagai proses serupa.
Hal ini membuktikan bahwa AI menuntut jauh lebih banyak semikonduktor dibandingkan sekarang, dan mau tidak mau akan segera menyedot GPU serta memori generasi berikutnya yang harganya mungkin agak membebani. Industri AI bersiap untuk menyedot lebih banyak sumber daya di masa depan. AI berbasis machine learning saat ini pada akhirnya adalah pertarungan 'probabilitas' yang ketat, dan metode dasar untuk pembuatan serta pengoperasian model telah mapan. Interpretasi bahwa AI telah mencapai batas teknisnya mungkin tidak salah. Artinya, dengan model tunggal saat ini, sulit untuk menjadi lebih cerdas lagi.
Namun, Agen AI adalah metodologi baru yang mengatasi hal ini dan memungkinkan kita untuk lebih mempercayakan pekerjaan kepada AI. Agen AI menciptakan lingkungan yang berbeda dari model bahasa besar selama ini. Akhir dari perjalanan panjang tersebut adalah penyempurnaan kecerdasan buatan, teknik machine learning yang pertama kali diusulkan 40 tahun lalu. Dan dalam prosesnya, kita harus membayar harga berupa semikonduktor yang lebih banyak lagi.