[BizHanKook] Meskipun biaya penggunaan kecerdasan buatan (AI) menurun, beban biaya operasional AI bagi perusahaan justru meningkat. Hal ini terjadi karena penyebaran agen AI yang memanggil model berkali-kali untuk menyelesaikan satu tugas sehingga konsumsi token melonjak tajam. LG Uplus menargetkan titik ini dan akan memulai bisnis token Business-to-Business (B2B) tahun depan. Strategi mereka adalah menarik pelanggan yang ragu mengadopsi AI karena beban biaya dengan menawarkan ‘resep’ optimasi token yang mengurangi total biaya hingga pekerjaan selesai.

LG Uplus mengadakan sesi studi bagi media pada tanggal 12 lalu untuk mengungkap teknologi optimasi dan arah bisnis masa depan mereka. Lee Hye-jin, Penanggung Jawab Strategi Teknologi LG Uplus, menjelaskan, “Biaya sebenarnya dari AI bukanlah pada saat memberikan jawaban, melainkan biaya yang dikeluarkan hingga pekerjaan selesai.” Token adalah unit dasar bagi AI untuk memproses data, dan biaya dikenakan berdasarkan jumlah penggunaannya. Menurut Lee, meskipun harga token dari perusahaan big tech telah turun sekitar 80% dalam 1-2 tahun terakhir, konsumsinya justru meningkat tiga kali lipat. Agen AI membutuhkan sekitar 20 langkah untuk menghasilkan satu hasil, dan penalaran internal yang tidak terlihat di layar terkadang memakan lebih dari 80% biaya.
Lee Sang-yeop, Chief Technology Officer (CTO) LG Uplus, juga mengatakan, “Kami tidak ingin hanya berbicara tentang perbandingan harga per 1 juta token dengan mengatakan ‘kami telah menguranginya menjadi sekian dolar’. Kami berorientasi pada penyelesaian tugas pelanggan dengan biaya yang optimal.”
Menggunakan lebih sedikit, membuat lebih kecil, dan menjalankan lebih murah
Pengetahuan optimasi token yang disebut LG Uplus sebagai ‘resep’ adalah kombinasi dari berbagai teknologi yang dikumpulkan melalui pengoperasian layanan seperti layanan telepon AI ‘ixi-O’ dan AI Contact Center (AICC) yang disesuaikan dengan karakteristik pekerjaan, yang secara garis besar terbagi menjadi tiga jalur.
Pertama, mengurangi penggunaan token melalui ‘model routing’ yang menghubungkan model yang sesuai dengan tingkat kesulitan pertanyaan, dan ‘harness engineering’ yang membatasi jalur kerja agen. Dalam verifikasi internal, mereka berhasil menurunkan biaya pemrosesan pertanyaan umum lebih dari 25% dan biaya agen pengodean (coding agent) lebih dari 30%. Di bidang pengodean, mereka juga mendapatkan kasus di mana biaya operasional berkurang sekitar 90% dengan model internal.
Kedua adalah teknologi untuk membuat model menjadi kecil dan cepat. Dengan mengurangi ukuran model on-device dari 2,4-3 Gigabyte (GB) menjadi sekitar 800 Megabyte (MB), mereka tetap mempertahankan kinerja lebih dari 95% dibandingkan dengan model cloud pembanding. Kecepatan pembuatan token juga meningkat lebih dari dua kali lipat dengan metode di mana model kecil membuat draf dan model besar melakukan verifikasi.

Selain itu, mereka juga memanfaatkan ‘chip mix’ yang mengombinasikan Unit Pemrosesan Grafis (GPU) dari Nvidia dan AMD dengan Unit Pemrosesan Saraf (NPU) dari FuriosaAI. Misalnya, analisis pertanyaan diserahkan ke GPU Nvidia yang cepat dalam komputasi, sementara pembuatan jawaban diserahkan ke GPU AMD yang memiliki memori besar.
Ciri khas lainnya adalah tidak bersikeras menggunakan model sendiri. CTO Lee mengatakan, “Jika model ringan dari big tech lebih cocok untuk tugas tertentu, kami bisa melakukan routing ke sana untuk memberikan layanan.” Di internal perusahaan pun, mereka mengganti titik koneksi yang memanggil model dengan platform mereka sendiri tanpa mengubah tampilan agen pengodean dari big tech untuk menekan biaya. Kombinasi inilah yang dijelaskan sebagai resep bisnis. Terkait komposisi produk dan harga, Kim Hyun-min, Ketua Tim Bisnis Sovereign Cloud, menyatakan, “Kami akan menurunkan Total Cost of Ownership (TCO) pelanggan dengan menggabungkan kemitraan dengan perusahaan rekanan dan pembangunan infrastruktur mandiri.”
Setelah ‘Menit’ dan ‘Byte’, Berikutnya adalah ‘Token’… Kalkulasi Tiga Perusahaan Berbeda
LG Uplus bukanlah satu-satunya perusahaan telekomunikasi yang menjadikan token sebagai sumber pendapatan baru. Seiring dengan pergeseran fokus permintaan AI dari pelatihan untuk membuat model ke inferensi untuk menjalankan layanan aktual, seberapa murah dan stabil token diproduksi dan dipasok telah menjadi peluang bisnis.

Perusahaan telekomunikasi menganggap pengalaman mereka dalam mengelola jaringan dengan menghitung penggunaan telepon/data dan menetapkan biaya, serta infrastruktur pusat data, sangat relevan dengan bisnis token. Pendekatan mereka berbeda-beda. KT fokus pada platform distribusi dan penagihan yang mengumpulkan berbagai model, SK Telecom fokus pada pemantauan yang menghubungkan pelanggan dengan model dan infrastruktur, sementara LG Uplus memberikan bobot pada biaya produksi token dan efisiensi operasional.
Sebelumnya, SK Telecom mengusulkan bisnis ‘Token Gateway’ dalam ‘Strategi Gear Pertumbuhan’ yang diumumkan pada tanggal 8 bulan lalu. Ini adalah pusat pemantauan yang mengelola pola penggunaan AI dan menghubungkannya dengan model serta infrastruktur yang sesuai, dengan memanfaatkan basis 23 juta pelanggan dan sistem pembayaran mereka. KT juga meluncurkan platform integrasi model AI ‘Token Factory’ pada tanggal 30 bulan lalu. Mereka menyediakan lebih dari 500 model domestik dan internasional di satu tempat, dan menjelaskan bahwa penggunaan token dapat dikurangi hingga 25% melalui teknologi routing internal ‘Auto Model Router’ dan kompresi prompt.
Laju pertumbuhan permintaan sangat tajam. Mengacu pada statistik platform perantara model AI OpenRouter yang dikutip oleh KT, konsumsi token global telah meningkat sekitar 35 kali lipat dalam setahun. Diprediksi bahwa di era AI, setelah ‘menit’ dan ‘byte’, token akan menjadi satuan penggunaan yang baru.
Bisnis ketiga perusahaan ini akan dimulai secara penuh tahun depan. KT akan memperluas target ke pengguna individu pada Maret mendatang dengan meluncurkan paket langganan, sementara SK Telecom mendorong komersialisasi ‘AI Factory’ yang bekerja sama dengan Nvidia pada tahun depan. LG Uplus akan menumpuk pengalaman dengan menangani penyajian model (model serving) di layanan ‘Everyone’s AI’ yang diluncurkan bersama Kakao di akhir tahun, sebelum memulai bisnis token B2B pada tahun 2027.
Penanggung Jawab Lee Hye-jin mengatakan, “Bagi perusahaan yang mengadopsi AI, AI saat ini lebih mirip seperti kuda nil pemakan uang,” seraya menambahkan, “Membuat AI ini bisa digunakan layaknya karyawan yang benar-benar bekerja adalah manfaat yang paling dibutuhkan oleh pelanggan.”