[비즈한국] Di tengah pergeseran tren kompetisi AI dari chatbot yang sekadar memberikan jawaban ke arah ‘agen’ yang dapat melakukan pekerjaan atas nama manusia, Kakao memperluas KakaoTalk menjadi antarmuka kecerdasan buatan (AI) yang mampu mengeksekusi tugas nyata. Pengguna dapat memanggil AI dari layar mana pun dan memberikan tugas hanya dengan satu kalimat, seperti “pesankan air minum kemasan,” alih-alih harus mencari menu. Strateginya adalah dengan memanfaatkan riwayat pembelian dan konteks percakapan individu, namun tetap memisahkan persetujuan berdasarkan layanan serta mengontrol izin eksekusi seperti pemesanan secara terpisah.
Kakao mengungkap strategi tersebut pada 13 Oktober di konferensi pengembang tahunan ‘if(kakao)26’ yang diadakan di Kakao AI Campus, Yongin, Gyeonggi-do. Acara yang berlangsung selama dua hari pada 13-14 Oktober dengan tema ‘Kecerdasan untuk Semua Koneksi’ ini memperkenalkan layanan agen berbasis personalisasi serta model, infrastruktur, dan desain keamanan yang mendukungnya.
Bisnis AI Kakao menghadapi tantangan dalam hal penetapan layanan dan profitabilitas. Sektor layanan AI mencatat kerugian operasional sekitar 58 miliar won pada kuartal kedua tahun ini. Kakao menargetkan untuk meraih 10 juta pengguna aktif bulanan (MAU) layanan AI di dalam KakaoTalk hingga akhir tahun dan mulai memonetisasinya mulai tahun depan. Strategi agen yang diungkap kali ini berfokus pada menghubungkan basis pengguna KakaoTalk yang sudah ada dengan penggunaan dan transaksi layanan AI yang nyata.
Usap Layar, Ryan Muncul, Pesan Barang Cukup dengan Satu Kalimat
‘Kanana Space’ yang diperkenalkan Kakao adalah asisten AI yang muncul di atas layar yang sedang dilihat pengguna ketika mereka mengusap layar KakaoTalk dengan dua jari. Kim Dae-nyeon, pimpinan desain Kakao, mengatakan, “Kami merancang Space bukan sebagai tab lain atau layar terpisah, melainkan sebagai lapisan AI yang dapat dibuka di mana saja di KakaoTalk,” dan menambahkan, “Pengguna dapat memberikan permintaan melalui suara atau teks.”
Mulai sekarang, meski Anda melewatkan permintaan penjemputan anak di grup percakapan keluarga, Anda bisa bertanya kepada AI di dalam KakaoTalk untuk memeriksa waktu keberangkatan. Dari pesan yang menumpuk semalaman, AI dapat memilah hanya pesan pekerjaan, memberikan batas waktu balasan, dan bahkan mengirimkan jawaban saat itu juga. Kim menambahkan, “Ini bukan sekadar meringkas pesan, tetapi menunjukkan apa yang perlu dilakukan saat ini. Hal terpenting adalah proses ini tidak berhenti pada ringkasan, tetapi langsung berlanjut ke tindakan berikutnya.”
Kakao berencana untuk memperluas cakupan tugas hingga pemesanan, pemberian hadiah, reservasi, dan pengiriman uang. Kanana Space membuka pendaftaran awal mulai hari ini, dan tes beta tertutup (CBT) akan dilaksanakan setelah bulan Desember bagi pengguna terpilih. Adapun aplikasi AI mandiri ‘Kanana’ yang diperkenalkan tahun lalu akan dihentikan operasinya pada tanggal 15 mendatang.
Kakao juga memperkenalkan ‘Kanvas’, layanan untuk membuat dan menjalankan agen secara langsung di PC. Ini adalah layanan di mana pengguna dapat menyusun agen dengan menghubungkan alat dan fungsi yang sesuai setelah menjelaskan peran dan tugas yang diperlukan. Dalam proses ini, setiap agen dipisahkan perambannya dan menerapkan sandbox (ruang eksekusi yang terisolasi dari luar) agar aktivitas autentikasi dan pembayaran tidak meluas ke luar cakupan yang diizinkan. Rencananya, setelah tes skala kecil tahun ini, Kakao akan menghubungkan agen yang dibuat dengan kerangka kerja lain ke KakaoTalk pada semester pertama tahun depan.
Mengingat agen melakukan tindakan nyata, kendali pengguna ditetapkan sebagai prinsip desain utama. Kim menekankan, “Untuk tindakan penting seperti pengiriman pesan atau pembayaran, terdapat struktur di mana pengguna harus memeriksa dan menyetujui secara langsung. AI membantu dalam proses yang diperlukan, tetapi keputusan akhir tetap di tangan pengguna.”
Model Berdasarkan ‘Tingkat Kesulitan’, Ingatan dan Eksekusi ‘Dikontrol Terpisah’
Karena KakaoTalk adalah platform yang digunakan oleh 50 juta pengguna selama 24 jam, kecepatan respons dan biaya operasional menjadi sangat penting selain kualitas jawaban AI. Semakin besar modelnya, semakin besar komputasi yang diperlukan untuk satu permintaan, sehingga jumlah pengguna yang dapat dilayani oleh GPU yang sama akan berkurang. Oleh karena itu, Kakao membagi tugas: model ‘frontier’ papan atas menangani masalah tersulit, model ‘flagship’ menangani sebagian besar tugas server, model bahasa kecil (SLM) menangani permintaan sederhana dan berulang, dan tugas yang dapat diselesaikan di smartphone ditangani terlebih dahulu oleh model on-device. ‘AI Conductor’ yang menentukan model dan alat mana yang digunakan dan dalam urutan apa.
Noh Byung-seok, pimpinan model fondasi Kakao, mengungkapkan standar mereka: “Tidak perlu menggunakan komputasi yang sama untuk permintaan perbaikan salah ketik dan permintaan menyusun rencana perjalanan yang membandingkan berbagai kondisi. Kami memberikan hasil terbaik untuk semua permintaan, namun tidak menggunakan model terbesar untuk setiap permintaan.”
Tujuannya adalah untuk mengalokasikan sumber daya komputasi sesuai dengan tugas yang diperlukan guna menjaga kualitas sekaligus mengamankan efisiensi yang dibutuhkan untuk layanan skala besar. Menurut Kakao, melalui tokenizer bahasa Korea mandiri dan optimasi inferensi, kecepatan pembuatan jawaban meningkat rata-rata 3,9 kali lipat dan penggunaan memori berkurang sekitar 70%. Tokenizer adalah teknologi yang membagi kalimat menjadi unit kecil yang dapat diproses oleh model AI, dan jika dioptimalkan untuk bahasa Korea, komputasi yang diperlukan untuk memproses kalimat yang sama dapat dikurangi.
Metode input dan output model juga diperluas. Kakao memperkenalkan rencana pengembangan ‘Kanana-o’, model bahasa omni yang memahami teks, gambar, dan suara secara bersamaan serta merespons dengan suara, serta ‘Kanana Live’ yang dapat bereaksi bahkan saat lawan bicara sedang berbicara atau digunakan untuk penerjemahan waktu nyata. Encoder dan decoder yang menyusun Kanana-o akan dirilis sebagai open-source agar dapat dimanfaatkan dalam ekosistem AI domestik maupun internasional.
Dasar dari personalisasi adalah ‘Project Mosaic’. Ini adalah sistem memori yang menghubungkan ingatan yang tersebar di berbagai layanan dan agen sehingga pengguna tidak perlu menjelaskan ulang dari awal saat beralih layanan. Kuncinya adalah ‘mengingat pengguna, namun tidak terburu-buru menyimpulkan selera hanya dari beberapa catatan’. Song Jae-ha, CTO Kakao, mencontohkan riwayat pembelian sepatu anak untuk keponakan, “Kita harus membedakan antara fakta pembelian dan interpretasi selera, serta mengelola sumber informasi dan waktunya bersamaan. Jika AI mengingat saya, ia juga harus mengingat fakta bahwa saya bisa berubah.”
‘Ingatan’ hanya diberikan dalam cakupan persetujuan setiap layanan. Ingatan yang hanya disetujui untuk digunakan di layanan A tidak akan diteruskan ke layanan B, dan jika persetujuan ditarik, penyediaan informasi akan dihentikan mulai permintaan berikutnya. Namun, ingatan yang sudah terlanjur diteruskan tidak akan ditarik kembali secara otomatis. CTO Song menyebut ini sebagai “tantangan yang harus diselesaikan bersama oleh layanan dan platform memori.” CEO Chung Shin-a menjelaskan bahwa pengguna akan dapat memilih dan mengelola cakupan penggunaan AI secara langsung sejak tahap persetujuan penggunaan layanan.
Pada tahap eksekusi, akan ada satu lapisan penyaringan lagi. Jika instruksi seperti “barang habis, ganti dengan produk lain” muncul saat pemesanan ulang, AI akan memeriksa kembali rencana tindakan sebelum mengeksekusinya. Jika hal tersebut di luar cakupan yang diberikan, AI akan berhenti dan meminta konfirmasi kepada pengguna alih-alih melakukan pemesanan. Verifikasi tidak berhenti pada jawaban akhir, tetapi mencakup pemeriksaan alat apa yang dipanggil dalam lingkungan pengujian. Hal ini karena jika AI menjawab “tidak memesan” padahal sebelumnya sudah melakukan pemesanan, itu bisa terlambat.
CTO Song menekankan, “Kita tidak bisa menyerahkan batas-batas seperti ‘melanjutkan di dalam cakupan yang diberikan dan meminta konfirmasi saat melampauinya’ hanya pada penilaian model. Ingatan bisa menjadi dasar penilaian, tetapi tidak bisa menjadi hak atas tindakan.”