[BizHanKook] Seorang petugas bank berpenampilan rapi berbicara dari dalam layar. "Saya akan memberi tahu Anda hal-hal yang perlu diperhatikan." Dia mengangkat tangan dan memiringkan kepalanya sedikit. Bisakah Anda membedakan apakah petugas bank di layar itu adalah manusia sungguhan atau manusia buatan (AI Human)? Pertanyaan yang muncul pada tender proyek 'Peningkatan Petugas Bank AI' Shinhan Bank tahun 2022 ini berujung pada gugatan hukum yang berlangsung selama sekitar 4 tahun.
Karena proyek ini membutuhkan kemampuan teknologi AI, tender tersebut mencakup tugas untuk menyerahkan 'video yang direkam dengan menerapkan manusia buatan'. Namun, sebuah kecurigaan muncul terhadap video dari perusahaan yang terpilih sebagai penawar pilihan utama, yakni bahwa itu adalah "video manusia sungguhan, bukan AI". Bahkan dalam penilaian yang diminta oleh pengadilan, muncul opini bahwa kemungkinan besar itu adalah video rekaman nyata. Meskipun demikian, pihak yang kalah dalam gugatan tersebut adalah perusahaan yang mengajukan keberatan. Mengapa hasil penilaian dan putusan pengadilan berbeda? Kami meninjau pertikaian selama 4 tahun yang terjadi seputar tender peningkatan petugas bank AI ini.
Kontroversi 'Video Rekaman Nyata' dalam Tender Petugas Bank AI
Pada tanggal 18 September, Pengadilan Distrik Pusat Seoul Bagian Sipil 22 memenangkan pihak Shinhan Bank dalam gugatan pembatalan pemilihan penawar pilihan utama yang diajukan oleh Maum AI, di mana DeepBrain AI berpartisipasi sebagai tergugat intervensi. Maum AI juga menuntut ganti rugi sebesar 1,5 miliar won, namun tuntutan ini juga tidak diterima.
Maum AI adalah perusahaan terdaftar di KOSDAQ yang bergerak di bidang agen AI serta robot dan fisik AI. Saat terdaftar, nama perusahaannya adalah Minds Lab, namun berubah menjadi nama saat ini pada Maret 2023. DeepBrain AI adalah perusahaan layanan AI generatif video dan AI percakapan berbasis teknologi AI Human.
Ada dua poin utama dalam gugatan Maum AI. Pertama, bahwa pemilihan DeepBrain AI sebagai penawar pilihan utama oleh Shinhan Bank pada tender 'Proyek Peningkatan Petugas Bank AI' bulan Juni 2022 adalah batal karena melanggar kriteria evaluasi. Kedua, klaim bahwa Shinhan Bank telah melanggar kewajibannya sebagai penyelenggara tender dan menyebabkan kerugian karena proses tender yang tidak adil.
Pertikaian hukum antara Maum AI dengan Shinhan Bank dan DeepBrain AI dimulai pada November 2022. Shinhan Bank, yang meluncurkan cabang tanpa awak dengan petugas bank AI pertama di industri ini pada September 2021, melakukan tender untuk proyek peningkatan petugas bank AI pada Juni 2022. Dua perusahaan bersaing dalam tender tersebut, dan setelah melalui evaluasi teknis, DeepBrain AI terpilih sebagai penawar pilihan utama pada 23 Juni 2022.
Pada hari pengumuman penawar pilihan utama, Maum AI segera mengajukan keberatan. Ini bukan sekadar protes karena kalah. Yang diminta oleh Maum AI adalah 'verifikasi video'. Mereka mencurigai bahwa video yang diserahkan oleh DeepBrain AI selama proses tender bukanlah rekaman manusia buatan, melainkan 'video rekaman nyata' yang memfilmkan orang sungguhan.
Karena petugas bank AI harus menyediakan layanan keuangan menggantikan karyawan manusia, diperlukan kemampuan teknologi untuk merealisasikan ekspresi dan gerakan manusia secara alami. Tugas petugas bank AI yang tercantum dalam dokumen permintaan proposal tender adalah konsultasi pinjaman dana sewa. Petugas bank AI harus menyambut nasabah, memeriksa nomor antrean, menerima kartu identitas, dan menghubungkan nasabah dengan staf konsultan.
Dalam proses pemilihan perusahaan, Shinhan Bank mewajibkan pengajuan video yang 'direkam dengan menerapkan manusia buatan pada layar tertentu di meja digital', serta 'manusia buatan untuk seluler/PC'. Tugas tersebut menuntut tingkat kualitas tertentu dalam hal kealamian manusia buatan, ekspresi model, gerakan wajah, nada suara, ujaran yang mencerminkan emosi dan ekspresi, sinkronisasi bentuk mulut, serta gerakan perilaku.
Pada saat itu, penggunaan teknologi 'Speech to Face (STF)' adalah hal yang umum dalam membuat manusia buatan. Teknologi STF adalah teknologi yang memfilmkan tindakan dan berbagai ujaran dari model manusia, kemudian melatih data video seperti gerakan, suara, dan gerakan di sekitar mulut ke model AI. Manusia buatan yang telah melalui proses pelatihan dan pemrosesan pasca-produksi dapat menghasilkan video yang seolah-olah model aslinya berbicara sesuai dengan teks yang dimasukkan. Maum AI saat itu telah menyerahkan video manusia buatan yang menerapkan teknologi STF.
Kecurigaan video rekaman nyata muncul saat video yang dibuat oleh masing-masing perusahaan diputar di perangkat digital Shinhan Bank. Maum AI, setelah melihat video yang diserahkan oleh DeepBrain AI, menyimpulkan bahwa itu adalah video rekaman nyata. Setelah hasil pemilihan DeepBrain AI diumumkan, Maum AI mengajukan keberatan kepada Shinhan Bank dengan alasan metode verifikasi video tidak adil. Maum AI menyarankan metode verifikasi dengan menjalankan server AI secara langsung di lokasi untuk mereproduksi video yang sama dengan yang diserahkan, namun Shinhan Bank tidak menerimanya.
Karena verifikasi video tidak dilakukan, Maum AI akhirnya mengajukan gugatan. Pada tahun 2024, saat persidangan sedang berlangsung, kasus ini memasuki fase baru ketika pengadilan meminta penilaian atas video yang diserahkan oleh DeepBrain AI kepada 'Laboratorium Analisis Video Hukum (Legal Video Analysis Institute)'. Laboratorium ini dipimpin oleh Hwang Min-gu, pakar analisis video terkenal di Korea, yang menangani analisis ilmiah atas bukti video yang diminta oleh pengadilan, kepolisian, pertahanan, hingga pemadam kebakaran.
Hasil penilaian yang dikeluarkan oleh Laboratorium Analisis Video Hukum pada Mei 2025 sejalan dengan argumen Maum AI. Opini yang muncul adalah kemungkinan besar video yang diserahkan oleh DeepBrain AI bukanlah rekaman manusia buatan, melainkan video rekaman nyata yang memfilmkan orang sungguhan.
Menurut dokumen penilaian pengadilan dan opini penilai yang diperoleh Bizhankook, laboratorium tersebut menganalisis bahwa video DeepBrain AI memiliki "banyak pola yang sulit muncul dalam teknologi manusia buatan" dan "kemungkinan besar merupakan video rekaman nyata daripada video manusia buatan melalui deepfake", dengan alasan: △ proses encoding yang menampilkan video setelah pembuatan manusia buatan tidak terkonfirmasi, △ muncul fenomena video yang melompat tidak seperti video manusia buatan pada umumnya, △ gerakan mata model yang seperti membaca teks saat membaca kalimat panjang teramati, dan △ muncul bayangan di sekitar mulut sesuai dengan gerakan tangan pembicara.
Meskipun Ada Kontroversi Video Rekaman Nyata, Pembatalan Tender Tidak Diakui
Namun, terlepas dari hasil penilaian pengadilan, gugatan tersebut berakhir dengan kekalahan bagi Maum AI. Pengadilan mengakui bahwa DeepBrain AI memang tidak menyerahkan video manusia buatan, namun menilai hal itu bukanlah alasan yang cukup untuk membatalkan kontrak antar perusahaan swasta. Pengadilan juga menyoroti fakta bahwa dalam proses pemilihan penawar pilihan utama, Shinhan Bank tidak hanya mempertimbangkan video, tetapi juga berbagai faktor evaluasi kualitatif dan kuantitatif dari evaluasi teknis.
Majelis hakim memutuskan, "Hanya dengan argumen atau bukti dari Maum AI, tidak dapat dilihat bahwa proses verifikasi Shinhan Bank atas kiriman DeepBrain AI dan mempertahankan posisi penawar pilihan utama melanggar asas itikad baik," dan menambahkan, "Daripada apakah kiriman DeepBrain AI adalah video rekaman nyata, yang lebih penting adalah apakah prosedur verifikasi tingkat yang tepat dilakukan saat itu." Terhadap Shinhan Bank, pengadilan memutuskan, "Sulit untuk melihat bahwa pelanggaran asas itikad baik merusak keadilan tender hingga melanggar kepentingan hukum penggugat."
Dengan Maum AI yang menyerah untuk melakukan banding, putusan tersebut ditetapkan pada 3 Oktober. Yoo Tae-joon, CEO Maum AI, menjawab mengenai alasan penghentian banding, "Karena kami telah mendapatkan konfirmasi melalui penilaian pengadilan bahwa perusahaan lawan menyerahkan video rekaman nyata. Proyek yang ditenderkan pun sudah selesai, bukan? Kami menganggap secara hukum sulit untuk membalikkan hasil jika kami terus bertikai."
Yoo menegaskan, "Saya melihat dengan putusan ini, pihak pemberi pesanan akan memperkuat hak otonomi pemilihan mereka dalam permintaan proposal di masa depan. Saya pikir perlu adanya batasan agar pihak pemberi pesanan yang sudah memiliki kekuatan besar tidak dapat menggunakan wewenang sepihak terhadap perusahaan peserta tender."
Sementara itu, DeepBrain AI dan Shinhan Bank meluncurkan petugas bank AI baru yang telah ditingkatkan pada Juli 2024 saat persidangan masih berlangsung. Ini adalah manusia buatan yang dibuat melalui sintesis video dan suara setelah memfilmkan 5 staf yang bekerja di Shinhan Bank, dan telah ditempatkan di smart kiosk dan meja digital di cabang-cabang Shinhan Bank di seluruh negeri.
Saat ditanya mengenai posisi mereka terkait gugatan tersebut, DeepBrain AI menjawab, "Video yang diserahkan dibuat dengan teknologi AI Human kami. Ini adalah metode yang masih banyak digunakan di industri AI Human hingga saat ini, di mana model khusus yang dilatih dengan data orang tertentu menghasilkan wajah dan bentuk mulut yang disesuaikan dengan ujaran, lalu menggabungkannya dengan video gerakan. Kami telah menjelaskan poin ini sepenuhnya dalam proses persidangan." Mereka menambahkan, "Kami telah memasok petugas bank AI ke bank-bank besar di dalam negeri. Petugas bank AI Shinhan Bank yang diluncurkan pada 2024 dibuat dengan model staf cabang sungguhan sehingga ekspresi dan gerakannya lebih alami, dan telah ditingkatkan untuk menangani berbagai tugas konsultasi di meja digital."
Shinhan Bank menyatakan, "Ini adalah masalah di mana persidangan telah selesai dan keputusan pengadilan telah dijatuhkan, sehingga sulit untuk memberikan jawaban karena kemungkinan adanya perselisihan tambahan."