[비즈한국] Seiring dengan perkembangan kecerdasan buatan generatif (AI), sektor keuangan kini aktif memanfaatkan teknologi AI. Namun, muncul pula efek samping yang disebut sebagai 'penipuan keuangan teknologi baru'. Dengan semakin canggihnya teknologi yang membuat pembedaan antara yang asli dan palsu menjadi sulit, kerugian akibat penipuan teknologi baru diperkirakan akan terus meningkat. Sayangnya, di bawah hukum yang berlaku saat ini, pencegahan dan pemulihan kerugian tidaklah mudah. Di tengah kabar lolosnya 'Undang-Undang Dasar tentang Pengembangan Kecerdasan Buatan dan Pembangunan Fondasi Kepercayaan (UU Dasar AI)' di Komite Sains, Teknologi, Informasi, Penyiaran, dan Komunikasi Majelis Nasional pada 26 November, muncul suara-suara yang mendesak perlunya legislasi yang mendalam untuk mencegah kejahatan keuangan berbasis AI.
Seiring meningkatnya penipuan keuangan yang menyalahgunakan teknologi AI generatif, sebuah forum diadakan untuk mendiskusikan langkah-langkah pencegahan dan pemulihan kerugian bagi konsumen. Pada 27 November, Forum Hak Konsumen, Asosiasi Konsumen Keuangan Korea, Aksi Konsumen Masa Depan, dan kantor anggota Majelis Nasional dari Partai Demokrat, Kim Byung-ki, menggelar forum 'Mencari Langkah Perlindungan Konsumen Terhadap Penipuan Keuangan Menggunakan Teknologi Baru'.
Penipuan keuangan berbasis AI secara garis besar terbagi menjadi tiga jenis. Pertama adalah penipuan *deepfake* yang menarik investor dengan video yang meniru tokoh terkenal. Ini adalah modus yang menggunakan wajah tokoh keuangan atau selebritas yang sangat dipercaya publik melalui video *deepfake* untuk membujuk orang melakukan investasi. Pada bulan Maret lalu, 137 tokoh terkenal yang identitasnya dicatut secara langsung tampil ke publik untuk mendesak penyelesaian masalah ini.
Kedua adalah penipuan 'AI Washing' (pencucian AI). Pelaku membujuk konsumen dengan melebih-lebihkan atau memasarkan secara palsu seolah-olah menggunakan teknologi AI, padahal kenyataannya tidak. Contohnya, mereka mempromosikan "mendapatkan keuntungan tinggi menggunakan program perdagangan saham berbasis AI", namun pada praktiknya program atau metode investasi tersebut sama sekali tidak ada.
Ketiga adalah penipuan 'Chatbot AI'. Ini sering digunakan dalam kejahatan 'romance scam' (penipuan asmara), di mana pelaku mendekati korban melalui pesan kepada banyak orang, mendapatkan kepercayaan atau kasih sayang mereka, lalu meminta uang.
Para pakar yang berkumpul di forum hari itu sepakat bahwa undang-undang saat ini sulit untuk mencegah penipuan keuangan AI atau memulihkan kerugian yang ada. Moon Chan-hyun, anggota ahli di Aksi Konsumen Masa Depan (Perencana Keuangan Bersertifikat Internasional) yang menjadi pembicara utama, mengatakan, "Jika Anda melihat video penipuan investasi *deepfake*, sebenarnya kualitasnya tidak tinggi. Sangat kasar hingga bisa dibedakan bahwa itu palsu, namun kerugian terus terjadi. Itu artinya ada banyak pihak yang rentan secara finansial." Ia menambahkan, "Berbeda dengan persepsi umum bahwa korban penipuan keuangan adalah lanjut usia atau berpendidikan rendah, kenyataannya banyak terjadi pada usia 40-50 tahun yang aktif secara ekonomi. Fakta bahwa pelaku penipuan nomor satu adalah kenalan, disusul oleh praktisi keuangan, menjadi alasan mengapa kerugiannya begitu besar."
Moon menyarankan, "Jenis penipuan keuangan mulai muncul secara kompleks dalam bentuk penerimaan dana ilegal, *phishing*, *smishing*, dan *scam*, sehingga jumlah kerugian per orang pun meningkat. Demi melindungi konsumen keuangan, kita perlu melengkapi sistem seperti memperketat hukuman terkait penipuan keuangan, berusaha dalam aktivitas promosi untuk menginformasikan berbagai jenis dan cara pencegahan, serta melakukan edukasi keuangan untuk meningkatkan kapasitas konsumen."
Kritik juga muncul mengenai hampir mustahilnya mendapatkan ganti rugi jika konsumen yang menggunakan layanan AI dari lembaga keuangan mengalami kerugian. Jung Shin-dong, profesor di Sekolah Hukum Universitas Asing Hankuk, menunjuk, "Dalam bidang keuangan, data yang terkumpul sangatlah besar, termasuk banyak informasi sensitif. Namun, ketika kerugian terjadi akibat kesalahan lembaga keuangan, konsumen tidak bisa membuktikan masalah tersebut secara langsung. Hal ini disebabkan oleh karakteristik AI yang bersifat otonom dan tidak transparan."
Meskipun AI melakukan penilaian secara otonom, sulit untuk meminta pertanggungjawaban kesalahan pada AI, bukan manusia, saat terjadi kecelakaan. Meminta pertanggungjawaban pengembang AI pun ambigu karena mereka bukanlah pelaku kesalahan langsung. Dalam hal ketidaktransparanan, perusahaan tidak mengungkapkan algoritma AI dengan alasan 'rahasia dagang', dan bahkan pengembang pun sulit membuktikan hubungan kausalitas kesalahan karena tidak tahu hasil apa yang akan dikeluarkan oleh AI tersebut.
Profesor Jung mengatakan, "Tatanan hukum tradisional tidak dapat mencegah kerugian konsumen. Ada kekosongan hukum yang jelas. Hal mendasar adalah memperkuat transparansi, seperti kewajiban memberi label agar konsumen dapat mengenali output AI. Dukungan institusional juga diperlukan agar teknologi AI dapat digunakan untuk mencegah kejahatan sejak dini."
Setelah presentasi, diskusi panel membahas perlunya legislasi untuk pemulihan kerugian penipuan. Seong Jun-ho, peneliti senior di Institut Hukum Universitas Sungkyunkwan, mengatakan, "Menghukum pelaku tidak berarti kerugian bisa pulih. Selain itu, dalam *romance scam* atau penipuan investasi baru, tidak ada langkah pemulihan yang nyata karena korban mentransfer uang sendiri meskipun mereka telah tertipu."
Lee Hyo-seop, peneliti senior di Divisi Industri Keuangan Institut Riset Pasar Modal, menunjuk, "Jika perselisihan keuangan terjadi di platform berbasis AI generatif, sering kali konsumen bahkan tidak tahu bahwa mereka adalah korban, dan proses pemulihan membutuhkan waktu yang lama. Dibutuhkan badan penyelesaian sengketa keuangan yang independen. Dalam kejahatan penipuan, pemulihan dana kerugian hampir mustahil, jadi perlu dibuat undang-undang khusus untuk perlindungan korban."
Masalah dalam undang-undang saat ini yang membebankan tanggung jawab pembuktian kepada korban penipuan keuangan AI juga disebutkan. Baek Joo-sun, pengacara dari firma hukum Daeyul, menjelaskan, "Berbeda dengan kejahatan lingkungan, malapraktik medis, atau sengketa kekayaan intelektual di mana hukum dan preseden terkait memperingan tanggung jawab pembuktian korban dengan mengasumsikan kesalahan atau kausalitas pelaku, dalam kasus kerugian penipuan keuangan berskala besar hal ini tidak diakui. Kita perlu melengkapi sistem secara mendetail untuk mencegah tindakan sewenang-wenang pengadilan dengan merujuk pada UU Tanggung Jawab Perbuatan Melawan Hukum AI dari Uni Eropa."
Diskusi juga menyinggung UU Dasar AI yang lolos di Komite Sains dan TIK pada 26 November. Jung Joon-hwa, peneliti legislatif di Tim Sains, Penyiaran, dan Komunikasi, Kantor Riset Legislatif, mengatakan, "Ada 19 UU dasar terkait AI yang diusulkan, dan akhirnya nama diseragamkan menjadi 'basis kepercayaan'. Inti dari penipuan AI adalah sulitnya konsumen membedakan apakah informasi tersebut adalah buatan AI atau informasi nyata. RUU tersebut juga menekankan penandaan karya AI. Namun, subjek yang dibebani kewajiban pelabelan masih ambigu dan perlu dirinci. Selain itu, diperlukan lembaga yang berperan sebagai pusat perlindungan yang secara khusus menyelidiki kerugian konsumen, bukan hanya institut keamanan AI."
Peneliti Jung menekankan bahwa peningkatan literasi digital (kemampuan memahami dan memperoleh informasi) konsumen keuangan harus dilihat sebagai langkah minimal. Ia menegaskan, "Penekanan pada literasi digital sebenarnya adalah pembicaraan yang berbahaya. Bukan hanya konsumen dengan literasi rendah, konsumen dengan literasi tinggi pun bisa tertipu karena mereka sangat memercayai penilaian mereka sendiri. Jika literasi digital terlalu ditekankan, akan timbul masalah pengalihan tanggung jawab pemerintah atau publik kepada konsumen."