[비즈한국] Kecerdasan Buatan (AI) kini tengah mengubah administrasi negara dan sistem penegakan hukum, melampaui ranah industri dan kehidupan sehari-hari. Kepolisian Nasional, Kejaksaan Agung, dan Layanan Pajak Nasional baru-baru ini telah membentuk atau memperluas organisasi khusus AI, serta mulai membangun sistem yang mengintegrasikan AI ke dalam investigasi, penyelidikan, dan layanan publik. Meskipun tujuannya untuk meningkatkan efisiensi dan akurasi, bobot penerapan AI ini menjadi luar biasa karena informasi dan wewenang yang dikelola lembaga-lembaga tersebut bersentuhan langsung dengan hak-hak dasar warga negara. Biz Hankook akan meninjau status transformasi AI di tiga lembaga penegak hukum utama—Kepolisian, Kejaksaan, dan Layanan Pajak—serta tantangan yang tersisa dalam proses tersebut.
Kepolisian Nasional sedang mempercepat upaya untuk mengintegrasikan kecerdasan buatan (AI) ke dalam seluruh aspek investigasi dan layanan publik. Mulai dari pencarian preseden hukum, penyusunan draf surat perintah, rekomendasi pertanyaan untuk berita acara pemeriksaan (BAP) tersangka, bantuan konsultasi/penerimaan pengaduan, hingga deteksi deepfake; AI kini bergerak melampaui peran sebagai alat bantu dan mulai mendekati proses pengambilan keputusan dalam administrasi keamanan publik. Untuk mendukung hal ini, Kepolisian sedang membenahi organisasi khusus serta mendorong pengembangan platform terintegrasi AI berbasis jaringan internal dan model bahasa besar (LLM) khusus keamanan publik.
Berdasarkan liputan Biz Hankook, Kepolisian Nasional baru-baru ini tengah melakukan penelitian kebijakan bertajuk 'Penyusunan Evaluasi Dampak AI dan Rencana Manajemen Risiko'. Proyek dengan nilai kontrak 41 juta won dan durasi 120 hari ini sedang dilaksanakan oleh ThinkForB. Seorang pejabat kepolisian menyatakan, “Kami berencana menyelesaikan penelitian ini pada akhir tahun.” Selain itu, penelitian mengenai 'Rencana Peningkatan Sistem Perlindungan Data Pribadi di Kepolisian Akibat Penerapan AI' juga sedang dijalankan. Fokus utamanya adalah memeriksa risiko re-identifikasi, bias data dalam proses pembelajaran dan inferensi AI, hingga standar perlindungan data pribadi saat menganalisis rekaman CCTV.
Kedua penelitian ini merupakan langkah respons terhadap Undang-Undang Dasar AI (Undang-Undang Dasar tentang Pengembangan Kecerdasan Buatan dan Pembangunan Fondasi Kepercayaan) serta 'Undang-Undang AI Publik (Undang-Undang tentang Aktivasi Administrasi Berbasis Data dan Kecerdasan Buatan)' yang akan mulai berlaku akhir Februari tahun depan. Dalam UU Dasar AI dan UU AI Publik, berbagai AI di sektor keamanan publik dinilai berpotensi besar diklasifikasikan sebagai 'AI berdampak tinggi'. UU Dasar AI memberikan kewajiban seperti penjaminan transparansi dan pembangunan sistem manajemen risiko, sementara UU AI Publik mewajibkan lembaga publik untuk menyiapkan evaluasi dampak dan rencana manajemen risiko sebelum menerapkan AI.
Dari Pusat Kendali hingga Platform Terintegrasi
Seiring dengan penataan dasar hukum dan kelembagaan tersebut, Kepolisian sedang mempercepat transformasi AI melalui tiga jalur: restrukturisasi organisasi dan infrastruktur, serta perluasan penerapan AI dalam investigasi dan tugas lapangan.
Pada Maret tahun ini, Kepolisian resmi membentuk pusat kendali AI dengan mengubah 'Divisi Kebijakan Keamanan Masa Depan' di bawah Biro Kebijakan Keamanan Masa Depan menjadi 'Divisi Kebijakan AI Keamanan Publik'. Organisasi sebelumnya, yaitu Satuan Tugas (TF) Inovasi AI Keamanan Publik, diserap menjadi organisasi tetap, dan jabatan baru sebagai Pejabat Kerja Sama AI di bawah langsung Kepala Biro pun dibentuk. Divisi Basis Informatisasi juga diubah namanya menjadi Divisi Basis AI Keamanan Publik.
Bersamaan dengan restrukturisasi organisasi, pembangunan 'Platform Terintegrasi AI' untuk menerapkan AI generatif ke dalam seluruh tugas administrasi juga tengah didorong. Melalui proyek Rencana Strategis Informatisasi (ISP) yang dijalankan oleh WearBiz, sedang dikaji upaya untuk menghubungkan fitur AI guna mendukung penulisan laporan, penerjemahan, dan ringkasan dokumen ke dalam PolNet, jaringan internal kepolisian. Seorang pejabat kepolisian terkait mengatakan, “Kami sedang mempersiapkan agar proyek ISP selesai tahun ini dan dapat tercermin dalam anggaran tahun depan untuk memulai pembangunan secara penuh.”
Universitas Kepolisian bertanggung jawab atas pengembangan model bahasa besar (LLM) khusus keamanan publik. Pada bulan April lalu, pelatihan 'Pendidikan Pemimpin AI Keamanan Publik (CAIO)' bagi manajer setingkat kepala polisi (Superintendent) juga telah dimulai, mencakup materi tentang AI generatif, AI fisik, serta keamanan dan etika AI.
AI Merambah ke Lapangan Investigasi… Apakah Tidak Ada Kekhawatiran?
AI pendukung investigasi 'KICS-AI', yang diperkenalkan pada November 2024, telah mendukung pencarian preseden dan penyusunan draf surat perintah. Melalui proyek peningkatan senilai total 4,6 miliar won, fungsi AI akan diperluas mencakup penulisan surat keputusan penyidik dan pemberitahuan hasil investigasi, rekomendasi pertanyaan BAP tersangka, penyusunan daftar kejahatan, hingga pembangunan sistem aliran balik investigasi menggunakan surat dakwaan dan putusan pengadilan. Sejak tahun lalu, penggunaan AI di bidang forensik digital juga terus didorong.
Di bidang layanan publik, proyek 'Everyone's Police Officer' yang menelan dana 107 miliar won sedang dikembangkan sebagai bagian dari 'Proyek Transformasi AI Publik (AX)' pemerintah. Proyek ini dijadwalkan mendukung konsultasi, penerimaan pengaduan, dan penyusunan dokumen hingga Desember 2027 melalui integrasi dengan Police Complaint 24 dan Call Center 182. Upacara peluncuran kelompok penasihat yang terdiri dari 200 warga dan petugas lapangan telah diadakan pada tanggal 18 lalu.
Namun, muncul kekhawatiran yang cukup besar terkait efektivitas dan keamanan penyebaran AI keamanan publik ini. Pengenalan wajah, pemblokiran AI untuk voice phishing, dan otomatisasi laporan investigasi semuanya dikategorikan sebagai 'AI berdampak tinggi' menurut UU Dasar AI, dan langkah Kepolisian untuk menyusun evaluasi dampak serta manajemen risiko dinilai sebagai upaya untuk menyerap kekhawatiran tersebut secara sistemik.
Profesor Lee Sang-yeop dari Universitas Kepolisian menyebutkan dalam sebuah makalah analisis data akademik luar negeri bahwa 'Data' telah muncul sebagai kata kunci utama dalam penelitian AI kepolisian. Ia mencatat, “Sementara penelitian AI kepolisian di dalam negeri condong pada aspek kelembagaan seperti hukum atau administrasi publik, penelitian di luar negeri lebih dominan menerapkan teknologi berbasis ilmu komputer. Ini saatnya kita memerlukan penelitian untuk peningkatan teknologi agar dapat diterapkan dengan aman dalam tugas kepolisian, di samping merespons isu-isu hukum yang akan ditimbulkan oleh AI.”
Hwang Seok-jin, Profesor di Graduate School of Information Security, Universitas Dongguk, mengatakan, “Dalam tugas yang seharusnya tidak memiliki bias seperti penulisan BAP tersangka atau dukungan administrasi, AI digunakan padahal perangkat verifikasinya masih minim. Masalah kebocoran informasi atau halusinasi (AI menciptakan fakta yang tidak ada) juga sulit diverifikasi.” Ia menekankan, “Ada keterbatasan data karena hanya preseden hukum yang bisa dimanfaatkan, sementara analisis gambar atau video masih sulit. Jika algoritma mengandung bias, transparansi sulit dijamin, dan saat ini hampir tidak ada panduan atau manual kelembagaan mengenai siapa yang harus bertanggung jawab jika terjadi masalah.”
Oleh karena itu, muncul saran agar penerapan dilakukan secara bertahap, dimulai dari teknologi yang memiliki tingkat resistensi rendah sebelum menyentuh teknologi yang melibatkan diskresi kepolisian secara langsung.
Menanggapi kekhawatiran tersebut, pejabat kepolisian menjelaskan, “Kami berencana melakukan evaluasi dampak pada semua proyek terkait AI. Karena AI berdampak tinggi dapat memengaruhi kehidupan sehari-hari dan hak dasar warga negara, kami bertujuan untuk mengevaluasi apakah ada aspek yang melanggar hak tersebut.” Ia menambahkan, “Kami berencana untuk menata standar terkait dan membangun fondasi agar dapat mengelola faktor risiko secara sistematis sebelum undang-undang mulai berlaku tahun depan.”