[비즈한국] 'Undang-Undang Dasar AI' yang mengatur perkembangan dan masalah keamanan kecerdasan buatan (AI) resmi berlaku penuh pada tanggal 22. Undang-undang ini bertujuan untuk meningkatkan daya saing AI domestik sekaligus membangun fondasi kepercayaan terhadap penggunaan AI dengan menyediakan perangkat perlindungan seperti kewajiban mencantumkan tanda air (watermark) pada konten yang dihasilkan AI. Di tengah integrasi AI generatif dalam kehidupan sehari-hari, sistem hukum yang mencakup seluruh industri kini telah berjalan. Namun, masih ada ruang untuk interpretasi mengenai kriteria penilaian spesifik untuk AI berdampak tinggi—yang merupakan regulasi inti—dan cara penerapan praktis kewajiban transparansi juga masih dalam pembahasan. Meski regulasi telah ditetapkan, para ahli menunjukkan bahwa masih banyak pekerjaan rumah yang tersisa karena kriteria pelaksanaan dan sistem pembuktiannya masih belum jelas.
Membedakan yang Palsu dan Asli… Kewajiban Pelabelan Konten AI
Perubahan utama yang akan dirasakan pengguna dengan diberlakukannya UU Dasar AI adalah penerapan 'kewajiban transparansi'. Pelaku usaha AI wajib memastikan pengguna dapat mengetahui dengan jelas bahwa AI telah digunakan dalam pembuatan konten, saat mereka mendistribusikan atau menyediakan konten seperti gambar, video, atau suara yang menggunakan AI generatif. Ini yang disebut sebagai 'AI Watermark'.
Pemerintah menjelaskan bahwa mereka memberikan fleksibilitas pada metode pelabelan dengan mempertimbangkan aspek penerimaan teknologi. Baik metode yang terlihat oleh mata (kasatmata) maupun metode penyisipan kode ke dalam data yang dapat dibaca mesin (tidak kasatmata) diperbolehkan, tergantung pada karakteristik konten. Secara khusus, untuk hasil *deepfake* yang dikhawatirkan membawa dampak sosial negatif dan sulit dibedakan dengan kenyataan, fakta bahwa konten tersebut dihasilkan oleh AI harus diberitahukan atau ditampilkan agar pengguna dapat mengenalinya dengan jelas.
Kewajiban transparansi ini hanya berlaku bagi pelaku usaha yang menyediakan produk atau layanan AI. Ini termasuk pelaku usaha luar negeri yang menyediakan produk dan layanan AI kepada pengguna domestik. Subjek yang diatur adalah pelaku usaha yang menyediakan layanan AI secara langsung kepada pengguna akhir. Sebagai contoh, jika perusahaan B menggunakan model AI yang dikembangkan oleh perusahaan A dalam bentuk API untuk layanan mereka sendiri, maka kewajiban transparansi dibebankan kepada perusahaan B. Bagi pengembang yang juga menyediakan layanan langsung seperti OpenAI, Google, dan Naver035420, mereka yang memikul kewajiban transparansi tersebut.
Pengguna individu yang hanya mengonsumsi konten menggunakan alat AI atau mempostingnya di media sosial pribadi dikecualikan dari regulasi. Untuk metode *watermark* per layanan, pengguna dapat merujuk pada pedoman transparansi dari Kementerian Sains dan TIK.
10 Bidang 'AI Berdampak Tinggi' yang Langsung Terkait dengan Kehidupan dan Keamanan
Aspek penting lainnya dari regulasi ini adalah sistem 'AI Berdampak Tinggi'. Menurut peraturan pelaksana, AI yang digunakan dalam 10 bidang yang berkaitan langsung dengan kehidupan, keamanan, dan hak-hak dasar (energi, air minum, kesehatan, energi nuklir, investigasi kriminal, rekrutmen, penilaian pinjaman, transportasi, layanan publik, dan pendidikan) diklasifikasikan sebagai AI berdampak tinggi.
Contoh spesifiknya termasuk 'kendaraan otonom level 4 atau lebih tinggi (sistem otomatisasi tingkat tinggi tanpa campur tangan manusia)'. Dalam bidang yang sangat mempengaruhi kehidupan dan hak asasi manusia seperti medis, rekrutmen, dan penilaian pinjaman, pelaku usaha wajib menerapkan langkah-langkah peningkatan kepercayaan, seperti memiliki sistem manajemen risiko dan menyusun rencana perlindungan pengguna.
Status 'AI Berdampak Tinggi' harus diperiksa oleh pelaku usaha itu sendiri. Jika pelaku usaha AI ragu, mereka dapat meminta konfirmasi kepada Kementerian Sains dan TIK. Namun, terdapat penilaian bahwa masih ada ruang interpretasi yang besar mengenai tingkat teknologi atau layanan seperti apa yang akan masuk dalam cakupan regulasi. Di dalam dan luar industri, terdapat pendapat yang berseberangan: pihak yang berpendapat bahwa "AI berdampak tinggi hanya dianggap jika manusia tidak terlibat dalam pengambilan keputusan akhir, seperti pada swakemudi penuh," dan pihak yang berpendapat bahwa "semua algoritma yang berisiko melanggar hak-hak dasar harus dimasukkan."
Di tengah penilaian bahwa kriteria spesifik untuk penerapan praktis masih kurang, pemerintah berencana untuk fokus pada stabilisasi sistem daripada hukuman berat dengan mempertimbangkan kebingungan industri akibat pelaksanaan UU ini. Jika melanggar kewajiban dalam UU Dasar, denda administratif hingga 30 juta won dapat dikenakan, namun untuk meminimalkan kebingungan perusahaan, regulasi akan ditangguhkan setidaknya selama 1 tahun ke depan.
Bersamaan dengan itu, pemerintah memutuskan untuk membentuk dan mengoperasikan 'Meja Dukungan UU Dasar AI' untuk menanggapi pertanyaan perusahaan terkait hukum. Selain itu, mulai bulan depan, 'Kelompok Penelitian Peningkatan Sistem' yang melibatkan industri, organisasi sipil, dan akademisi akan dibentuk untuk menemukan poin-poin perbaikan sistem.
Pemerintah Tetapkan “Masa Transisi 1 Tahun”… Industri Platform dan Telekomunikasi Lakukan Langkah Awal
Perusahaan platform dan telekomunikasi utama di Korea Selatan mulai membenahi kebijakan internal dan tata kelola seiring dengan ditekankannya tanggung jawab sosial terkait teknologi AI dengan diberlakukannya UU Dasar AI.
Kakao035720 telah menetapkan kewajiban 'pemberitahuan dan penyertaan layanan berbasis AI' dalam syarat dan ketentuan layanan yang akan berlaku mulai 4 Februari mendatang. Naver juga memperkuat kebijakan penggunaan konten berbasis AI mulai tanggal 7 bulan depan. Akhir tahun lalu, Naver telah memperkenalkan fitur 'pelabelan konten buatan AI' di platform konten buatan pengguna seperti blog, kafe, dan klip.
Industri telekomunikasi fokus pada penguatan sistem tata kelola di seluruh perusahaan. SK Telecom017670 meluncurkan kampanye 'Good AI' untuk karyawannya dan meningkatkan 'Portal Tata Kelola AI' untuk memeriksa risiko sejak tahap perencanaan. KT030200 memulai pembangunan ekosistem AI yang aman dan terpercaya melalui organisasi khusus bernama 'Pusat AI Bertanggung Jawab (RAIC)'.
Pemerintah berencana untuk mencegah diskriminasi terbalik terhadap perusahaan domestik dengan menerapkan hukum tersebut kepada pelaku usaha AI luar negeri yang mempengaruhi masyarakat. Pemerintah juga membuka kemungkinan untuk memperpanjang masa penangguhan dengan mempertimbangkan tren internasional, termasuk penerapan regulasi Uni Eropa (pada tahun 2027).
Kim Kyung-man, Kepala Biro Kebijakan Kecerdasan Buatan di Kementerian Sains dan TIK, menekankan, "80-90% dari UU Dasar AI berisi tentang promosi industri. Pada tahap awal, kami akan fokus mendukung perusahaan agar dapat beradaptasi dengan sistem daripada penegakan regulasi." Ia menambahkan, "Regulasi Uni Eropa mengenakan denda hingga 35 juta Euro (sekitar 67 miliar won) atau 7% dari total omzet, mana yang lebih tinggi, sementara denda administratif hukum domestik kurang dari 30 juta won. Ini adalah regulasi minimal yang tidak menghambat inovasi."