[비즈한국] Berita palsu bukan lagi sekadar ‘masalah perkataan’. Ia menghancurkan reputasi seseorang, memicu kebencian terhadap kelompok tertentu, mengguncang pemilu dan ruang publik, bahkan terkadang berujung pada kekerasan nyata dan konflik sosial. Di masa lalu, disinformasi cenderung ditangani sebagai masalah etika jurnalistik atau pencemaran nama baik individu. Namun, di era di mana platform digital dan AI generatif bersinergi saat ini, berita palsu menyebar dengan jauh lebih cepat, canggih, dan terkadang dalam bentuk yang sangat kompleks hingga tidak mungkin diverifikasi.
Baru-baru ini, Kim Se-ui, perwakilan dari saluran YouTube Garo Sero Institute, ditahan secara hukum. Ia dituduh menyebarkan informasi palsu dan mencemarkan nama baik aktor mendiang Kim Sae-ron dan aktor Kim Soo-hyun, dan pengadilan mengeluarkan surat perintah penangkapan dengan alasan adanya risiko penghancuran barang bukti dan melarikan diri. Bisakah kejadian ini dilihat hanya sebagai penyimpangan seorang YouTuber? Dari perspektif Eropa, pertanyaan intinya adalah: bukan hanya apa yang dikatakan individu tersebut, tetapi melalui struktur platform apa perkataan itu diperkuat, serta dalam algoritma dan struktur profit seperti apa hal itu dikonsumsi secara berulang.
Dalam Rencana Aksi Melawan Disinformasi (Action Plan against Disinformation) tahun 2018, Uni Eropa menetapkan disinformasi sebagai ancaman terhadap demokrasi. Hal ini didasari oleh kesadaran bahwa disinformasi merusak kepercayaan di ruang publik, mendistorsi pemilu, dan memicu perpecahan sosial. Oleh karena itu, pendekatan Eropa tidak berhenti pada ‘siapa yang membuat berita palsu’. Pendekatan tersebut melangkah lebih jauh dengan bertanya: ‘siapa yang memperkuatnya’, ‘sistem rekomendasi mana yang mendorong konten tersebut kepada lebih banyak orang’, dan ‘apakah platform membiarkannya meskipun mengetahui risikonya’.
DSA: Garda Terdepan dalam Mencegah Penyebaran Berita Palsu melalui Platform
Hukum yang menjadi pusat dari upaya ini adalah Undang-Undang Layanan Digital Uni Eropa (DSA, Digital Service Act). DSA membebankan tanggung jawab kepada platform daring untuk mengurangi konten ilegal dan risiko sosial. Untuk mematuhi DSA, platform daring berskala sangat besar seperti YouTube, X, Facebook, Instagram, dan TikTok harus secara berkala menilai dan memitigasi risiko tingkat sistem seperti disinformasi, manipulasi pemilu, ujaran kebencian, perlindungan anak, dan kerugian konsumen.
Poin pentingnya adalah DSA bukanlah model penyensoran di mana negara secara langsung menghapus semua konten yang bermasalah. Inti dari pendekatan Eropa adalah tanggung jawab sistem platform. Fokusnya terletak pada apa yang lebih banyak ditampilkan oleh algoritma, pesan politik dan komersial apa yang disebarkan oleh sistem iklan, serta apakah peneliti dan masyarakat sipil dapat memverifikasi data platform tersebut.
Uni Eropa telah mulai menegakkan undang-undang ini secara nyata. Pada 5 Desember 2025, X didenda sebesar 120 juta Euro (209,4 miliar Won) karena melanggar kewajiban transparansi DSA. Ini adalah peristiwa simbolis. Hal ini merupakan sinyal bahwa platform tidak bisa lagi menghindari tanggung jawab dengan alasan kebebasan berekspresi. Untuk pelanggaran DSA, denda hingga 6% dari omzet tahunan global dapat dikenakan. Bagi perusahaan teknologi besar (Big Tech), ini telah menjadi peristiwa penting di mana regulasi Eropa tidak lagi bisa dianggap sekadar ‘risiko reputasi’. Kini, hal itu telah menjadi risiko hukum dan finansial.
AI Mencari Sinyal Bahaya, Manusia Menilai
Poin menarik di sini adalah peran teknologi. Eropa tidak mencoba menyelesaikan masalah berita palsu hanya dengan hukum. Sebaliknya, mereka membangun struktur di mana hukum, teknologi, masyarakat sipil, media, dan lembaga penelitian bergerak bersama. Teknologi penanggulangan berita palsu kini melampaui sekadar penyaringan konten. Ia harus melacak gambar dan suara hasil AI, video deepfake, gambar tangkapan layar yang dimanipulasi, pengeditan yang jahat, jaringan bot, hingga manipulasi narasi berulang. Masalahnya adalah pengecek fakta manusia tidak dapat mengikuti kecepatan ini. Oleh karena itu, respons teknis Eropa berkembang menjadi model kolaborasi manusia-AI, di mana ‘AI menemukan sinyal bahaya, dan pakar manusia yang menilainya’, bukan ‘AI menilai dan menghapusnya secara otomatis’.
Proyek yang representatif adalah vera.ai. vera.ai adalah proyek penelitian dan pengembangan yang didukung oleh UE untuk mendeteksi disinformasi daring dan konten yang dimanipulasi. Proyek ini bertujuan untuk menganalisis konten dalam berbagai format seperti teks, gambar, video, dan audio, serta melakukan deteksi deepfake dan verifikasi multibahasa. Yang penting adalah teknologi ini dirancang untuk membantu pekerjaan verifikasi jurnalis dan pengecek fakta, bukan menggantikan mereka. AI dengan cepat menangkap konten yang mencurigakan, dan verifikator manusia menilai konteks serta niatnya. Proyek ini secara resmi berakhir pada 31 Oktober 2025, namun hasilnya memberikan tolok ukur penting bagi setiap negara Eropa.
AI4TRUST memiliki arah yang sama. Proyek ini mengembangkan sistem yang memantau media sosial dan media berita hampir secara waktu nyata (real-time), serta menyeleksi konten dengan kemungkinan disinformasi tinggi untuk diteruskan ke tinjauan ahli. Disinformasi tidak dibuat dengan kecepatan manusia. Jika bot, akun otomatis, AI generatif, dan kampanye terorganisir digabungkan, ia menyebar dengan kecepatan yang sulit diperiksa secara manual oleh manusia. Yang disasar AI4TRUST adalah ‘celah kecepatan’ ini. Jika manusia tidak dapat memeriksa semua informasi, diperlukan sistem di mana AI menyaring sinyal terlebih dahulu dan manusia memberikan penilaian akhir.
TITAN menunjukkan arah yang lain. TITAN bukanlah layanan yang memberikan hasil pengecekan fakta layaknya jawaban mutlak, melainkan alat pembinaan berbasis AI ala Socrates yang membantu pengguna mengembangkan kemampuan untuk bertanya, meragukan, dan menilai sendiri. Ini menunjukkan filosofi penanggulangan berita palsu Eropa dengan baik. Masalah disinformasi tidak bisa diselesaikan hanya dengan penghapusan. Konten yang telah dihapus sekali akan muncul kembali di platform lain, dan teori konspirasi justru bisa semakin diyakini kuat jika disanggah. Pada akhirnya, jika cara warga menerima informasi tidak diubah, masalah akan terulang. Inilah alasan mengapa TITAN terhubung dengan pendidikan, masyarakat sipil, dan lembaga publik.
Tren ini juga terlihat di pasar startup. Factiverse dari Norwegia adalah startup yang menyediakan solusi pengecekan fakta dan verifikasi informasi berbasis AI. Lembaga penyiaran publik dan perusahaan media di Eropa Utara memanfaatkan teknologi Factiverse dalam situasi di mana manusia sulit memeriksa konten yang sangat luas seperti pemilu, debat politik, dan video YouTube. Misalnya, ketika video terkait politik diproduksi hingga ratusan jam sehari, AI mengekstrak pernyataan, memisahkan unit klaim, serta menghubungkan kalimat yang dapat diverifikasi dengan sumbernya. Bagi perusahaan media, alih-alih menonton semua video, mereka dapat fokus pada pernyataan yang berisiko tinggi atau memerlukan verifikasi.
IdentifAI dari Italia adalah startup yang berfokus pada deteksi deepfake dan konten AI generatif. Mereka mengembangkan teknologi untuk membedakan apakah gambar, video, dan rekaman suara buatan AI generatif dibuat oleh manusia asli atau apakah itu dimanipulasi. Pada tahun 2025, perusahaan ini dilaporkan menarik investasi senilai 5 juta Euro (8,7 miliar Won) dan berencana berekspansi ke pasar Eropa dan Amerika Serikat. Hal ini menunjukkan bahwa pasar penanggulangan berita palsu tidak lagi terbatas pada proyek publik atau aktivitas organisasi sipil saja, melainkan meluas ke pasar infrastruktur keamanan siber dan kepercayaan media.
Alasannya mengapa bidang ini muncul sebagai peluang startup di Eropa sangat jelas. Pertama, regulasi sedang menciptakan pasar. DSA menuntut platform daring dan mesin pencari berskala sangat besar tidak hanya sekadar kewajiban menghapus konten, tetapi juga penilaian risiko sistem, transparansi algoritma, pembukaan repositori iklan, akses data peneliti, dan pembangunan sistem pelaporan serta tindakan terhadap konten. Ini menciptakan struktur di mana platform sulit mengklaim bahwa mereka ‘tidak tahu’ tentang disinformasi atau bahwa itu adalah ‘konten yang diunggah pengguna’. Seperti yang terlihat dari kasus Uni Eropa menjatuhkan denda pada X, penanggulangan disinformasi bukan lagi sekadar rekomendasi etis, melainkan masalah kepatuhan regulasi dan risiko finansial. Dalam proses ini, pasar baru terbentuk seperti solusi kepatuhan, pemantauan risiko, audit algoritma, manajemen transparansi iklan, sertifikasi sumber konten, deteksi deepfake, dan otomatisasi pengecekan fakta.
Kedua, permintaan dari media dan lembaga publik semakin meningkat. Semakin sensitif topik konflik sosial seperti pemilu, perang, krisis kesehatan, imigrasi, dan perubahan iklim, semakin cepat disinformasi menyebar. Terutama invasi Rusia ke Ukraina, pandemi COVID-19, pemilu Parlemen Eropa, dan debat pengungsi/imigrasi menunjukkan bahwa disinformasi dapat melampaui rumor daring biasa dan berujung pada masalah keamanan, kesehatan masyarakat, kepercayaan pemilu, dan integrasi sosial. Inilah alasan mengapa lembaga seperti European Digital Media Observatory (EDMO) menghubungkan pengecek fakta, peneliti, jurnalis, dan ahli literasi media. Perusahaan media sulit memeriksa semua konten media sosial yang luas secara manual, dan lembaga publik harus dengan cepat memahami jalur penyebaran dan cakupan pengaruh disinformasi dalam situasi krisis. Oleh karena itu, permintaan teknis untuk pemantauan otomatis, dukungan pengecekan fakta multibahasa, analisis jaringan disinformasi, serta dasbor respons pemilu/krisis pasti akan meningkat.
Ketiga, perusahaan juga menjadi korban langsung disinformasi. Rumor palsu, video yang dimanipulasi, ulasan palsu, peniruan merek, dan manipulasi informasi yang menargetkan pesaing secara langsung merusak reputasi perusahaan dan kepercayaan konsumen. Dengan penyebaran AI generatif, suara palsu CEO perusahaan, video wawancara yang dimanipulasi, siaran pers palsu, bahkan ulasan pelanggan palsu kini dapat dibuat dengan biaya rendah, sehingga risiko komunikasi perusahaan menjadi jauh lebih besar. Bagi perusahaan, penanggulangan disinformasi bukan lagi sekadar tugas klarifikasi pasca-kejadian oleh tim humas, melainkan area manajemen risiko yang terhubung dengan perlindungan merek, keamanan siber, hubungan investor, dan manajemen kepercayaan konsumen. Karena alasan ini, permintaan akan teknologi pemantauan reputasi, deteksi deepfake, analisis ulasan palsu, deteksi peniruan merek, dan dukungan komunikasi krisis juga meningkat bersamaan.
Kebenaran Membutuhkan ‘Infrastruktur Kepercayaan’
Implikasinya besar bagi Korea. Perdebatan mengenai berita palsu di Korea sering kali menyempit pada struktur ‘apakah harus dihukum atau tidak’. Dibandingkan dengan ini, diskusi di Eropa sedikit lebih struktural. Bukan hanya individu yang berbicara, tetapi struktur di mana disinformasi menjadi uang, kemarahan menjadi klik, dan algoritma merekomendasikan konten yang provokatif secara berulang. Maka, solusinya tidak bisa hanya berhenti pada hukuman individu. Sistem rekomendasi platform, struktur monetisasi, transparansi iklan, hak akses peneliti, pendidikan warga, dan sistem verifikasi berbasis teknologi harus dibahas bersama.
Jika kita melihat kasus penangkapan Kim Se-ui dari sudut pandang Eropa, pertanyaan akhirnya bermuara pada satu hal. Apakah masyarakat Korea akan menangani disinformasi hanya sebagai masalah hukuman pasca-kejadian, atau sebagai risiko struktural dari ekosistem informasi? Eropa sudah bergerak ke arah yang kedua. Metodenya adalah meminta pertanggungjawaban platform, melacak jalur penyebaran dengan teknologi, dan membantu warga menilai informasi sendiri.
Di era berita palsu, kebenaran tidak akan bertahan dengan sendirinya. Kebenaran juga membutuhkan infrastruktur. Infrastruktur kepercayaan yang dibangun bersama oleh hukum, teknologi, media, masyarakat sipil, pendidikan, dan startup. Itulah yang ditunjukkan oleh startup penanggulangan berita palsu di Eropa. Demokrasi masa depan tidak hanya dijaga oleh media yang baik. Diperlukan ekosistem teknologi baru yang memantau, memverifikasi, dan menjelaskan seluruh proses di mana disinformasi dibuat, diperkuat, dan dikonsumsi.
Di Korea pun, kini saatnya untuk mengubah pertanyaan. Kita harus melangkah lebih jauh dari sekadar bertanya siapa yang berbohong. Mengapa kebohongan itu menyebar begitu cepat? Siapa yang menghasilkan uang darinya? Struktur platform apa yang memungkinkannya? Dan bagaimana kita akan mengubah struktur tersebut? Di tempat yang menjawab pertanyaan ini, pasar baru untuk teknologi penanggulangan berita palsu dan startup akan terbuka.
Penulis Lee Eun-seo mengambil jurusan hukum di Korea dan mempelajari teater di Berlin. Ia memimpin 123Factory yang menjembatani ekosistem startup Korea dan Jerman, berbasis di Berlin yang merupakan kota seni sekaligus hub startup Eropa, sembari tumbuh bersama kota tersebut.