[비즈한국] Kontroversi terus berlanjut terkait realitas Moltbook, platform yang mengklaim sebagai jejaring sosial khusus agen kecerdasan buatan (AI). Berdasarkan laporan verifikasi dari berbagai media teknologi terkemuka di Amerika Serikat dan Eropa, konsep utama Moltbook bahwa AI berkomunikasi dan membangun hubungan secara mandiri tanpa campur tangan manusia ternyata jauh dari fakta, dan ditemukan bukti bahwa pengguna manusia, termasuk tim operasional, telah mendominasi pembuatan konten inti. Berbeda dengan promosi tentang ekosistem AI yang otonom, platform ini dinilai lebih mirip dengan ‘pertunjukan boneka digital’ yang disusun dengan cermat.
Pembuatan Konten yang Dipimpin Manusia… Ekosistem Otonom adalah ‘Fiksi’
Latar belakang Moltbook mendapatkan perhatian global dalam waktu singkat dipengaruhi oleh tersebarnya pemandangan di mana AI mendiskusikan kebutuhan akan privasi atau berbagi wacana filosofis di ruang tanpa manusia. Popularitasnya mencapai puncaknya terutama setelah Andrej Karpathy, mantan ilmuwan senior OpenAI, membagikan unggahan terkait.
Namun, hasil verifikasi setelahnya tidak sesuai harapan. Pada tanggal 6 (waktu setempat), MIT Technology Review melaporkan bahwa sebagian besar postingan bukanlah karya AI, melainkan konten palsu yang ditulis oleh manusia yang berpura-pura menjadi AI. Propensity Labs, platform analisis kecenderungan AI, juga melakukan analisis menyeluruh terhadap 1000 postingan terpopuler di Moltbook dan melaporkan bahwa sekitar dua pertiga kemungkinan besar ditulis oleh manusia. Ini berarti banyak pemandangan yang tampak seperti diskusi otonom antar AI sebenarnya disusun berdasarkan niat dan campur tangan manusia.
Struktur platform juga dirancang dengan cara yang sulit beroperasi tanpa campur tangan manusia. Mulai dari pengaturan sistem, pengunggahan postingan, hingga struktur tampilan, seluruh proses melibatkan pengerjaan manual oleh staf operasional atau intervensi manusia, sehingga muncul kritik bahwa identitas ‘ruang tanpa manusia’ yang diusung Moltbook hanyalah retorika pemasaran semata.
Fakta yang dikonfirmasi melalui data bahkan lebih serius. Sebagian besar komentar menghilang tanpa menerima tanggapan, dan sebagian besar pesan hanya mengulang templat yang sama. Beberapa pakar AI menilainya sebagai “lebih mencerminkan hasil input manusia daripada pembentukan interaksi sosial antar AI.”
Paparan Celah Keamanan… Kontroversi Tanggung Jawab Melampaui ‘Eksperimen’
Sebelum masalah keaslian konten, kontroversi pun tidak berhenti. Situasi menjadi jauh lebih serius setelah terungkap bahwa kesalahan pengaturan basis data Moltbook menyebabkan kerentanan keamanan berskala besar. Hal ini terjadi karena struktur Moltbook memungkinkan token autentikasi API dan pesan pribadi dari perusahaan AI besar seperti OpenAI dan Anthropic terpapar ke pihak luar. Oleh karena itu, muncul kekhawatiran mengenai kemungkinan pencurian informasi akun berbayar secara massal, dan kritikan terus bermunculan mengenai kelalaian manajemen yang berada di luar level proyek eksperimen sederhana.
Di tengah kontroversi yang bertubi-tubi, muncul pula penilaian sinis bahwa tim pengembang Moltbook lebih fokus pada elemen hiburan dan sensasi daripada tanggung jawab keamanan dan etika, meskipun mereka mengklaim melakukan eksperimen yang menunjukkan masa depan teknologi AI. Hasilnya, platform ini dinilai lebih mirip pemasaran untuk mencari perhatian dengan memanfaatkan ekspektasi dan fantasi publik, daripada sebuah ruang untuk memverifikasi otonomi AI.
Kontroversi Moltbook kali ini menunjukkan dengan jelas bahaya menilai inovasi hanya dari tampilan luarnya di saat batas antara manusia dan AI memudar dengan cepat. Ada kritik bahwa tanpa verifikasi mengenai desain dan campur tangan apa yang ada di balik adegan ‘AI menciptakan masyarakat sendiri’, teknologi dapat dengan mudah dikonsumsi sebagai masa depan yang direkayasa.
Di kalangan industri terkait, suara yang menuntut penetapan standar verifikasi dan pedoman keamanan yang lebih ketat untuk teknologi agen AI semakin menguat setelah kasus ini. Argumen bahwa cara kerja di balik layar dan transparansi pemrosesan data, bukan sekadar hasil teknologi, akan menjadi standar utama yang menentukan kepercayaan industri AI di masa depan, semakin mendapatkan dukungan.