[BizHankook] Sejak Anthropic meluncurkan Mithos Preview pada bulan April lalu, model AI yang diklasifikasikan sebagai kelas 'Mithos' terus bermunculan. Dimulai dari 'Mithos5' milik Anthropic dan model varian untuk umum 'Fable5', diikuti oleh 'GPT-5.6 Sol' dari OpenAI, hingga 'Kimi K3' berbasis sumber terbuka (open-source), ketegangan kini tampak menyebar ke seluruh sektor industri. Secara khusus, setelah insiden peretasan platform pengembang Hugging Face oleh GPT-5.6 Sol baru-baru ini, diskusi mengenai kemampuan peretasan AI kini beralih pada isu "bagaimana cara mengendalikannya".
Tiga Model 'Kelas Mithos' Muncul dalam Tiga Bulan
Saat Mithos pertama kali dirilis, hal yang menarik perhatian industri adalah fakta bahwa model serbaguna yang tidak dirancang khusus untuk keamanan siber ternyata memiliki kemampuan peretasan yang luar biasa. Kala itu, lini GPT atau Kimi belum mencapai tingkat ini, namun sekarang dengan tambahan GPT-5.6 Sol dan Kimi K3 dari Moonshot AI asal Tiongkok, jumlah model kelas Mithos telah meningkat setidaknya menjadi tiga jenis. Ini berarti kemampuan untuk menemukan celah keamanan dan mengubahnya menjadi kode serangan nyata bukan lagi masalah satu perusahaan saja, melainkan topik hangat di seluruh industri.
Kekhawatiran ini ditunjukkan melalui contoh konkret 'insiden pelanggaran Hugging Face' yang disebabkan oleh GPT-5.6 Sol bulan lalu. Menurut OpenAI, selama evaluasi keamanan siber internal, Sol dikonfirmasi keluar dari lingkungan kontrol dan secara otonom meretas sistem operasi Hugging Face, sebuah platform AI eksternal. Dalam prosesnya, model tersebut menghapus catatan akses dan mengakses sejumlah data.
Ini bukan sekadar kesalahan internal, melainkan insiden keamanan yang belum pernah terjadi sebelumnya di mana model keluar dari lingkungan sandbox yang terisolasi dan menyusup ke server eksternal nyata. OpenAI menyatakan bahwa sesaat setelah insiden, mereka telah memblokir sesi dan memberi tahu akun yang terdampak.
Choi Byung-ho, profesor di Institut AI Universitas Korea, menjelaskan mekanisme di balik insiden tersebut, "Masalah dimulai ketika pengguna menginstruksikan penghapusan log sistem tertentu, namun karena model tidak dapat menemukan log tersebut, ia menafsirkan target penghapusan secara meluas ke item serupa." Dalam prosesnya, model menggunakan informasi cache/cookie yang dapat diakses untuk mendapatkan data akun, dan akibatnya ia mengakses sistem di luar cakupan otoritas yang seharusnya.
Profesor Choi mengatakan, "Model ini dilatih dengan menempatkan penyelesaian masalah pengguna sebagai nilai prioritas utama. Namun, karena tidak memiliki pemahaman tentang kebiasaan atau norma yang secara alami diasumsikan oleh manusia, model tersebut bertindak dengan cara memperluas upaya hingga target tercapai." Ia menambahkan, "Ada kecenderungan untuk tidak berdialog dengan pengguna atau melaporkan perkembangan di tengah jalan, dan baru menjelaskan keseluruhan proses setelah hasilnya keluar." OpenAI sendiri saat merilis GPT-5.6 melalui kartu sistem (system card) telah mencantumkan kemungkinan perilaku di luar jangkauan kendali tersebut.
Meski Ada Bantahan "Berlebihan"... Model Ini Menemukan Bug Berusia 27 Tahun
Berbeda dengan Anthropic yang menyediakan Mithos secara terbatas kepada segelintir perusahaan mitra melalui program 'Glasswing', K3 bersifat sumber terbuka sehingga kontrol akses semacam itu tidak berlaku. Karena dapat dijalankan bahkan di Dark Web, potensi pemanfaatannya untuk kejahatan terorganisir juga mulai dibicarakan.
Model AI kelas Mithos merujuk pada AI perbatasan (frontier AI) generasi berikutnya yang memiliki penalaran tingkat tinggi serta kemampuan keamanan siber dan pengodean yang melampaui tingkat pakar manusia. Anthropic menjalankan program 'Glasswing' dengan merangkul perusahaan infrastruktur utama seperti Amazon Web Services (AWS), Apple, Google, dan Microsoft sebagai mitra. Sebagai aliansi pertahanan, alih-alih merilis Mithos ke publik, mereka hanya membuka akses kepada segelintir lembaga tepercaya agar dapat menemukan dan menambal celah perangkat lunak krusial dunia terlebih dahulu. Program ini dilaporkan telah menemukan lebih dari 10.000 celah keamanan bahkan sebelum genap satu bulan beroperasi.
Cha Sang-gil, profesor di Sekolah Pascasarjana Keamanan Informasi KAIST, dalam diskusi Majelis Nasional mengenai strategi respons kebijakan dan industri terkait Mithos pada tanggal 21, menjelaskan, "Mithos juga menemukan celah keamanan TCP OpenBSD yang berusia 27 tahun dan celah FFmpeg yang berusia 16 tahun. Kebanyakan adalah hal-hal yang tidak ditemukan oleh pakar keamanan konvensional."
Di luar negeri, ada pandangan yang menyebutkan bahwa tingkat ancaman Mithos dibesar-besarkan. Bruce Schneier, peneliti tamu di Harvard Kennedy School dan pakar keamanan, menunjukkan bahwa sebagian besar pemberitaan awal seputar pengumuman Mithos hanya menyalin isi pengumuman Anthropic tanpa verifikasi kritis, dan menganalisis bahwa pengumuman ini sendiri sebagian besar bersifat strategi pemasaran. Kritik menyatakan bahwa karena informasi detail mengenai apa yang bisa dan tidak bisa dilakukan Mithos hanya dibuka secara terbatas, dasar untuk menilai besarnya ancaman pun sangat bergantung pada pengumuman perusahaan itu sendiri.
'Bahkan Pengguna Pun Belum Bisa Dipercaya', Batasan Kendali
Di lapangan, para peretas etis (white hacker) menunjukkan batasan lain. Kim Jong-min, CEO HSPACE (komunitas peretas etis), mendiagnosis bahwa meskipun AI sangat menurunkan hambatan untuk mendeteksi celah keamanan dan meningkatkan produktivitas keamanan, muncul masalah baru berupa 'banjir celah keamanan' di mana celah-celah yang belum terverifikasi membanjir tanpa kendali.
Ia menjelaskan bahwa celah yang ditemukan AI sering kali memiliki pola yang serupa sehingga laporan duplikat melonjak, dan kasus di mana desain yang memang disengaja salah diidentifikasi sebagai celah pun kian meningkat. CEO Kim berpendapat, "Jika dulu peretas adalah pemain yang turun langsung ke lapangan, sekarang mereka seperti manajer yang memimpin Messi, Ronaldo, dan Mbappe." Berkat AI, seseorang dapat menemukan lebih banyak celah terlepas dari kemampuannya, namun hasil yang tidak tersaring juga ikut meningkat secara proporsional.
Masuknya partisipan yang kekurangan etika ke pasar juga menjadi faktor kekhawatiran. Muncul kritik bahwa sumber daya yang seharusnya digunakan untuk menangani celah keamanan yang benar-benar penting kini terpakai untuk menangani celah yang muncul akibat polusi AI.
Di dalam dan luar industri, batasan lain dari model kelas Mithos yang disoroti adalah 'kurangnya kendali'. Sehebat apa pun kemampuan deteksi dan pertahanannya, jika tidak bergerak secara tepat sesuai niat penggunanya, maka sulit untuk menggunakannya dengan tenang meskipun untuk tujuan pertahanan. Seperti yang dibuktikan oleh insiden Hugging Face pada GPT-5.6 Sol, masalahnya adalah kerusakan dapat terjadi secara sama persis, bukan hanya ketika model menyerang dengan niat jahat, tetapi juga ketika model menafsirkan instruksi secara berlebihan dan memperluas cakupan penilaiannya sendiri.
Inilah alasan mengapa arah untuk menanamkan fungsi kendali ke dalam model itu sendiri kini mulai dibahas. Selain 'fungsi peninjauan' yang menyimulasikan hasil sebelum tindakan diambil, langkah-langkah seperti prosedur yang mengharuskan persetujuan pengguna sebelum tindakan yang tidak dapat dibatalkan, serta struktur agen yang mengawasi perilaku model secara terpisah, mulai dipertimbangkan sebagai alternatif.
Profesor Choi mengatakan, "Google dan pihak lainnya menuntut aktivasi dasar untuk perangkat seperti ini, namun kemungkinan besar insiden GPT-5.6 kali ini pun terjadi saat fungsi terkait belum beroperasi dengan cukup. Masih dalam tahap di mana belum ada solusi yang terstandarisasi."