[비즈한국] Pemerintah AS dan Anthropic tampaknya akan kembali terlibat konflik terkait penggunaan militer untuk model AI 'Claude'. Hal ini dikarenakan terungkapnya fakta bahwa model AI 'Claude' milik Anthropic digunakan dalam operasi serangan udara Iran yang baru saja dilakukan oleh militer AS.
Presiden AS Donald Trump memerintahkan pengecualian Anthropic dari seluruh proyek pemerintah sehari sebelum melancarkan serangan udara ke Iran. Karena militer AS telah mengintegrasikan Claude secara mendalam ke dalam sistem rahasia mereka, kejadian ini terjadi saat sistem tersebut belum sempat diganti. Ini dianggap sebagai peristiwa simbolis di mana pedoman etika AI yang diusung oleh perusahaan berbenturan langsung dengan kebijakan penggunaan militer pemerintah yang memprioritaskan keamanan nasional.
Menteri Keuangan AS Scott Bessent menyatakan pada 2 Maret bahwa, mengikuti instruksi Presiden Trump, penggunaan alat AI Anthropic akan dihentikan di seluruh jajaran administrasi pemerintah. Langkah ini merupakan hasil dari konflik mengenai cakupan penggunaan teknologi antara Departemen Perang AS dan Anthropic yang meluas ke seluruh pemerintah.
Anthropic telah bekerja sama dengan Departemen Perang AS (Pentagon) sejak Juli tahun lalu melalui kontrak senilai 200 juta dolar AS untuk menyediakan AI terkait masalah pertahanan. Namun, konflik dimulai ketika terungkap bahwa model AI Claude milik Anthropic digunakan dalam operasi penangkapan Presiden Venezuela, Nicolás Maduro, pada Januari lalu. Pihak Anthropic menilai penggunaan AI dalam operasi tersebut melanggar pedoman etika perusahaan dan mencoba menghambat penggunaan yang tidak terkendalinya penggunaan oleh Pentagon.
Sembari bekerja sama dengan Departemen Perang AS, Anthropic bersikeras untuk tidak menggunakan AI mereka pada: △pengawasan massal terhadap warga AS, dan △senjata otonom penuh tanpa intervensi manusia. CEO Anthropic, Dario Amodei, dalam wawancaranya dengan CBS AS, berargumen bahwa pengawasan massal terhadap warga merupakan penyalahgunaan otoritas pemerintah yang melampaui tujuan hukum meskipun dianggap sah secara teknis, dan melanggar hak dasar warga negara untuk tidak diawasi.
Selain itu, mereka juga menolak penggunaan AI untuk pengembangan senjata yang mengidentifikasi dan menembak target secara mandiri tanpa persetujuan atau intervensi operator manusia. CEO Amodei menunjukkan bahwa sistem AI saat ini tidak dapat diprediksi hingga berisiko salah tembak terhadap sekutu atau warga sipil, dan menyerahkan keputusan militer sepenuhnya kepada mesin, bukan manusia, akan menimbulkan masalah serius terkait akuntabilitas dan kendali.
Pentagon mengambil sikap tegas terhadap kebijakan kerja sama terbatas Anthropic. Menteri Perang AS, Pete Hegseth, memberikan ultimatum dengan batas waktu 3 hari dengan menyatakan, "Kita harus dapat menggunakan AI tanpa batasan untuk semua tujuan yang sah." Karena Anthropic tidak menerimanya, Pentagon secara resmi menetapkan Anthropic sebagai 'perusahaan berisiko rantai pasok'.
Penetapan risiko rantai pasok adalah instrumen sanksi kuat yang sebelumnya diterapkan pada perusahaan yang terhubung dengan negara musuh, seperti Kaspersky Lab dari Rusia atau Huawei dari Tiongkok. Penerapannya terhadap perusahaan domestik seperti Anthropic memiliki karakter punitif yang kuat yang bertujuan melumpuhkan operasional perusahaan.
Presiden Trump mencela Anthropic sebagai "perusahaan kiri yang egois dan 'woke' (sadar sosial)" dan mengklaim bahwa mereka membahayakan keamanan nasional AS. Akhirnya, pada 27 Februari, Presiden Trump memasukkan Anthropic ke dalam daftar hitam pemerintah dan memerintahkan pengecualian dari semua proyek pemerintah. Terkait hal ini, Anthropic menyatakan bahwa langkah pemerintah adalah intervensi berlebihan terhadap pengambilan keputusan perusahaan swasta dan mengisyaratkan akan melakukan tindakan hukum.
Di saat posisi Anthropic melemah akibat konflik dengan pemerintah, perusahaan pesaing bergerak cepat untuk mengisi kekosongan tersebut. CEO OpenAI, Sam Altman, dan CEO xAI, Elon Musk, menerima persyaratan pemerintah AS dan memenangkan kontrak pertahanan baru. Secara khusus, OpenAI bahkan dikritik karena langkah ganda mereka yang menyetujui prinsip etika Anthropic namun tetap menjalin kontrak dengan Pentagon.
Sebaliknya, di pasar swasta, tekanan pemerintah justru secara paradoks meningkatkan kesadaran merek Anthropic. Seiring bertambahnya pengguna yang setuju dengan prinsip Anthropic, permintaan swasta justru tampak semakin kuat, seperti aplikasi Claude yang menempati peringkat 1 unduhan di App Store.
Peristiwa ini diperkirakan akan menjadi preseden penting dalam menentukan sejauh mana kontrol etika perusahaan AI dan penggunaan AI militer oleh negara harus diakui. Saat ini, belum ada hukum yang jelas mengenai cakupan penggunaan AI militer, sehingga tercipta struktur di mana perintah sewenang-wenang pemerintah dan standar etika subjektif perusahaan mau tidak mau akan berbenturan.
Seperti yang terlihat dari kasus Anthropic, di tengah situasi di mana AI telah menjadi kekuatan inti di medan perang, mencari keseimbangan antara pedoman etika dan keamanan nasional diperkirakan akan menjadi agenda utama persaingan supremasi AI global di masa depan. Perhatian difokuskan pada bagaimana langkah pemerintah AS kali ini akan memengaruhi penetapan kebijakan perusahaan AI lainnya, dan hasil apa yang akan dicapai Anthropic melalui tindakan hukumnya.