Penggagalan Operasi Spionase Siber Pertama yang Dipimpin AI

• Operasi spionase siber skala besar yang dijalankan langsung oleh model AI terdeteksi dan berhasil dihentikan
• Penyerang memanipulasi Claude Code untuk menargetkan sekitar 30 institusi global, dan sebagian berhasil ditembus
• 80~90% proses serangan dilakukan secara otomatis oleh AI, dengan campur tangan manusia yang sangat terbatas
• Kombinasi kecerdasan, otonomi, dan akses ke alat pada AI membentuk struktur serangan yang sangat canggih
• Insiden ini menjadi titik balik keamanan siber di era AI, sekaligus menyoroti pentingnya otomasi pertahanan dan berbagi ancaman

---

Deteksi dan Penggagalan Operasi Spionase Siber Berbasis AI

• Pada pertengahan September 2025, aktivitas spionase tingkat lanjut terdeteksi, dan hasil investigasi mengonfirmasi bahwa ini adalah kasus AI yang langsung menjalankan serangan
  • Penyerang dinilai sebagai kelompok peretas yang didukung pemerintah Tiongkok
  • Dengan menggunakan Claude Code, mereka menetapkan sekitar 30 target global (perusahaan teknologi besar, lembaga keuangan, produsen kimia, dan lembaga pemerintah) sebagai sasaran infiltrasi
  • Pada sebagian serangan, terjadi kasus intrusi yang benar-benar berhasil
• Operasi ini tercatat sebagai kasus pertama serangan skala besar yang dijalankan tanpa campur tangan manusia
• Segera setelah terdeteksi, dilakukan investigasi selama 10 hari disertai pemblokiran akun, pemberitahuan ke organisasi terdampak, dan kerja sama dengan otoritas

Cara Model AI Menjalankan Serangan

• Serangan ini didasarkan pada tiga kemampuan inti model AI yang berkembang belakangan ini
  1. Intelligence: mampu memahami instruksi kompleks, menangkap konteks, dan menjalankan tugas tingkat lanjut
  2. Agency: mampu melakukan tindakan otonom dan pengambilan keputusan dalam loop berulang
  3. Tools: melalui Model Context Protocol (MCP), dapat melakukan pencarian web, pengumpulan data, dan menjalankan alat keamanan
• Struktur tiap tahap serangan
  • Tahap 1: manusia memilih organisasi target dan membangun framework serangan otonom
  • Tahap 2: Claude Code ditipu sebagai "karyawan untuk pengujian keamanan siber" sehingga guardrail berhasil dilewati (jailbreak)
  • Tahap 3: Claude melakukan pengintaian terhadap sistem target dan mengidentifikasi database bernilai tinggi
  • Tahap 4: Claude melakukan analisis kerentanan dan menulis kode exploit, mencuri kredensial, mengklasifikasikan data, dan mengekfiltrasi data
  • Tahap 5: Claude mendokumentasikan serangan dan membuat materi untuk operasi lanjutan
• 80~90% dari seluruh pekerjaan dilakukan oleh AI, sementara manusia hanya terlibat dalam sekitar 4~6 keputusan utama
• Saat serangan berlangsung, AI menghasilkan beberapa permintaan per detik dan beroperasi pada kecepatan yang mustahil dilakukan manusia
• Beberapa contoh kesalahan yang muncul antara lain pembuatan kredensial palsu atau salah menafsirkan informasi publik

Dampaknya terhadap Keamanan Siber

• Hambatan masuk untuk serangan siber tingkat lanjut turun drastis
  • Dengan pengaturan yang tepat, AI dapat menjalankan pekerjaan setara tim peretas berpengalaman dalam jangka waktu panjang
  • Bahkan kelompok penyerang dengan sumber daya terbatas kini memiliki peluang lebih besar untuk menjalankan operasi skala besar
• Insiden ini berevolusi jauh melampaui kasus "vibe hacking" sebelumnya, dengan campur tangan manusia yang jauh lebih sedikit
• Kemampuan Claude yang sama tidak hanya penting untuk serangan, tetapi juga esensial untuk pertahanan
  • Dalam proses investigasi nyata, Claude juga digunakan untuk analisis data skala besar
• Terjadi perubahan mendasar dalam keamanan siber
  • Tim keamanan harus memanfaatkan AI untuk otomasi pertahanan berbasis AI, deteksi ancaman, evaluasi kerentanan, dan respons insiden
  • Pengembang perlu memperkuat pengaman pada platform AI
  • Berbagi intelijen ancaman lintas industri dan peningkatan teknologi deteksi menjadi tugas penting yang wajib dilakukan

Respons Selanjutnya dan Tujuan Publikasi

• Anthropic memperkuat kemampuan deteksi dan classifier untuk perilaku berbahaya
• Teknik deteksi serangan terdistribusi skala besar terus dikembangkan
• Tujuan publikasi kasus ini adalah untuk membantu memperkuat kemampuan pertahanan industri, pemerintah, dan lembaga riset
• Ke depan, publikasi laporan ancaman berkala dan berbagi informasi secara transparan akan terus dilanjutkan

Informasi Tambahan

• Menurut naskah asli, kesalahan teknis terkait kecepatan serangan telah diperbaiki, sehingga
  • bukan “ribuan permintaan per detik”, melainkan “menjalankan ribuan permintaan beberapa kali dalam setiap detik”
• Laporan lengkap dipublikasikan dalam bentuk PDF (tautan tersedia)