Laporan Anthropic sulit dipercaya karena isinya lemah

 (djnn.sh)
1 poin oleh GN⁺ 2025-11-17 | 2 komentar | Bagikan ke WhatsApp
  • Laporan aktivitas spionase siber berbasis AI yang dirilis Anthropic mengklaim telah mendeteksi serangan oleh kelompok peretas yang didukung negara Tiongkok, tetapi dikritik karena kurangnya dasar teknis dan informasi yang dapat diverifikasi
  • Laporan tersebut sama sekali tidak memuat elemen inti yang umum dalam laporan threat intelligence, seperti IoC (indikator kompromi), TTP (taktik, teknik, dan prosedur), serta informasi domain, hash, dan alat serangan
  • Karena data atau bukti yang spesifik tentang detail metode serangan, jenis alat atau sistem yang digunakan, dan skala kerusakan tidak disajikan, klaim itu tetap menjadi pernyataan yang tidak dapat diverifikasi
  • Khususnya, klaim atribusi serangan kepada kelompok yang terkait dengan pemerintah Tiongkok juga tidak disertai dasar, sehingga menjadi pengumuman yang tidak bertanggung jawab dan mengabaikan potensi dampak diplomatik
  • Secara keseluruhan, laporan ini dinilai sebagai laporan yang digunakan untuk mempromosikan produk AI perusahaan sendiri tanpa bukti berbasis fakta, dan menunjukkan perlunya memperkuat transparansi serta standar verifikasi di industri

Gambaran umum laporan Anthropic

  • Anthropic adalah perusahaan pengembang asisten AI Claude, dan baru-baru ini merilis laporan yang menyatakan telah mendeteksi “operasi spionase siber yang dipimpin AI”
  • Menurut laporan tersebut, sekitar September 2025, kelompok peretas GTG-1002 yang didukung negara Tiongkok melakukan serangan terhadap sekitar 30 organisasi, dan diklaim beberapa intrusi berhasil
  • Serangan itu dijelaskan menggunakan instance Claude Code untuk menjalankan penetration test secara otonom, dan mengotomatiskan 80–90% pekerjaan taktis

Ketiadaan dasar teknis

  • Laporan ini sama sekali tidak memuat indikator kompromi (IoC) yang biasanya dipublikasikan, seperti domain, hash, IP, email phishing, dan alat yang digunakan
  • Analisis berbasis kerangka kerja MITRE ATT&CK, waktu serangan, informasi tooling, dan rekomendasi respons juga tidak dicantumkan
  • Jika dibandingkan dengan laporan seperti laporan APT28 dari CERT Prancis, formatnya dinilai tidak memenuhi standar industri
Iklan

Klaim yang tidak dapat diverifikasi

  • Angka dalam laporan yang menyebut “AI melakukan 80–90% pekerjaan taktis” tidak dapat diverifikasi
  • Disebutkan bahwa Claude melakukan ekstraksi sertifikat, pengumpulan kredensial, dan kueri layanan internal, tetapi tidak ada penjelasan tentang metode eksekusi konkret atau alat yang digunakan (seperti Mimikatz)
  • Tidak ada penjelasan juga mengenai sistem atau lingkungan apa yang dikompromikan maupun bagaimana data diproses

Masalah atribusi

  • Laporan tersebut menyimpulkan serangan itu berasal dari kelompok yang terkait dengan pemerintah Tiongkok, tetapi tidak menyajikan dasar apa pun
  • Tidak jelas itu kelompok APT yang mana, maupun analisis apa yang digunakan untuk menetapkan atribusi tersebut
  • Penulis mengkritik bahwa atribusi negara tanpa dasar seperti ini berbahaya secara diplomatik dan merupakan pengumuman yang tidak bertanggung jawab

Kesimpulan dan kritik

  • Laporan tersebut tampak berfokus pada promosi solusi pertahanan AI milik perusahaan sendiri tanpa verifikasi fakta
  • Pada paragraf terakhir, laporan itu merekomendasikan bahwa “tim keamanan harus menerapkan AI untuk pertahanan”, yang memperlihatkan niat untuk mendorong penjualan produk keamanan AI
  • Penulis menyebut ini sebagai “tindakan yang memalukan dan tidak profesional” serta menuntut penguatan standar verifikasi dan tanggung jawab etis di seluruh industri
  • Klaim tanpa dasar dapat merusak kredibilitas riset keamanan, sehingga diperlukan pengungkapan bukti berbasis fakta

Bacaan terkait

2 komentar

 
GN⁺ 2025-11-17
Opini Hacker News

  • Dulu saat bekerja sebagai SRE/admin sistem di lab riset AI milik perusahaan FAANG, saya diminta menguji model dasar yang disesuaikan untuk keamanan informasi
    Saya mendorongnya untuk meretas printer simulasi atau boks Linux, tetapi kenyataannya tidak banyak membantu
    Model seperti ini tampaknya tidak akan terlalu berguna untuk orkestrasi serangan. Terutama ketika API terhubung ke rekening bank, membangun struktur command-and-control di atas sistem publik adalah pilihan yang berisiko

    • Saya rasa bagi penjahat siber batasan seperti itu tidak terlalu berarti. Mereka sering membayar dengan API key curian atau rekening curian
      AI terbaru jauh lebih unggul dibanding dulu, jadi kalau filter keamanan bisa dilewati, tugas-tugas terkait keamanan pun mudah dilakukan
    • Saya penasaran apakah ungkapan “dioperasikan oleh pelabel data remaja” itu merujuk ke Alexandr Wang. Di Wikipedia tertulis usianya 28 tahun
    • Alasan pelaku jahat memilih Claude kemungkinan bukan karena kemampuan menulis kode serangannya, melainkan karena banyak organisasi Barat memakai Claude
      Model Sonnet dilatih sesuai pola kode Barat, jadi lebih diuntungkan saat mencari kerentanan di sistem yang menangani data dengan distribusi serupa
      Dalam serangan phishing juga lebih mudah meniru nada bahasa yang natural
    • “Meta dan pelabel data remajanya” benar-benar membangkitkan kenangan lama
    • Meski API terikat ke rekening bank, layanan perantara seperti OpenRouter menerima pembayaran kripto

  • Riwayat revisi di blog Anthropic menarik
    Pada 14 November 2025, kalimat “ribuan permintaan per detik” dikoreksi menjadi “ribuan permintaan, terjadi beberapa kali per detik”

    • Aneh kalau hanya berdasarkan frasa “beberapa permintaan per detik” lalu dipastikan bahwa serangan dilakukan oleh model otonom, bukan manusia
      Manusia juga bisa melakukan beberapa pekerjaan per detik lewat kode
    • Saya rasa teknisi tidak mungkin bingung soal satuan seperti ini

  • Orang-orang meremehkan APT (serangan ancaman persisten)
    Di tempat saya dulu bekerja juga pernah ada insiden pembobolan Gmail, berupa serangan gabungan yang memakai beberapa zero-day dan kampanye rekayasa sosial
    Pada akhirnya jejak aktor negara tertentu terungkap, dan AI berperan dalam mempercepat efisiensi serangan semacam ini

    • Dalam praktiknya, banyak APT juga melibatkan penyerang berketerampilan rendah. Saya pernah melihat server HTTP tanpa kata sandi yang membuka seluruh folder root
      Mereka menang lewat kuantitas, bukan kualitas. Karena itu saya tidak sepenuhnya percaya pada laporan Anthropic
    • Mendengar kabar “perangkat keras dan perangkat lunak terbaru” rasanya seperti tanpa sadar jadi berlangganan podcast teknologi lain lagi
    • Saya heran kalau benar satu serangan memakai beberapa zero-day sekaligus
    • Saya ingin memastikan apakah APT berarti Advanced Persistent Threat

  • Kesenjangan pengetahuan antara peneliti infosec dan peneliti keamanan ML sangat besar
    Di Anthropic tampaknya lebih banyak orang dari kubu kedua dan kurang dari kubu pertama
    Makalah Attacker Moves Second juga membahas perbedaan ini
    Di ML, metrik yang dipakai adalah ASR (Attack Success Rate), sedangkan di keamanan satu keberhasilan saja sudah dianggap serius
    ML mengasumsikan pengujian statis, sementara keamanan mengasumsikan penyerang adaptif

    • Peneliti ML bukan pakar keamanan. Kedua bidang itu harus dipakai bersama agar gambaran utuh terlihat
      ML berperan sebagai blue team, peneliti keamanan sebagai red team

  • Seluruh artikel terasa seperti tulisan bernuansa pemasaran dengan pesan “Claude sangat kuat sampai dipakai peretas Tiongkok”

    • Mirip rumor dulu bahwa PlayStation 2 begitu kuat sampai dipakai Irak sebagai superkomputer
      Tautan artikel terkait
    • Karena Anthropic berhasil membuat Claude dengan baik, mereka sepertinya jadi merasa diri pakar keamanan
      Karena itu laporannya tampak ditulis sambil melanggar standar industri
    • Menonjolkan “ancaman Tiongkok” bisa menarik simpati pemerintah AS
      Bisa jadi mereka memang mendeteksi serangan, tetapi menyimpulkannya sebagai organisasi yang disponsori pemerintah Tiongkok terdengar seperti pemasaran yang dibesar-besarkan
    • Promosi dengan gaya “produk kami berbahaya” adalah strategi yang jarang ada di luar industri pertahanan
      Meski begitu, kalau tidak dipublikasikan mereka juga bisa dikritik karena menutup-nutupi, jadi ini mungkin pemberitaan untuk tujuan peringatan

  • Masalahnya adalah kurangnya dasar untuk memastikan serangan itu dilakukan kelompok yang didukung Tiongkok
    Laporan seperti ini terlihat sebagai pesan politik untuk mendorong investasi pemerintah AS

    • Jarang ada laporan publik yang mengungkap detail hingga alat atau URL secara spesifik
      Mungkin ada dalam laporan untuk pemerintah, tetapi di tingkat blog bisa saja dihilangkan
      Namun menurut saya terlalu jauh jika dari “kurang bukti” langsung disimpulkan sebagai “rekayasa politik”
      Kemungkinan AI dipakai dalam serangan seperti ini sendiri sudah cukup menjadi sinyal peringatan
    • Anthropic sudah lama mengambil garis anti-Tiongkok
      Ada kemungkinan mereka sengaja menonjolkan insiden yang memang sebagian melibatkan IP Tiongkok
    • Gelembung AI akan segera pecah, dan perusahaan-perusahaan tampaknya ingin membungkus diri sebagai infrastruktur keamanan nasional agar mendapat dukungan pemerintah
    • Ironis bahwa mereka berteriak “Tiongkok mencuri teknologi” sementara mereka sendiri melakukan pelatihan atas karya tanpa izin

  • Saya penasaran apakah Anthropic benar-benar punya pakar keamanan
    Bisa saja ini sekadar strategi perusahaan, tetapi mungkin juga kapasitas keamanan internalnya memang lemah

    • Saya sering mengkritik kurangnya kapasitas engineering mereka. Perusahaan seperti itu hampir pasti tidak punya sistem keamanan yang memadai
    • Dalam kondisi kekurangan personel keamanan, melontarkan klaim seperti “operasi intelijen yang disponsori pemerintah Tiongkok” tanpa bukti adalah tindakan tidak bertanggung jawab
    • Toh mereka punya model itu sendiri yang sudah dilatih dari laporan-laporan seperti ini, jadi aneh kenapa mereka tidak bisa menganalisisnya langsung
    • Ada juga video presentasi tentang pemanfaatan AI untuk menyelesaikan masalah keamanan
      Tautan YouTube

  • Orang yang pernah memakai AI pendamping coding seperti Claude tidak akan meremehkan kemampuannya
    Klaim dalam laporan itu juga terasa cukup masuk akal

    • Saya memberi Claude akses SSH dan membiarkannya menyelidiki sendiri masalah jaringan di dalam server
      Proses menganalisis tcpdump dan tabel routing cukup berguna
      Namun tetap perlu memahami batasannya, tahu kapan ia mulai salah jalan, dan bisa turun tangan langsung
    • Tulisan bergaya “saya belum pernah memakainya, tapi” sering terlihat di HN
      Pola orang yang belum pernah mencoba lalu bicara seperti ahli memang kurang meyakinkan
    • Masalah laporan ini bukan pada potensi alatnya, melainkan tidak adanya bukti
      Kemungkinan saja tidak cukup untuk menjadi laporan yang dapat dipercaya
    • Anthropic hanya menawarkan kemungkinan masuk akal, tetapi tanpa bukti empiris sehingga kualitasnya rendah dan motifnya terasa mencurigakan

  • Laporan Anthropic terasa seperti iklan dengan pesan “teknologi kami begitu kuat sampai bisa disalahgunakan”
    Mirip penggambaran dalam iklan senjata yang berkata, “lihat betapa berbahayanya senjata ini”

  • Saat pertama melihat judulnya, saya kira ini soal perusahaan kertas Anthropic yang membuat kertas berbau aneh
    Bahkan setelah membaca sampai akhir, tetap saja semuanya terasa seperti omong kosong