Alibaba akan melarang penggunaan Claude Code di internal perusahaan karena kekhawatiran risiko backdoor

 (reuters.com)
1 poin oleh GN⁺ 4 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Raksasa TI China Alibaba akan melarang karyawannya menggunakan Claude Code untuk pekerjaan, setelah alat itu memicu kontroversi karena fitur identifikasi pengguna yang terkait dengan China
  • Langkah ini muncul di tengah memanasnya konflik kedua perusahaan setelah Anthropic menuduh Alibaba melakukan ekstraksi ilegal terhadap kemampuan model AI Claude
  • Claude Code tetap populer di kalangan programmer China meski akses bagi pengguna dan institusi di China dibatasi
  • Karyawan Alibaba diarahkan untuk menggunakan platform coding internal Qoder
  • Di tengah upaya pengembang AI AS mencegah akses tanpa izin, penjualan ulang, dan distilasi, perusahaan-perusahaan China beralih ke model domestik dan open-source, dan insiden ini menjadi contoh persaingan kepemimpinan AI antara AS dan China

Larangan Alibaba atas penggunaan Claude Code

  • Menurut sumber yang mengetahui perintah tersebut, Alibaba melarang karyawan menggunakan Claude Code untuk pekerjaan setelah alat itu diselidiki karena fitur yang dapat membantu mengidentifikasi pengguna yang terkait dengan China
  • Sumber tersebut meminta anonimitas karena tidak berwenang berbicara kepada media, dan mengatakan bahwa karyawan Alibaba diarahkan untuk menggunakan platform coding internal Qoder
  • Alibaba dan Anthropic tidak segera menanggapi permintaan komentar dari Reuters, dan Alibaba hingga kini belum menyampaikan posisi publik atas tuduhan Anthropic
  • Larangan Alibaba ini pertama kali diberitakan oleh media China

Posisi Claude Code dan pembatasan akses

  • Claude Code adalah asisten coding AI dari Anthropic untuk para pengembang perangkat lunak
  • Meski Anthropic membatasi akses pengguna dan institusi di China, layanan ini tetap populer di kalangan programmer China

Tuduhan Anthropic soal serangan 'distillation' Alibaba

  • Anthropic bulan lalu menyatakan bahwa mereka diserang oleh Alibaba, dan menyebutnya sebagai upaya "distillation" yang melatih model berkemampuan lebih rendah menggunakan keluaran dari model yang lebih kuat
  • Dalam surat kepada dua senator AS yang dikonfirmasi Reuters, disebutkan bahwa distilasi ini mempercepat laju China dalam menyamai kemampuan lanjutan Mythos Preview milik Anthropic
  • Larangan dari Alibaba muncul hanya beberapa hari setelah para pengembang mengatakan mereka menemukan mekanisme di Claude Code yang memeriksa lingkungan pengguna seperti zona waktu dan informasi terkait proxy serta menyisipkan penanda halus ke dalam prompt yang dikirim ke server Anthropic
  • Seorang karyawan Anthropic mengatakan di X pada hari Selasa bahwa fitur tersebut adalah "eksperimen yang dimulai pada bulan Maret", dengan tujuan mencegah penyalahgunaan akun oleh reseller tidak resmi dan mempertahankan diri dari distilasi model

Keterbatasan penegakan pembatasan dan risiko perusahaan

  • Menurut sumber tersebut, pembatasan Anthropic terhadap China sulit ditegakkan untuk pengguna individu yang dapat men-deploy server di AS agar asal trafik tampak seperti dari Amerika Serikat
  • Sebaliknya, perusahaan lebih menyadari risiko hukum dan kepatuhan

Peta persaingan AI AS–China

  • Ketika pengembang model AI AS berupaya mencegah akses tanpa izin, penjualan ulang, dan distilasi pada sistem mereka, perusahaan cloud dan AI China beralih ke model domestik dan open-source seperti DeepSeek, Qwen milik Alibaba, Moonshot, dan Zhipu
  • Pada saat yang sama, model AI China juga mulai masuk ke pasar AS, memicu kekhawatiran di kalangan sebagian pakar industri Amerika
  • Perselisihan ini menunjukkan persaingan sengit antara AS dan China untuk memimpin AI

Bacaan terkait

1 komentar

 
GN⁺ 4 jam lalu
Opini Hacker News

  • AI jarak jauh adalah risiko keamanan besar bagi individu, perusahaan, dan pemerintah yang bisa menjadi target pemerintah AS.
    Besar kemungkinan AS menerima feed real-time dari tiap penyedia AI untuk mengidentifikasi target perhatian, serangan teroris, rencana pemerintah asing, hingga perusahaan asing yang bersaing dengan perusahaan inti AS.
    Jika begitu, mereka akan mendapat akses bukan hanya ke proses berpikir internal perusahaan, tetapi juga ke kekayaan intelektual berbasis teks seperti kode sumber, dokumen, dan notulen rapat.
    Bahkan untuk AI lokal yang tidak dilatih sendiri, sulit memastikan tidak ada bias sengaja yang menjauhkan pengguna dari rencana, ide, atau paten tertentu.

    • Model lokal yang dilatih sendiri tampaknya mendekati opsi terbaik untuk saat ini.
      Namun jika data pelatihannya tidak dapat dipercaya, bahkan model yang dilatih sendiri pun mungkin sulit dipercaya sepenuhnya.
      Pengguna harus memercayai semuanya: agen coding, penyedia inferensi, dan model: https://jacob.gold/posts/coding-models-are-code/ https://www.anthropic.com/research/sleeper-agents-training-d...
    • Sepertinya frasa “yang bisa menjadi target pemerintah AS” bisa dihilangkan.
      AI yang di-hosting secara keseluruhan terasa seperti pelanggaran besar terhadap praktik kerahasiaan perusahaan.
      Perusahaan yang akan ribut besar jika file sumber mereka sekadar dicetak untuk dirujuk atau diberi komentar kini mendorong developer memasukkan sejumlah besar kode dan data proprietary ke pihak luar, lalu menggabungkan perubahan usulan pihak luar dengan peninjauan minimal.
      Suatu saat salah satu layanan besar akan diretas, dan itu bukan sekadar kebocoran data, melainkan juga berpotensi menjadi hub distribusi malware.
      Dashboard yang dibuat lewat vibe coding bisa tiba-tiba bergantung pada fork left-pad yang aneh, lalu keylogger atau penambang Dogecoin berjalan di dependensi 12 tingkat di bawahnya.
      Bisa saja terjadi pemroses pembayaran menyetujui transaksi saat Konami code dimasukkan.
    • Saya tidak paham mengapa perusahaan-perusahaan UE tidak melihat risiko spionase industri oleh AS secara lebih serius.
    • Patut dipikirkan bahwa sekalipun penyedia LLM besar, total throughput-nya sebenarnya hanya di kisaran beberapa megabit.
      Jika satu token terkompresi kira-kira menjadi 1 byte, input dan output AI seluruh dunia sekitar 1 GB per detik.
      Bagi badan intelijen, biaya untuk menyimpan semuanya secara permanen dan menganalisisnya nanti masih sangat terjangkau.
    • Mengapa ini dilihat hanya dengan kacamata AS? Apakah menurut Anda model yang disediakan dari Tiongkok akan berbeda?

  • Apa yang dilakukan Claude Code benar-benar mengejutkan. Jika harness buatan Tiongkok melakukan hal seperti itu, mungkin presiden AS pun akan sulit tidur.

    • Dibandingkan dengan apa yang dikumpulkan situs web dan aplikasi modern, ini terlihat cukup lemah. Berapa banyak layanan yang tidak tahu zona waktu kita?
    • Kalau Anda berpikir presiden AS akan sulit tidur karena penanda zona waktu dalam format tanggal, itu terdengar sangat berlebihan.
    • “Jika” maksudnya apa?
    • Kalau pihak Tiongkok tidak mengeruk data Claude untuk melatih model mereka yang buruk, mungkin Anthropic juga tidak merasa perlu melakukannya.

  • Terlepas dari benar tidaknya klaim spesifik ini, perusahaan kini menjadi jauh lebih berhati-hati terhadap alat developer yang bisa membaca bagian besar dari codebase proprietary.

    • Aneh bahwa ini baru menjadi kekhawatiran sekarang. Seharusnya diskusi sudah selesai di titik itu sejak awal.
    • Padahal selama ini kode sudah diunggah ke repositori privat seperti GitHub dan Bitbucket?
      Jika Anda percaya GitHub tidak membaca kode Anda, tetapi tidak bisa percaya AI Microsoft tidak membacanya, itu hampir kontradiktif.
    • Jika memakai agen coding, jelas Anda harus menjalankan model sendiri atau memercayai pihak yang menerima data Anda.
      Namun hal yang perlu dikhawatirkan jauh lebih luas daripada kode, dan jauh melampaui soal memercayai penyedia model.
      Agen coding yang memiliki akses ke alat bash akan memiliki akses ke semua hal yang dapat diakses seseorang dengan prompt bash.
      Bahkan jika Anda mencoba memasukkan agen ke sandbox yang sangat terkunci, Anda tetap harus khawatir agen dapat menemukan kata sandi dan kunci tak terenkripsi yang “berserakan” di kode, database, dan sebagainya.
      Saya heran cerita tentang agen coding dan bot crawler yang membuat masalah belum lebih luas tersebar.
    • Sudah terlambat. Kebanyakan orang sudah menuangkan bagian besar codebase dan kekayaan intelektual mereka ke model cloud.
    • Selain itu, alat semacam ini bisa menjalankan kode dan rentan terhadap serangan injeksi, sehingga jika cara pemakaiannya tidak sangat hati-hati, pada dasarnya ia bisa berfungsi seperti backdoor.

  • Pemberi kerja pada 2022: “Tidak! Jangan memasang sesuatu seperti lodash tanpa persetujuan IT. Butuh lisensi Charles Proxy? Hmm… kita harus menjaga anggaran.”
    Pemberi kerja pada 2023: “Tidak! Jangan pakai ChatGPT di perusahaan. Itu risiko keamanan.”
    Pemberi kerja pada 2024: “Baik, GitHub Copilot boleh dipakai, tetapi kamu harus mengikuti pelatihan internal membosankan tentang batasan penggunaannya.”
    Pemberi kerja pada 2025, dengan tanda dolar di matanya: “Saya baru ikut seminar vibe coding. Kenapa kamu tidak mengikuti zaman? Kerjakan semuanya dengan Claude Code! Jangan coding sendiri. Pakai mode yolo juga tidak terlalu masalah. Review kode dan dorong fitur 10x lebih banyak! Pakai token tanpa batas! Mari cetak uang!”
    Pemberi kerja pada 2026: “Ternyata memberi satu-dua perusahaan akses otonom ke seluruh workstation kita dan membuat para engineer jadi bodoh bukan rencana bisnis yang sehat?”

    • Hal yang saya pelajari pada 2025 adalah, kalau bisa, perusahaan akan mengganti saya dengan budak.
      Yang membingungkan adalah mengapa perusahaan-perusahaan ini percaya pada hype AGI bahwa LLM OpenAI atau Claude adalah budak kerah putih yang ideal.
      Saya bisa memahami bahwa manajemen cukup membenci tenaga kerja hingga membuat keputusan bisnis irasional demi menghina pekerja yang merancang dan menjalankan perusahaan.
      Meski begitu, pesta pora AI pada 2025 terasa seperti pembunuhan-bunuh diri yang dilakukan banyak manajemen perusahaan.

  • Dokumen Snowden menunjukkan bahwa NSA mengumpulkan segala sesuatu yang bisa dikumpulkannya.
    Tentu saja AS mengumpulkan semuanya dari semua pihak, bukan hanya Tiongkok.
    Negara lain juga sama.

  • Di Brasil juga baru-baru ini terjadi hal seperti ini: https://www.mixvale.com.br/2026/06/26/fbi-warns-brazilian-po...
    Ini pedang bermata dua. Dalam kasus ini, dampaknya sangat penting bagi nyawa seorang anak, tetapi hal ini juga bisa bekerja sebaliknya.
    Bagaimana jika otoritas AS memutuskan bahwa mereka perlu mengawasi pemerintah dan warga asing karena alasan politik, dan kini melakukannya dengan AI dalam skala industri?
    Yang pasti, jaminan privasi bukan prioritas utama bagi penyedia cloud mana pun. Perusahaan yang melakukan pekerjaan sensitif di garis depan harus waspada.

    • Pemerintah AS sudah sejak puluhan tahun lalu memutuskan perlu mengawasi pemerintah dan warga asing, dan terus melakukannya.
      Mereka juga mengawasi pemerintah dan warganya sendiri.

  • Sepertinya akhirnya kita masuk ke tahap berikutnya dari LLM.
    Bukan hanya personalisasi berdasarkan riwayat pencarian lama, tetapi pengguna juga akan ditargetkan dengan data yang tidak dipublikasikan.
    Pada dasarnya ini alur yang sama seperti yang kita lihat pada iklan media sosial beberapa tahun lalu, dan menarik bahwa hal yang sama bisa dilakukan dengan model seperti ini.

  • Ini bukan risiko, melainkan fakta. Orang-orang yang mendekompilasi Claude Code menemukan beberapa cabang kode yang mendeteksi apakah ia digunakan di zona waktu dan locale Tiongkok.

  • Langkah seperti ini tampaknya akan menimbulkan kecurigaan besar ketika layanan seperti Claude ke depannya mengklaim bahwa “open source dan model non-AS menjadi bagus hanya karena mereka mendistilasi lab frontier.”