Riset Keamanan Private Cloud Compute

• Terkait Private Cloud Compute(PCC) yang memproses permintaan berkomputasi tinggi dari Apple Intelligence di cloud, Apple merilis materi agar peneliti eksternal dapat memverifikasi sendiri jaminan keamanan dan privasi
• Cakupan yang dibuka mencakup PCC Security Guide, biner perangkat lunak, kode sumber komponen inti, hingga Virtual Research Environment(VRE) pertama di platform Apple
• VRE menjalankan perangkat lunak node PCC sebagai mesin virtual di Mac berbasis Apple silicon, dan mendukung pemeriksaan rilis, verifikasi log transparansi, pengunduhan biner, boot virtual, inferensi model demo, serta modifikasi dan debugging
• Apple Security Bounty menambahkan PCC sebagai target baru, dan akan membayar hingga 1 juta dolar AS untuk serangan jarak jauh terhadap data permintaan yang mencapai eksekusi kode arbitrer dengan hak istimewa arbitrer
• Skema verifikasi PCC berfokus pada memungkinkan pengguna, bahkan dalam pemrosesan AI cloud, untuk secara langsung memeriksa perangkat lunak yang berjalan di pusat data dan jaminan privasi

---

Materi verifikasi PCC dibuka

• Private Cloud Compute(PCC) adalah sistem yang menangani permintaan Apple Intelligence yang intensif secara komputasi sambil memperluas model keamanan perangkat Apple ke cloud
• Untuk meningkatkan kepercayaan publik, Apple memungkinkan peneliti keamanan dan privasi memeriksa serta memverifikasi jaminan end-to-end PCC
• Dalam beberapa minggu setelah pengumuman Apple Intelligence dan PCC, Apple lebih dulu memberikan materi, termasuk PCC Virtual Research Environment(VRE), kepada auditor pihak ketiga dan sebagian peneliti keamanan
• Dengan pembukaan kali ini, peneliti keamanan dan privasi serta siapa pun yang memiliki minat teknis dapat mempelajari dan memverifikasi PCC secara independen
• Apple Security Bounty juga diperluas agar mencakup PCC, sehingga laporan masalah yang merusak jaminan keamanan dan privasi PCC berhak mendapat imbalan

Hal yang dibahas PCC Security Guide

• Private Cloud Compute Security Guide merangkum bagaimana arsitektur PCC dirancang untuk memenuhi persyaratan inti
• Panduan ini membahas komponen PCC dan bagaimana semuanya bekerja bersama untuk memberikan tingkat privasi dalam pemrosesan AI cloud
• Topik utamanya adalah sebagai berikut
  • Cara pembuktian PCC dibangun di atas fitur fondasi yang tidak dapat diubah yang diimplementasikan di perangkat keras
  • Cara permintaan PCC diautentikasi dan dirutekan untuk memberikan non-targetability
  • Cara memastikan secara teknis bahwa perangkat lunak yang berjalan di pusat data Apple dapat diperiksa
  • Cara sifat privasi dan keamanan PCC tetap terjaga dalam berbagai skenario serangan

Virtual Research Environment

• Apple menyediakan Virtual Research Environment(VRE) pertama untuk platform Apple
• VRE adalah seperangkat alat yang memungkinkan analisis keamanan Private Cloud Compute dilakukan langsung di Mac
• Peneliti tidak hanya dapat memahami fitur keamanan PCC, tetapi juga memastikan apakah PCC menjaga privasi pengguna sesuai penjelasan Apple
• VRE menjalankan perangkat lunak node PCC di mesin virtual dengan hanya sedikit modifikasi
  • Perangkat lunak ruang pengguna berjalan sama seperti pada node PCC
  • Proses boot dan kernel disesuaikan untuk virtualisasi
  • Ini juga mencakup Secure Enclave Processor(SEP) virtual, sehingga untuk pertama kalinya riset keamanan pada komponen ini dimungkinkan
  • Inferensi menggunakan dukungan grafis paravirtualisasi di macOS

Hal yang bisa dilakukan di VRE dan syarat menjalankannya

• Tugas yang dapat dilakukan dengan alat VRE adalah sebagai berikut
  • Mendaftar dan memeriksa rilis perangkat lunak PCC
  • Verifikasi konsistensi log transparansi
  • Mengunduh biner yang sesuai untuk setiap rilis
  • Menjalankan boot rilis di lingkungan virtual
  • Melakukan inferensi pada model demo
  • Memodifikasi dan melakukan debugging perangkat lunak PCC untuk investigasi lebih mendalam
• VRE tersedia di macOS Sequoia 15.1 Developer Preview terbaru
• Untuk menjalankannya dibutuhkan Mac berbasis Apple silicon dan memori terpadu 16GB atau lebih
• Cara memulai dapat dilihat di dokumen penyiapan Private Cloud Compute Virtual Research Environment

Kode sumber PCC yang dibuka

• Apple membuka kode sumber dari beberapa komponen inti yang membantu mengimplementasikan persyaratan keamanan dan privasi PCC
• Kode sumber disediakan melalui perjanjian lisensi penggunaan terbatas agar analisis PCC yang lebih mendalam dimungkinkan
• Proyek yang dibuka mencakup beberapa area PCC
  • CloudAttestation: menangani penyusunan dan verifikasi attestation node PCC
  • Thimble: mencakup daemon privatecloudcomputed yang berjalan di perangkat pengguna, dan menggunakan CloudAttestation untuk menegakkan transparansi yang dapat diverifikasi
  • splunkloggingd: memfilter log yang dapat diekspor dari node PCC untuk mencegah pengungkapan data yang tidak disengaja
  • srd_tools: mencakup alat VRE, dan dapat digunakan untuk memahami cara VRE menjalankan kode PCC
• Kode sumber PCC yang tersedia dapat dilihat di proyek GitHub apple/security-pcc

Apple Security Bounty untuk PCC

• Apple memperluas Apple Security Bounty untuk memberi imbalan pada kerentanan yang melanggar jaminan keamanan dan privasi fundamental PCC
• Kategori imbalan PCC yang baru selaras dengan ancaman utama dalam Security Guide
  • Pengungkapan data yang tidak disengaja: kerentanan yang menyebabkan paparan data tak diinginkan akibat cacat konfigurasi atau masalah desain sistem
  • Kompromi eksternal melalui permintaan pengguna: kerentanan yang memungkinkan pihak luar menyalahgunakan permintaan pengguna untuk memperoleh akses tidak sah ke PCC
  • Akses fisik atau internal: kerentanan yang memungkinkan kompromi sistem melalui akses ke antarmuka internal
• Tingkat imbalannya diberikan pada level yang sebanding dengan bounty iOS
• Kerentanan yang membahayakan data pengguna dan data permintaan inferensi pengguna di luar batas kepercayaan PCC akan menerima imbalan tertinggi

Nilai imbalan PCC

• Kategori imbalan PCC adalah sebagai berikut
  • Serangan jarak jauh terhadap data permintaan: hingga $1,000,000 untuk eksekusi kode arbitrer dengan hak istimewa arbitrer
  • Akses ke data permintaan pengguna atau informasi sensitif terkait permintaan pengguna di luar batas kepercayaan: hingga $250,000
  • Serangan terhadap data permintaan dari posisi jaringan berhak istimewa: hingga $150,000 untuk akses ke data permintaan pengguna atau informasi sensitif lainnya di luar batas kepercayaan
  • Kemungkinan menjalankan kode yang tidak diattestasi: hingga $100,000
  • Pengungkapan data yang tidak disengaja atau tak terduga akibat masalah deployment atau konfigurasi: hingga $50,000
• Apple juga akan mempertimbangkan masalah keamanan yang berdampak signifikan pada PCC untuk imbalan Apple Security Bounty, meskipun tidak persis sesuai dengan kategori yang dipublikasikan
• Laporan akan dievaluasi berdasarkan kualitas penyajian, bukti kemungkinan eksploitasi, dan dampaknya terhadap pengguna
• Informasi program dan pengajuan tersedia di halaman Apple Security Bounty

Transparansi yang dapat diverifikasi untuk pemrosesan AI cloud

• PCC dirancang sebagai bagian dari Apple Intelligence untuk memajukan privasi dalam AI secara signifikan
• Salah satu sifat intinya adalah transparansi yang dapat diverifikasi, yang menjadi pembeda dari pendekatan AI berbasis server lainnya
• Berdasarkan pengalaman dari Apple Security Research Device Program, alat dan dokumen yang dibuka mempermudah penelitian dan verifikasi fitur inti keamanan dan privasi PCC
• Apple menggambarkan PCC sebagai arsitektur keamanan paling maju yang diterapkan pada komputasi AI cloud skala besar, dan ingin mendorong kepercayaan sistem serta penguatan keamanan dan privasi bersama komunitas riset