- OpenPCC adalah framework inferensi AI privat yang dapat diverifikasi yang terinspirasi dari Private Cloud Compute milik Apple, dan tersedia sepenuhnya sebagai open source
- Menjamin perlindungan data pribadi melalui streaming terenkripsi, hardware attestation, dan unlinkable requests tanpa mengekspos prompt, output, maupun log
- Siapa pun dapat menjalankan model AI terbuka atau kustom di infrastruktur mereka sendiri, dengan desain yang transparan dan dapat diaudit
- Confident Security sedang mengembangkan layanan terkelola CONFSEC berdasarkan standar OpenPCC
- Bertujuan berkembang menjadi standar yang digerakkan komunitas untuk privasi data AI
Gambaran Umum OpenPCC
- OpenPCC adalah framework open source yang memungkinkan inferensi AI dengan privasi terjamin
- Berdasarkan konsep Private Cloud Compute milik Apple, tetapi diimplementasikan dalam bentuk yang sepenuhnya terbuka, dapat diaudit, dan dapat di-deploy sendiri
- Pengguna dapat menjalankan model AI tanpa prompt, output, atau log terekspos ke pihak luar
- Memperkuat perlindungan data melalui streaming terenkripsi, hardware attestation, dan unlinkable requests
- Tujuannya adalah membangun standar privasi data AI yang transparan dan dikelola komunitas
Managed Service: CONFSEC
- Confident Security sedang mengembangkan layanan terkelola penuh CONFSEC berdasarkan standar OpenPCC
- Informasi terkait dan pendaftaran tersedia di situs confident.security
- CONFSEC membantu agar teknologi OpenPCC dapat dimanfaatkan dengan mudah di lingkungan komersial
Komponen OpenPCC Client
- Repositori ini mencakup kode klien Go dan library C, yang digunakan sebagai dasar untuk klien Python dan JavaScript
- Juga disediakan in-memory services untuk menguji klien
- Implementasi Compute Node terkait dapat dilihat di repositori terpisah (confidentsecurity/confidentcompute)
Contoh Penggunaan Go
- Contoh pengembangan lokal disertakan dalam file
cmd/test-client/main.go
- Saat terhubung ke layanan produksi, klien dibuat melalui
openpcc.NewFromConfig lalu melakukan permintaan API
- Dalam contoh, digunakan model
"qwen3:1.7b" dan prompt "why is the sky blue?"
- Header permintaan
"X-Confsec-Node-Tags" digunakan untuk merutekan ke compute node yang menjalankan model tertentu
- Contoh kode mengikuti format generate dari OpenAI API
Pengembangan dan Pengujian
- Perintah pengembangan menggunakan alat build berbasis Go, mage
- Dapat dijalankan dengan
go tool mage [cmd] atau go install github.com/magefile/mage@latest
- Perintah
mage menampilkan daftar command yang tersedia, yang didefinisikan di direktori /magefiles/*
- Untuk menguji library selama pengembangan, jalankan in-memory OpenPCC service dengan
mage runMemServices, lalu lakukan permintaan uji dengan mage runClient
Referensi
- Detail teknis OpenPCC dapat dilihat di whitepaper
Belum ada komentar.