- Hopsworks berhasil bermigrasi ke OVHCloud pada kuartal 4 2024 untuk mengurangi biaya egress AWS yang tinggi, dan menurunkan biaya sebesar 62%
- Secara khusus, biaya egress jaringan di AWS adalah $90 per 1TB, sedangkan di OVH hanya $11 per 1TB, atau sekitar 1/8-nya, sehingga menjadi faktor utama dalam penghematan biaya keseluruhan
- AWS menawarkan ekosistem yang matang dan keandalan tinggi, tetapi OVHCloud memberikan struktur harga yang sederhana serta performa kompetitif dengan biaya lebih rendah
- Managed Kubernetes: AWS → $0.10/jam/cluster ($72/bulan) / OVHCloud → gratis
- Biaya egress jaringan: AWS → $90 per 1TB / OVHCloud → $11 per 1TB (gratis di local zone)
- Penyimpanan S3: AWS → $2300/bulan per 1TB / OVHCloud → $800/bulan per 1TB
- Biaya permintaan Put/Get: AWS → $566 per 100 juta permintaan / OVHCloud → gratis
- Container registry: AWS → $212/bulan per 5TB / OVHCloud → $212/bulan per 5TB (600GB seharga $44/bulan)
- Transfer data antar availability zone: AWS → $2000 per 100TB / OVHCloud → gratis
- Instance EBS: AWS → $81.92/bulan per 1TB → OVHCloud / $97.28/bulan per 1TB
Pengenalan Hopsworks
- Hopsworks adalah platform terbuka untuk mengembangkan dan mengoperasikan sistem AI skala besar
- Dapat di-deploy di semua cluster Kubernetes (termasuk public cloud dan data center mandiri)
- Dapat digunakan sebagai alternatif platform MLOps seperti AWS Sagemaker, GCP Vertex, dan Databricks
- Makalah riset SIGMOD24 menyoroti AI real-time dengan performa lebih baik, serta integrasi unggul antara Python dan Lakehouse
- Diakui sebagai Feature Store pertama untuk ML
- Dukungan data dan komputasi
- Lapisan Lakehouse: menggunakan Delta Lake, Apache Hudi, dan Iceberg (segera didukung) → mendukung penyimpanan data historis skala besar dan inferensi batch
- Database latensi rendah RonDB: mendukung workload AI real-time dan model data skema snowflake
- Dukungan komputasi: mendukung Python, Spark, Ray, serta berbagi/optimasi GPU di Kubernetes
- Bisa menyediakan komputasi sendiri → gunakan Hopsworks sebagai lapisan data untuk mengintegrasikan pipeline AI
- Dukungan model registry dan deployment: model dapat di-deploy di KServe/vLLM
- Hopsworks Serverless (versi premium)
- Menyediakan ruang penyimpanan gratis (50GB data Lakehouse, 100MB data fitur RonDB)
- Mendukung hingga 100 model registry dan 2 deployment model
- Sebagian besar menyediakan penyimpanan gratis, tetapi tidak menyediakan resource komputasi gratis → biaya hosting AWS dapat dipertahankan di kisaran $8K per bulan
Latar belakang keputusan migrasi dari AWS ke OVH
- Kekhawatiran kenaikan biaya egress data setelah peluncuran Hopsworks Query Service
- Menggunakan Arrow dan DuckDB di klien Python → memungkinkan pembacaan data berukuran ratusan MB hingga GB ke dalam Pandas DataFrame
- Potensi lonjakan biaya egress AWS → menyadari risiko kenaikan biaya
- Keputusan pindah ke OVHCloud
- OVH adalah penyedia cloud berbasis Eropa yang menyediakan semua managed service yang dibutuhkan
- Menyediakan managed Kubernetes, managed container registry, dan object storage kompatibel S3
- Menginstal Hopsworks di OVH menggunakan Helm Charts → terverifikasi berjalan lancar
- Karena sebagian besar pengguna berada di Amerika Utara, diputuskan untuk tetap mempertahankan infrastruktur OVH di Amerika Utara
Dampak penghematan biaya
- Biaya turun 62% setelah migrasi ke OVH
- Beban biaya egress AWS yang tinggi berhasil diatasi
- Efisiensi biaya meningkat sambil mempertahankan performa penyimpanan dan komputasi di lingkungan serverless
Migrasi dari layanan AWS ke layanan OVHCloud
- Hanya bergantung pada Kubernetes dan S3 → dirancang agar tidak bergantung pada layanan spesifik cloud tertentu
- Stack observabilitas: berbasis OpenSearch dan OpenSearch Dashboards
- Stack metrik: berbasis Prometheus dan Grafana
Perbandingan layanan Managed Kubernetes
- AWS dan OVHCloud sama-sama menyediakan layanan Managed Kubernetes
- AWS menawarkan ekosistem matang dan keandalan tinggi
- OVHCloud tersedia gratis dan lebih unggul dari sisi biaya
- AWS menyediakan Amazon Elastic Kubernetes Service (EKS), yang matang, banyak digunakan, serta menawarkan high availability dan ekosistem yang kuat. Namun, biaya control plane per cluster adalah $0.10 per jam, sehingga menimbulkan biaya sekitar $72 per bulan
- OVHCloud menyediakan OVHCloud Kubernetes (fully managed Kubernetes), yang cukup stabil, tetapi batas kapasitas etcd sebesar 400MB dapat menimbulkan masalah pada beberapa cluster Kubernetes. Namun, biaya control plane untuk managed Kubernetes adalah gratis
Perbandingan biaya egress jaringan
- OVHCloud memiliki biaya egress jaringan yang sangat murah
- OVHCloud hanya mengenakan biaya egress di beberapa region baru tertentu (sekitar 1/8 dari AWS)
- Di banyak region cloud, biaya egress gratis (per Maret 2025)
- AWS memiliki biaya egress yang sangat tinggi, sehingga menjadi beban biaya
- AWS menyediakan layanan secara global, dan biaya egress data adalah $0.09 per GB, sehingga transfer 1TB menimbulkan biaya $90 per bulan
- OVHCloud menyediakan layanan di Eropa dan Amerika Utara
- Di "local zone", biaya egress gratis
- Di region lain, biayanya $0.011 per GB, sehingga transfer 1TB menimbulkan biaya $11
Perbandingan layanan penyimpanan S3
- AWS S3 memiliki keandalan dan availability tinggi, tetapi biayanya mahal
- AWS menawarkan performa kelas atas di layanan object storage berbasis cloud
- OVHCloud S3 tetap andal, dengan biaya sekitar sepertiga dibanding AWS
- AWS S3 dinilai sebagai layanan paling andal, dengan biaya penyimpanan $0.023 per GB, sehingga penyimpanan 100TB menimbulkan biaya $2300 per bulan
- Put, Copy, List, Post dikenakan $0.005 per 1000 permintaan, sedangkan GET dan SELECT dikenakan $0.0004 per 1000 permintaan, sehingga 100 juta operasi menimbulkan biaya sekitar $566 per bulan
- OVHCloud S3 memiliki keandalan yang baik dan biaya penyimpanan yang murah
- Biaya penyimpanan adalah $0.008 per GB, sehingga penyimpanan 100TB menimbulkan biaya $800 per bulan
- Operasi Put/Get gratis
Perbandingan layanan container registry
- AWS ECR adalah managed service yang matang dan scalable
- Sangat scalable dan fleksibel dalam konfigurasi
- OVHCloud Harbor menggunakan tarif tetap sehingga skalabilitasnya bisa terbatas
- AWS ECR menyediakan layanan yang scalable dan matang
- Biaya penyimpanan $0.10 per GB, sehingga penyimpanan 5TB menimbulkan biaya $212 per bulan
- Secara keseluruhan memberikan performa lebih baik daripada OVHCloud
- OVHCloud Harbor memiliki batas jumlah koneksi simultan (45 atau 90)
- Biaya penyimpanan adalah $44 per bulan untuk 600GB, dan $212 per bulan untuk 5TB
- Tidak memungkinkan ekspansi yang fleksibel untuk kapasitas penyimpanan di atas 5TB
Perbandingan biaya transfer data antar availability zone
- Hopsworks mereplikasi layanan antar instance agar tahan terhadap gangguan availability zone (AZ)
- Menimbulkan trafik jaringan antar instance di availability zone yang berbeda
- AWS mengenakan biaya transfer data $0.02 per GB (egress $0.01 + ingress $0.01)
- Transfer 100TB menimbulkan biaya $2000 per bulan
- OVHCloud tidak mengenakan biaya transfer data antar availability zone
Perbandingan instance EBS
- Hopsworks menggunakan EBS (Block Storage) untuk layanan yang membutuhkan volume persisten
- AWS menggunakan Elastic Block Storage
- OVH menggunakan Block Storage berbasis Ceph
- Beberapa instance menggunakan disk NVMe lokal → OVH memberikan throughput lebih tinggi untuk storage kecil (1~4TB)
- AWS menyediakan variasi instance yang lebih banyak, tetapi storage lokal NVMe hanya tersedia pada disk berukuran besar
- Biayanya $0.08 per GB, sehingga 1TB menimbulkan biaya $81.92 per bulan
- OVHCloud memiliki lebih sedikit jenis instance, tetapi performa NVMe pada storage kecil lebih baik
- Biayanya $0.095 per GB, sehingga 1TB menimbulkan biaya $97.28 per bulan
Proses migrasi yang sebenarnya
- Pemberitahuan jadwal maintenance
- Pada 26 November 2024, diumumkan maintenance window selama 24 jam
- Backup dan pelaksanaan migrasi
- Cluster Hopsworks di-backup ke bucket AWS S3 lalu dimigrasikan ke bucket S3 milik OVHCloud
- Ada sedikit downtime, tetapi migrasi selesai tanpa masalah
- Pengujian dan melanjutkan operasi
- Deploy cluster Hopsworks di OVH menggunakan Helm charts
- Setelah melalui proses pengujian dan dipastikan tidak ada masalah, login kembali dibuka
- Tidak ada masalah pada akun pengguna setelah migrasi
Ringkasan
- Pada kuartal 4 2024, perpindahan ribuan pengguna dari AWS ke OVHCloud telah selesai
- OVH dan Hopsworks sama-sama merupakan teknologi yang dikembangkan di Eropa, tetapi layanan serverless Hopsworks disediakan di Amerika Utara tempat mayoritas pengguna berada
- Struktur harga OVH yang sederhana dan rendah sangat menarik
- Bukan hanya biaya egress jaringan, tetapi sebagian besar biaya layanan juga lebih murah
- Kualitas layanan secara keseluruhan juga sangat baik
2 komentar
Salah satu keunggulan AWS adalah banyaknya referensi yang tersedia.
Namun saat mencoba menjalankan aplikasi enterprise,
biayanya memang terasa sangat mahal.
Jika CSP lain juga punya banyak referensi dan stabilitasnya terjamin dengan biaya yang lebih murah, saya rasa layak mempertimbangkan migrasi.
Komentar Hacker News
OVH dikenal sebagai penyedia hosting yang lebih murah dibanding AWS. Penasaran apakah mereka menutupi hal itu dari sisi engineering dan high availability
Di Kanada, kami sedang mempertimbangkan untuk meninggalkan AWS. OVH tidak punya reputasi yang bagus di Kanada
Sebagai bagian dari tim, saya siap dengan senang hati membahas jika ada pertanyaan tentang migrasi
Perusahaan kami juga menggunakan OVH. Cukup bagus dan murah
Setelah bekerja dengan AWS selama 3 tahun, AWS adalah mitra bisnis yang lumayan baik
Bagus jika angkanya masuk akal dan bisa pindah
Saya pernah memakai OVH untuk proyek pribadi tetapi berhenti. Mereka memblokir IP dari jaringan iCloud Private Relay secara acak
Saat memindahkan data ke OVH, semua data harus dicadangkan ke penyedia lain
Penasaran kenapa memilih Scaleway.com alih-alih OVH
Tidak ada alasan untuk tetap di AWS atau Azure, tetapi alternatifnya kurang dipasarkan sehingga sulit meyakinkan manajemen