Pindah dari AWS ke bare metal, hemat $230.000 (Rp3 miliar) per tahun

• OneUptime, platform observability open source, memindahkan infrastrukturnya dari AWS ke solusi bare metal untuk meningkatkan kontrol atas sumber daya dan mewujudkan penghematan finansial yang signifikan.
• Sebagian besar pelanggan mereka menggunakan public cloud, sehingga diperlukan data center yang independen untuk tetap menyediakan layanan notifikasi saat terjadi gangguan cloud.

Pengaturan awal: Kubernetes di AWS

• Mengadopsi cluster Kubernetes dengan menggunakan Elastic Kubernetes Service (EKS) terkelola dari AWS.
• OneUptime dibangun di atas perangkat lunak open source yang tidak spesifik ke AWS seperti Redis, Postgres, Clickhouse, Docker, NodeJS, dan BullMQ.
• Menghindari ketergantungan pada AWS agar pelanggan dapat melakukan self-hosting OneUptime di cluster mereka sendiri.

Transisi: pindah ke bare metal

• Memutuskan beralih ke solusi bare metal sebagai bagian dari upaya mengejar keunggulan teknis.
• Memilih menjalankan cluster Microk8s di fasilitas colocation berdasarkan pengalaman sebelumnya dan tujuan jangka panjang yang berorientasi masa depan.
• Microk8s dapat digunakan juga di lingkungan produksi, dan perpindahan ke server bare metal memungkinkan penyediaan sumber daya khusus serta optimasi performa.

Peran Kubernetes dan Helm

• Kubernetes dan Helm memainkan peran penting dalam perpindahan dari cloud ke server milik sendiri.
• Kubernetes adalah platform open source untuk mengotomatisasi deployment, scaling, dan operasi container aplikasi.
• Helm adalah package manager yang menyederhanakan definisi, instalasi, dan upgrade aplikasi Kubernetes.

Storage dan load balancer

• Pada cluster Kubernetes bare metal, volume menggunakan Network File System (NFS), dan load balancer menggunakan MetalLB.
• NFS adalah protokol sistem berkas terdistribusi yang memungkinkan komputer klien mengakses file melalui jaringan.
• MetalLB adalah implementasi load balancer untuk cluster Kubernetes bare metal yang menggunakan protokol routing standar.

Dampak finansial: hemat lebih dari $230.000 per tahun

• Saat menggunakan AWS, pengeluaran mencapai lebih dari $38.000 per bulan, atau lebih dari $456.000 per tahun.
• Setelah pindah ke bare metal, mereka menggunakan konfigurasi satu rack dari mitra colocation dan memangkas biaya operasional bulanan menjadi sekitar $5.500.
• Jika biaya server diamortisasi selama 5 tahun, penghematan mencapai lebih dari $230.000 per tahun, dan penghematan biaya ini memungkinkan penambahan tenaga kerja serta alokasi sumber daya ke area bisnis lainnya.

Hal-hal yang perlu dipertimbangkan

• Data dibackup ke dua kantor beberapa kali sehari, dan juga dapat dibackup ke public cloud.
• Cluster Kubernetes multi-lokasi dapat dijalankan di dua fasilitas colocation yang berada di benua berbeda.
• Menyiapkan cluster cadangan di AWS yang dapat dijalankan dalam waktu kurang dari 10 menit saat terjadi bencana.
• Saat beralih ke bare metal, mempekerjakan administrator server tidak wajib karena fasilitas colocation menangani sebagian besar pemeliharaan hardware.
• Microk8s digunakan bukan hanya untuk pengembangan, tetapi juga di lingkungan produksi, dan bila perlu dapat dengan mudah dipindahkan ke distribusi Kubernetes lain.

Kesimpulan

• Layanan cloud seperti AWS memang menawarkan fleksibilitas dan kekuatan, tetapi tidak selalu menjadi pilihan yang ekonomis untuk semua perusahaan.
• Dengan memanfaatkan teknologi open source dan berinvestasi pada hardware sendiri, kontrol atas sumber daya dapat ditingkatkan dan biaya operasional dapat ditekan secara signifikan.
• Karena setiap bisnis memiliki kebutuhan unik, evaluasi menyeluruh diperlukan sebelum melakukan transisi.

Opini GN⁺

Hal terpenting dari tulisan ini adalah manfaat kontrol dan penghematan biaya yang bisa diperoleh perusahaan dengan beralih dari layanan cloud ke infrastruktur bare metal. Tulisan ini menarik karena menunjukkan secara konkret bagaimana keputusan teknis dapat memengaruhi hasil finansial. Berkat perkembangan teknologi seperti Docker, Kubernetes, Helm, dan Microk8s, transisi seperti ini menjadi jauh lebih mudah dibanding beberapa tahun lalu, dan hal ini menegaskan pentingnya pilihan teknologi serta nilai dari pendekatan yang strategis.

[hhcrux]

US$230 ribu... bukankah itu uang yang akan habis hanya dengan merekrut dua admin untuk mengelola server colocation? Alasan memakai layanan yang sepenuhnya terkelola kan memang untuk menghemat biaya itu.

[gunrok]

Itu juga benar, tetapi jebakannya adalah di AWS pun tetap dibutuhkan engineer yang benar-benar ahli di masing-masing bidang.

[wedding]

Penilaiannya secara umum tampak cukup negatif. Kalau melihat ringkasannya, entah kenapa juga terasa agak dilebih-lebihkan.

[GN⁺]

Opini Hacker News

• Menggunakan reserved instances dan savings plans dapat sangat menurunkan biaya AWS. Ini juga berlaku untuk biaya transfer dan penyimpanan, dan memang bisa menghemat banyak uang, tetapi perbedaannya tidak sedramatis yang dibayangkan pada awalnya.
• Mengingat kondisi ekonomi saat ini, banyak yang berkata, "kita bisa merekrut satu engineer lagi", tetapi yang perlu diingat adalah, "kita bisa mempertahankan satu engineer lagi". Muncul pertanyaan apakah layak memberhentikan anggota tim demi tetap memakai AWS.
• Mengelola rak server bukanlah hal besar seperti yang dibayangkan banyak orang. Para cloud-native engineer cenderung enggan belajar soal pengelolaan hardware.
• Jika tidak memakai layanan cloud dan hanya menggunakan virtual machine, nilainya jarang sepadan. Bagi banyak orang, menyewa dedicated server bisa menjadi keputusan bisnis terbaik. Biayanya bisa jauh lebih murah daripada EC2, dan jika punya banyak kapasitas cadangan, masalah skalabilitas yang umum biasanya bisa diatasi.
• Fokuslah pada tujuan bisnis dan jangan terbawa hype. Dalam beberapa kasus downtime memang masalah besar, tetapi bagi banyak bisnis, biaya layanan berhenti beberapa menit jauh lebih murah daripada merekayasa mekanisme high availability (HA) yang rumit dan mahal.
• Daripada membeli Ferrari di AWS, membeli Toyota Camry bisa menghemat banyak uang. Cerita seperti ini biasanya hanyalah spam blog perusahaan yang mengklaim telah berhasil melakukan trik baru yang luar biasa. Kenyataannya, mereka cuma membakar uang karena tidak tahu cara mengendalikan pengeluaran.
• Rasanya baru kemarin mencari penyedia colocation, jadi ada keraguan terhadap klaim bahwa mereka dengan cepat menghemat 230 ribu dolar.
• Jika mempertimbangkan efisiensi biaya, selama Anda tidak menghabiskan upaya setara satu orang-tahun untuk mengelola server sendiri, berarti Anda telah membuat pilihan yang tepat.
• Postingan ini terlalu minim detail, sehingga sulit menilai apakah benar-benar bernilai.
• Bisnis ada untuk menghasilkan uang, dan yang menghasilkan uang adalah produknya, bukan kemampuan mengelola hardware dan infrastruktur TI.
• Jika menghabiskan 500 ribu dolar per tahun di AWS, dan infrastrukturnya relatif sederhana serta pengeluaran tidak diperkirakan akan meningkat besar, maka keluar dari cloud memang bisa masuk akal.
• Jika menghabiskan 500 ribu dolar per tahun di AWS, cukup dengan memasukkan angkanya ke spreadsheet dan meninjaunya selama satu jam saja sudah terlihat bahwa ada penghematan yang jelas; ini seharusnya dilakukan sebelum menghabiskan ratusan ribu dolar per tahun di AWS.