Tahun 2023, Kejayaan Hanya Berjarak 11MB/detik

Kebenaran tentang biaya cloud

• Ada anggapan bahwa layanan cloud itu murah, tetapi pada kenyataannya pengguna bisa jadi membayar biaya yang berlebihan.
• AWS menghasilkan sebagian besar keuntungan Amazon, dan ini bisa berarti bahwa layanan cloud sebenarnya mahal.

Perhitungan dari prinsip pertama

• Jika ingin membangun salah satu dari 1000 situs web teratas, misalnya seperti businessinsider.com, Anda membutuhkan 200 juta pengunjung per bulan dan 400 juta page view.
• Hanya dengan dokumen HTML saja, dibutuhkan bandwidth 30TB per bulan, tetapi itu setara hanya dengan 11MB per detik, yang merupakan patokan sangat rendah bagi perangkat keras modern.

Memahami latensi

• Dilihat dari kecepatan cahaya, perjalanan pulang-pergi ke sisi berlawanan bumi membutuhkan sekitar 200ms, tetapi dalam praktiknya memakan waktu sekitar 300ms.
• Dengan menggunakan CDN untuk mengirimkan JS, CSS, dan media, Anda dapat memangkas 300ms waktu pemrosesan server, menghasilkan efek yang sama seperti menempatkan server di dekat pengguna.

Keterbatasan teknologi edge

• Teknologi edge belum menyelesaikan masalah database meskipun telah ada kemajuan pada teknologi serverless generasi kedua.
• Sebagian besar halaman yang kompleks memerlukan query database, dan ini dapat menambah latensi.

Pertimbangan biaya

• Hetzner.com menawarkan biaya server dan bandwidth yang jauh lebih murah dibandingkan AWS EC2.
• Vendor cloud sering memberi banyak hal secara gratis di awal, tetapi biayanya meningkat tajam saat melakukan scale-up.

Situasi yang realistis

• Kecuali untuk use case tertentu, sebagian besar situs web atau SaaS dapat dijalankan pada satu server, yang lebih murah dan lebih sederhana dalam perawatan.
• Anda dapat menggunakan SQLite secara lokal, melakukan cache CSS, JS, dan gambar melalui CDN, serta meningkatkan performa melalui server-side rendering.
• Bahkan tanpa Docker atau virtualisasi yang rumit, sistem tetap dapat diskalakan dengan cukup baik, lebih mudah dikelola, dan lebih murah.

Pendapat GN⁺

• Artikel ini menantang keyakinan umum tentang efisiensi biaya layanan cloud, dan menunjukkan bahwa pengguna mungkin membayar lebih dari yang sebenarnya mereka butuhkan.
• Dengan membandingkan struktur biaya layanan cloud, artikel ini menunjukkan bahwa hosting server tunggal tradisional masih bisa menjadi alternatif yang valid.
• Ditekankan bahwa teknologi seperti serverless, Docker, dan skalabilitas horizontal tidak selalu diperlukan dalam setiap situasi, dan terkadang pendekatan yang lebih sederhana dapat memberi performa yang lebih baik sekaligus menghemat biaya.
• Artikel ini menekankan pentingnya optimasi database dan penempatan regional, serta menyiratkan bahwa hal tersebut dapat mencapai performa yang sama atau lebih baik daripada yang ditawarkan layanan cloud.
• Hal-hal yang perlu dipertimbangkan saat memilih teknologi mencakup evaluasi trafik dan kebutuhan performa yang sebenarnya, serta mempertimbangkan efisiensi biaya untuk memilih hosting server tradisional alih-alih cloud.

[GN⁺]

Opini Hacker News

• Pengalaman dalam bisnis hosting

  • Di masa lalu, dalam bisnis hosting, perusahaan menyediakan sistem yang kompleks sesuai permintaan pelanggan.
  • Untuk menyaingi AWS, mereka mengembangkan platform cloud hosting berbasis API, tetapi pendapatan mencapai puncaknya pada 2012.
  • Pelanggan menginginkan solusi yang lebih kompleks berbasis AWS dan tidak mempercayai server yang sederhana.
  • Perusahaan dijalankan secara bootstrap dan tidak memahami perlunya menanggung risiko biaya AWS.
  • AWS lebih disukai karena "cleverness" yang telah mengakar kuat di generasi pengembang perangkat lunak.

• Kesalahan dalam analisis trafik

  • Trafik tidak terdistribusi merata, dan kebutuhan bandwidth pada jam puncak jauh lebih tinggi daripada nilai rata-rata.
  • Dalam layanan nyata, penyiapan koneksi TCP dan TLS membutuhkan beberapa kali bolak-balik, dan waktu respons terhadap pengalaman pengguna itu penting.

• Error server dan trafik

  • 500 Internal Server Error menunjukkan bahwa server sedang menangani trafik lebih banyak dari yang diperkirakan.

• Pendekatan terhadap penskalaan layanan

  • Sebaiknya menghindari penskalaan yang tidak perlu dan hanya membangun saat memang dibutuhkan.
  • Jika masalah performa muncul, lebih baik menanganinya saat itu.

• Keuntungan AWS

  • Menggunakan AWS memberi ruang untuk beralasan saat terjadi gangguan layanan.

• Diskusi tentang arsitektur cloud

  • Ini bukan perdebatan tentang perlunya arsitektur cloud, melainkan sarana untuk menawarkan alternatif.
  • Masalah ketersediaan saat server down dapat diselesaikan dengan cara lain.

• SQLite dan penskalaan vertikal

  • Alih-alih SQLite, bisa menggunakan Postgres yang di-host sendiri, meski itu membutuhkan lebih banyak upaya konfigurasi.
  • Arsitektur yang menyimpan seluruh state global di memori dan menyimpan snapshot ke disk juga dimungkinkan.

• Kombinasi API dan database SQLite

  • SQLite dapat menangani banyak query dalam satu thread.
  • Di sisi API, performa dapat ditingkatkan dengan menggunakan caching di memori dan melewati database untuk halaman statis.

• Masalah ketersediaan pada satu server

  • Menjalankan layanan di satu server dapat menyebabkan downtime yang tidak direncanakan.
  • Waktu pemulihan data dan jumlah kehilangan data perlu dipertimbangkan.

• Perpindahan ke cloud dan ketersediaan

  • Perpindahan ke cloud sering terasa seperti tekanan dari rekan sejawat.
  • Dari sisi ketersediaan, satu server bisa berisiko, dan sebaiknya menggunakan campuran CDN dan cloud secara bijak.