Visualisasi Latensi Pusat Data AWS

 (benjdd.com)
3 poin oleh GN⁺ 2024-10-25 | 2 komentar | Bagikan ke WhatsApp
  • Ini adalah halaman visualisasi yang menampilkan latensi antar pusat data AWS, dibagi ke dalam 3 rentang ms
  • Legendanya dibagi menjadi di bawah 100ms, 100–200ms, dan di atas 200ms, sehingga tingkat latensi dapat dibandingkan dengan cepat
  • Dari informasi yang tersedia saja, tidak dapat dipastikan pusat data atau region mana yang disertakan
  • Metode pengukuran, waktu pengukuran, serta angka latensi individual antar pusat data tidak disediakan
  • Karena itu, cakupan yang dapat dikonfirmasi dalam ringkasan ini terbatas pada kriteria rentang visualisasi

Legenda latensi

  • X < 100ms: di bawah 100ms
  • X 100ms - 200ms: 100ms–200ms
  • X > 200ms: di atas 200ms

Detail yang tidak dapat dikonfirmasi

  • Daftar pusat data AWS tertentu atau nama wilayah tidak disediakan
  • Metode pengukuran, waktu pengukuran, dan nilai latensi antar pusat data individual tidak dapat dikonfirmasi

Bacaan terkait

2 komentar

 
devenv 2024-10-25

Jadi, us-east-1 tampaknya adalah lokasi terbaik jika mengarah ke Barat.
 
GN⁺ 2024-10-25
Komentar Hacker News

  • Daripada hanya menampilkan nilai ping, akan bagus juga jika ditampilkan seberapa buruknya dibanding nilai optimal teoretis
    Setahu saya, kecepatan cahaya di medium serat optik sekitar 30% lebih lambat daripada cahaya di vakum
    Beberapa kali dalam rapat arsitektur ada keluhan soal latensi antar-datacenter, tetapi belakangan ternyata nilainya sejak awal sudah cukup dekat dengan batas yang secara teoretis mungkin

    • Di internal hyperscaler dan penyedia kolokasi/hosting besar, metrik seperti ini sepertinya sudah sangat dipahami
      Saat pelanggan merancang sistem ketersediaan tinggi atau pemulihan bencana, penting untuk memastikan mereka tidak keliru memilih region atau zone utama yang “secara buatan” punya latensi besar
      Perusahaan saya saat ini berspesialisasi dalam migrasi SAP ke cloud, dan setelah dulu pernah terkena latensi yang tidak dapat diterima karena asumsi yang keliru, sekarang kami selalu membahas ini dengan pakar jaringan AWS dan GCP pada tahap estimasi serta penentuan cakupan
    • Ini sepertinya bukan ping sungguhan, dan itu justru bagus
      Metodenya bukan ICMP ping, melainkan membuat koneksi stream socket melalui tcp/443
      Ping bisa jadi metrik yang kurang tepat
      https://github.com/mda590/cloudping.co/blob/8918ee8d7e632765...
    • Untuk melakukan itu, semua rute kabel harus dipetakan
      Cahaya di dalam kabel serat optik bergerak sekitar 70% dari kecepatan cahaya, kira-kira 210.000km/s
      Keliling Bumi sekitar 40.000km, dan jalur lurus ke sisi berlawanan Bumi menjadi sekitar 100ms sekali jalan, atau sekitar 200ms pulang-pergi
    • Saat mencoba menekan peta, saya tidak melihat banyak kasus latensi yang sangat melenceng dibanding jarak
      Tentu saja, dengan hollow-core fiber dan rute serat optik yang mendekati garis lurus, secara teori bisa diperbaiki sekitar 40% lagi, tetapi jarang ada yang mau membayar biaya itu
    • Saya pembuatnya. Menarik, dan ide yang sama juga diusulkan di X
      Saya penasaran apakah ada sumber yang bagus untuk menghitung nilai ini secara akurat

  • Karena saya buta warna merah-hijau, sulit atau bahkan mustahil membedakan garis di bawah 100ms dan garis di atas 200ms
    Itu mencakup sekitar 8% populasi laki-laki, jadi akan bagus jika ditambahkan mode buta warna
    Visualisasinya sendiri sangat bagus

    • Sebagai solusi cepat, Anda bisa menerapkan filter CSS ke seluruh halaman
      Di developer tools, tambahkan aturan filter: hue-rotate(60deg); pada elemen body, atau jalankan javascript:void(document.body.style.filter='hue-rotate(60deg)') di bilah alamat
    • Saya pembuatnya. Terima kasih atas sarannya
      Jika ada contoh terbaik dari pendekatan yang pernah menyelesaikan masalah ini dengan baik, saya ingin mengetahuinya; kalau ada tautan, mohon dibagikan
    • Garisnya sama sekali tidak terlihat, yang terlihat hanya titik-titik biru yang berulang untuk datacenter
      Cukup membingungkan
    • Saya penasaran apakah ada alat aksesibilitas untuk keperluan seperti ini
      Semacam filter yang mengubah warna seluruh layar dengan cara tertentu agar bisa dibedakan
    • Sebagai orang yang buta warna, mempertimbangkan buta warna saat memilih warna memang penting, tetapi bukan berarti seluruh 8% laki-laki benar-benar tidak bisa membedakan dua warna itu
      Persentasenya lebih rendah, dan persepsi warna juga berbeda-beda di antara orang-orang yang buta warna
      Jika terlihat jelas bagi seseorang, bukan berarti terlihat jelas juga bagi orang lain, begitu pula sebaliknya

  • Dulu saya pernah membuat perencanaan terkait ini untuk pelanggan
    Saat mengukur latensi AWS, jika kami mengukur perkiraan panjang kabel bawah laut dalam km lalu membaginya dengan 150, hasilnya cocok dengan latensi aktual dalam selisih kurang dari 10%
    Tidak sampai mengejutkan, tetapi sangat konsisten; belakangan saya rasa angkanya 155

    • Ini mengingatkan saya pada cerita email 500 mil
      https://www.ibiblio.org/harris/500milemail.html
    • Menurut saya ini karena kecepatan cahaya di dalam medium
      “Melalui LabVIEW, kecepatan cahaya dalam serat optik dihitung sekitar 2,054 x 10^8 m/s, nilai tipikal yang sesuai dengan indeks bias n ≈ 1,4606”
      https://web.phys.ksu.edu/posters/2009/juma-Adv-Lab-S09.pdf
    • Dalam pemodelan dunia nyata, ternyata cukup sering perkalian dan penjumlahan saja sudah bisa menghasilkan presisi yang memuaskan
    • Halaman ini benar-benar dibuat dengan baik sebagai peta interaktif, dan sangat menyenangkan dilihat
      Saya penasaran apakah penjelasan matematis untuk aturan praktis itu kira-kira seperti ini
      https://news.ycombinator.com/user?id=Hikikomori mengoreksi kecepatan cahaya di medium serat optik dari 3e5 menjadi 2e5
      Kecepatan cahaya adalah 2e5km/s, yaitu sekitar 2e2km/ms, sehingga bentuknya menjadi panjang(km) / 200(km/ms), dan akhirnya latensi(ms) ≈ K' × panjang(km)
      Saya penasaran apakah K sekitar 1,3 dan K' adalah 1/155, yang berarti mencakup faktor seperti jarak yang tidak lurus, overhead jaringan dan switching, serta galat pengukuran pulang-pergi
    • Jika melihat visualisasinya, sebagian besar, atau bahkan semua, garis merah berkaitan dengan rute panjang seperti Amerika Utara ke Afrika Selatan

  • Menarik. Jika mengeklik lingkaran biru yang mewakili datacenter, latensi ke datacenter lain akan ditampilkan
    Butuh sebentar untuk mengetahuinya, jadi akan bagus jika situs menambahkan petunjuk seperti klik datacenter untuk memilihnya

    • Secara ketat, ini bukan datacenter, melainkan agregasi tingkat region
      Sebuah region terdiri dari campuran komponen jaringan dan komputasi pada berbagai tingkat abstraksi, yaitu datacenter, lokasi edge, dan sebagainya
      Bahkan di dalam satu region pun variasinya besar antar-zone, jadi metodologi pengukuran menjadi penting

  • AWS menyediakan angka latensi di Network Manager untuk antar-Region, antar-Availability Zone, dan di dalam Availability Zone
    Ini berguna untuk menetapkan baseline latensi dan melihat apakah ada masalah di sisi AWS
    https://docs.aws.amazon.com/network-manager/latest/infrastru...

    • AWS juga menyediakan dasbor yang menampilkan gangguan Region atau layanan, tetapi kalau melihat riwayatnya, justru karena alasan yang sama sulit untuk memercayai dasbor seperti itu begitu saja

  • Visualisasi dan konsepnya keren, tetapi akan lebih baik kalau warnanya berupa gradasi kontinu, bukan berbasis rentang
    Cara saat ini membuat 100 ms tampak jauh lebih buruk daripada 99 ms, tetapi tampak sama dengan 200 ms
    Misalnya, jika mengklik us-east-1, latensi pusat data di Eropa Barat terlihat cukup berbeda; padahal eu-central-1 dan eu-south-1 hanya berbeda sekitar 9 ms tetapi tampak sepenuhnya berbeda, sementara eu-north-1 dan ap-south-1 berbeda sekitar 88 ms tetapi tampak sama
    Ada juga usulan untuk membandingkan nilai terukur dengan latensi minimum yang mungkin dibandingkan kecepatan cahaya, tetapi masalahnya adalah kecepatan cahaya c di ruang hampa bukanlah kecepatan transmisi informasi di dalam serat optik
    Bahkan batas teoretis terbaik yang realistis pun, jika hanya melihat kecepatan cahaya di medium, sulit melebihi 70% dari c, dan ada banyak faktor yang tidak diketahui seperti latensi repeater

    • Saya penulisnya. Gradasi benar-benar ide yang bagus
      Visualisasi saat ini membuat latensi 90 ms terlihat seperti “baik”, tetapi dalam praktiknya itu nilai yang sama sekali tidak dapat diterima untuk banyak aplikasi
      Terutama jika pemrosesan satu permintaan harus melakukan beberapa kali round-trip

  • Saya penasaran bagaimana mereka memilih pusat data mana yang disertakan
    Misalnya Spanyol, yaitu eu-south-2, tidak ada
    Dulu saya mengerjakan proyek yang mengharuskan latensi antar-pusat data di bawah 30 ms, dan harus memakai eu-west-1 Irlandia serta eu-south-2
    Namun latensi aktualnya mendekati 42 ms, terutama karena tidak ada kabel bawah laut antara Irlandia dan daratan Eropa, sehingga rutenya harus pergi ke Inggris lalu menyeberangi Inggris lagi menuju kabel ke daratan Eropa

    • Di bagian bawah halaman tertulis bahwa itu adalah data yang di-scrape dari CloudPing, dan ada juga tautan ke dataset CloudPing
      Kalau masuk ke CloudPing, eu-south-2 memang tidak ada di dataset-nya
    • Saya penulisnya. Saya hanya memakai yang tersedia di https://www.cloudping.co, dan memang ada beberapa yang jelas hilang
      Repositori GitHub CloudPing tidak mengalami perubahan kode selama 4 tahun, jadi mungkin beberapa Region baru muncul setelah terakhir kali dikerjakan secara aktif
    • Saya penasaran bagaimana Anda tahu tidak ada kabel antara Irlandia dan daratan Eropa
      Saya murni ingin tahu, data itu dipublikasikan di mana?
    • Di peta itu ada cukup banyak pusat data yang hilang
    • Israel il-central-1 juga hilang

  • Datanya sangat berguna dan globenya juga mengesankan secara visual, tetapi untuk penggunaan nyata sepertinya peta dunia datar akan lebih baik
    Semua pusat data bisa ditampilkan sekaligus, dan garis-garisnya tidak akan terlalu berdekatan sehingga lebih mudah dibaca

    • Seingat saya, dalam radio amatir, proyeksi azimuthal equidistant seperti ini populer
      https://en.wikipedia.org/wiki/Azimuthal_equidistant_projecti...
    • Peta dunia 2D mungkin tidak memberi rasa seberapa jauh lokasi-lokasi itu sebenarnya
      Akan lebih baik kalau ada opsi untuk beralih di antara keduanya
    • Setuju. Kelihatannya keren, tetapi bukan visualisasi terbaik untuk benar-benar membaca data
    • Saya penulisnya. Perlu keseimbangan yang hati-hati antara sesuatu yang keren dan yang berguna

  • Faktor terbesar latensi tentu saja jarak
    Namun bahkan antar-Region yang relatif dekat pun kadang tidak memiliki serat optik yang terhubung langsung, sehingga latensinya buruk, misalnya jika rutenya melewati wilayah kutub
    Saya penasaran apakah ada contoh Region yang melanggar ketaksamaan segitiga secara besar
    Artinya, latensi A–C jauh lebih buruk daripada latensi optimal A–B + B–C
    Sekadar penasaran, dengan ide ini mungkin bisa ditebak pusat data mana yang kemungkinan besar terhubung langsung oleh serat optik, lalu hanya koneksi itu yang ditampilkan

    • Saya tidak bisa berbicara langsung tentang AWS, tetapi dalam disertasi doktoral saya, dengan menggunakan probe RIPE Atlas, saya menemukan cukup banyak kasus seperti itu
      Pada dasarnya caranya adalah mencari pasangan probe yang waktu round-trip antara probe A dan C lebih besar daripada A–B + B–C
      Metode ini punya masalah umum pada pengukuran ICMP/waktu round-trip, dan juga fakta bahwa trafik sebenarnya tidak dirutekan melalui probe “perantara”, tetapi pasangan seperti itu memang ada
      Ada contoh di halaman 84 dari https://theses.hal.science/tel-03666771/document. Kalau Anda bisa membaca bahasa Prancis
    • Karena cara routing bekerja, rasanya hal seperti ini tidak akan sering terjadi dalam skala besar
      Jika rute “memutar” lewat B adalah rute termurah bagi paket ICMP untuk sampai, maka dalam praktiknya rute itu juga yang akan dipilih
      Justru kalau mencari tempat di mana A–C hampir sama dengan A–B + B–C, mungkin Anda bisa melihat titik-titik di mana hal itu terjadi
      Selain kurangnya serat optik, alasan finansial seperti perjanjian peering yang lebih menguntungkan juga bisa menyebabkannya
    • Di wilayah antara Rusia, Mongolia, dan India, kabelnya sangat sedikit dan kualitasnya juga buruk
      Setahu saya, dari Mumbai ke Rusia selatan jaraknya tidak terlalu jauh, tetapi latensinya sangat tinggi
      Misalnya jauh lebih tinggi daripada dari Frankfurt ke Moskow, dan saya tidak tahu apakah itu sampai melanggar ketaksamaan segitiga antara Frankfurt–Moskow–Mumbai
    • Peta kabel serat optik global bisa langsung dilihat di sini
      https://www.submarinecablemap.com/
      Karena biaya pemasangan kabel bawah laut sangat besar, sangat kecil kemungkinan ada kabel yang tidak dipublikasikan
    • Ada Region seperti Amerika Selatan dan Asia Selatan yang terkenal buruk kualitas jaringannya
      Secara umum packet loss di sana juga cenderung lebih tinggi

  • Beberapa hari lalu saya sedang memakai ini
    https://aws-latency-test.com/

    • Saya penulisnya. Saat mencari data untuk visualisasi ini, saya melihat situs itu, dan menurut saya cukup bagus