AWS mengganti kompresi S3 dari gzip ke zstd dan mengurangi ukuran sekitar 30%
(twitter.com/adrianco)- Menjawab pertanyaan tentang seberapa banyak hal yang tidak perlu berhasil dikurangi oleh zstd buatan Yann Collet, Adrian Cockcroft memberikan jawabannya
- Pada skala exabyte di S3, pengurangan 30% berarti penghematan biaya dalam skala yang sangat besar
- Twitter juga menghemat ratusan miliar won per tahun (
~ mid 8 figs/yr) saat beralih ke zstd di HDFS
4 komentar
Uber juga beralih dari GZIP/SNAPPY ke ZSTD.
https://www.uber.com/en-TW/blog/cost-efficiency-big-data/
zstd luar biasa ya!
Ada materi perbandingan performa kompresi di tautan tersebut, jadi saya bagikan.
https://github.com/facebook/zstd
Hari ini saya pertama kali mencoba memakai zstd.
Ternyata sudah terpasang bawaan di mac.
Kompresi: "zstd file" => file.zst
Ekstrak: "unzstd file.zst" => file