- Dalam makalah yang baru dirilis, Google menyatakan bahwa sistem ini lebih cepat dan lebih efisien dibanding Nvidia
- Saat ini Nvidia menguasai 90% pasar AI, tetapi Google telah mengembangkan TPU sendiri sejak 2016
- Sejak 2020, Google telah menggunakan lebih dari 4.000 TPU, dan dalam 50 hari terakhir menggunakannya untuk model PaLM
- TPU v4 1,2~1,7 kali lebih cepat daripada Nvidia A100 dan menggunakan daya 1,3~1,9 kali lebih sedikit
- Namun, ini bukan perbandingan dengan H100 terbaru dari Nvidia (dalam benchmark MLPerf 3.0, H100 menunjukkan performa 4 kali lipat dibanding A100)
3 komentar
Bukan baru diumumkan.
TPU v4 sebenarnya sudah diumumkan pada 2021, dan bahkan sudah tersedia untuk penggunaan publik di cloud. 1
Berita kali ini adalah publikasi makalah retrospektif yang merangkum hasil operasional selama beberapa tahun.
Untuk perbandingan dengan H100 juga disebutkan bahwa mereka akan men-deploy responsnya dalam tahun ini.
Ah, ini berita yang agak membingungkan. :(
Hehe, saya cari berita lain dan ternyata artikel-artikelnya ditulis seolah-olah ini baru diumumkan, jadi memang wajar kalau membingungkan.
Di makalahnya sendiri berulang kali disebut sebagai makalah retrospektif (katanya itu budaya mereka), padahal begitu.