Transisi ke TPU: Menengok 10 Tahun Sejarah Chip Khusus AI

 (cloud.google.com)
8 poin oleh xguru 2024-08-06 | 2 komentar | Bagikan ke WhatsApp
  • Sekitar 10 tahun lalu, para peneliti Google memperkirakan bahwa kebutuhan komputasi AI akan melampaui kapasitas infrastruktur saat itu
  • Menyadari bahwa tidak ada alternatif di pasar yang dapat memenuhi kebutuhan tersebut, mereka mulai mengembangkan jenis chip baru bernama TPU (Tensor Processing Unit)

Chip tujuan khusus tunggal

  • CPU berperan sebagai "otak" serbaguna komputer, sedangkan TPU adalah chip tujuan khusus yang dioptimalkan untuk AI
  • TPU adalah ASIC (application-specific integrated circuit) yang dikhususkan untuk operasi matematika berbasis matriks dan vektor yang diperlukan untuk membangun dan menjalankan model AI
  • TPU v1 yang didistribusikan secara internal pada 2015 langsung menjadi hit di seluruh Google, dan selama 10 tahun berikutnya TPU terus berkembang dalam hal performa dan efisiensi

Mengimbangi inovasi AI

  • Evolusi TPU sangat terkait erat dengan inovasi machine learning dan AI
  • TPU v1 berfokus pada inferensi, tetapi tak lama kemudian Google mengembangkan superkomputer pelatihan TPU v2 untuk mengefisienkan pelatihan model
  • Setelah itu, TPU dirilis dalam siklus yang lebih cepat dan mencapai lompatan besar dalam performa, efisiensi, dan throughput
  • Pada generasi terbaru, kecepatan pemrosesan data begitu tinggi sehingga pemasangan kabel penghubung antar-chip pun memerlukan perhatian khusus

Berbagi manfaat

  • Pada awalnya, Google bukan satu-satunya yang mencari cara lebih baik untuk mengembangkan dan menjalankan model AI
  • Pada awal 2018, Google Cloud meluncurkan Cloud TPU generasi pertama agar pelanggan dapat mempercepat workload pelatihan dan inferensi mereka sendiri
  • Saat ini, tim AI ternama seperti Anthropic, Midjourney, dan Salesforce banyak menggunakan Cloud TPU
  • Seluruh kemampuan pemrosesan ini masih baru permulaan
  • Ke depan, ada rencana untuk mengubah desain data center agar lebih sesuai dengan kebutuhan TPU
  • Melampaui satu chip atau satu pod TPU, Google sedang membangun jaringan data center global yang dipenuhi TPU
  • Masa depan akan menjadi kustomisasi full stack sepenuhnya, dari silicon hingga concrete (The future is full stack customization all the way, from silicon to concrete)

Bacaan terkait

2 komentar

 
ing03201 2024-08-06

TPU memang punya visi yang jauh ke depan
Google benar-benar menunjukkannya lewat pemrosesan kamera tunggal Pixel 2 XL, dan sekarang memasuki masa keemasan di era LLM
Jadi tolong dong update board coral micro dev.... hiks hiks
 
ganadist 2024-08-06

Prosesor gambar yang disertakan pada model awal Pixel (yang disebut Visual Core) berbasis pada platform Monette Hill milik Intel.