- Tesla ingin menjadi salah satu perusahaan AI terbaik di dunia
- Tentu saja, Tesla masih belum menghadirkan autonomous driving terbaik, dan juga belum terlihat menonjol di dunia AI generatif, tetapi...
- Saat ini Tesla memiliki infrastruktur AI internal yang relatif kecil, sekitar 4 ribu V100 dan 16 ribu A100
- Microsoft dan Meta memiliki lebih dari 100 ribu GPU, dan sedang berupaya menggandakan jumlah itu
- Infrastruktur AI Tesla yang lemah sebagian disebabkan oleh keterlambatan chip pelatihan D1 buatan internal
- Namun sekarang situasinya berubah dengan cepat
- Tesla meningkatkan kapasitas AI-nya lebih dari 10x hanya dalam 1,5 tahun
- Sebagiannya untuk kapabilitas internal Tesla sendiri, tetapi sebagian lainnya untuk X.AI
- Tesla telah merancang chip AI sendiri sejak 2016 untuk mobil, dan sejak 2018 untuk data center
- Hingga kini belum benar-benar bisa memproduksinya dalam skala besar, tetapi pada 2023 produksinya mulai ditingkatkan
- Arsitektur ini cocok untuk use case unik Tesla, tetapi tidak berguna untuk LLM karena berfokus pada jaringan gambar
Tesla HW 4.0, chip FSD generasi ke-2
- Chip yang melakukan inferensi AI di dalam mobil Tesla disebut chip FSD
- Tesla percaya bahwa untuk mencapai full self-driving, mobil tidak memerlukan performa yang sangat besar, sehingga kemampuan chip di dalam kendaraan dibuat sangat terbatas
- Selain itu, karena Tesla menjual dalam volume besar, batasan biayanya jauh lebih ketat dibanding Waymo/Cruise
- Waymo/Cruise menggunakan GPU full-size yang harganya lebih dari 10x saat tahap pengembangan dan pengujian awal, dan sedang membuat SoC yang lebih cepat sekaligus lebih mahal
- Chip generasi ke-2 mulai diterapkan pada kendaraan yang dijual sejak Februari 2023
- Generasi pertama menggunakan proses 14nm Samsung, dengan 12 Arm Cortex-A72 (2.2Ghz) yang terdiri dari 3 klaster quad-core
- Generasi kedua menggunakan 20 Arm Cortex-A72 yang terdiri dari 5 klaster quad-core
- Bagian terpenting dari generasi kedua adalah tiga core NPU
- Masing-masing dari 3 core menggunakan SRAM 32MiB untuk menyimpan bobot model dan activation
- Pada setiap siklus, 256 byte data activation dan 128 byte data bobot dibaca dari SRAM ke MAC (Multiply Accumulate Unit)
- MAC dirancang sebagai grid, dan setiap core NPU memiliki grid 96x96 sehingga totalnya 9.216 MAC, dengan 18.432 operasi per siklus clock
- Dengan NPU yang berjalan di 2.2Ghz, daya komputasinya mencapai 121.641 TOPS (trillion operations per second)
- Chip FSD generasi ke-2 dipasangi penyimpanan NVMe 256GB dan 16GB Micron DDR6 (14Gbps) di atas memory bus 128bit dengan bandwidth 224GB/s
- Bandwidth meningkat 3,3x dibanding generasi pertama
- HW 4.0 berisi 2 chip FSD
- Peningkatan performa papan HW4 membuat konsumsi daya ikut naik, menjadi dua kali HW3
- Meski performa HW4 meningkat, Tesla tetap ingin mendukung FSD di HW3, agar pengguna HW3 yang sudah membeli FSD tidak perlu melakukan retrofit
- Sistem infotainment menggunakan AMD GPU/APU. Ini berada di papan yang sama dengan chip FSD, padahal sebelumnya berada di daughterboard terpisah
- Platform HW4 mendukung 12 kamera. Satu untuk redundansi dan 11 benar-benar digunakan
- Sebelumnya hub kamera depan menggunakan 3 kamera resolusi rendah 1,2 megapiksel, tetapi platform baru menggunakan 2 kamera 5 megapiksel
- Saat ini Tesla tidak menggunakan sensor selain LIDAR dan kamera
- Sebelumnya Tesla menggunakan radar, tetapi dihapus mulai pertengahan generasi
- Dengan begitu, biaya produksi kendaraan bisa banyak ditekan, dan Tesla percaya kendaraan otonom berbasis kamera murni itu memungkinkan, sehingga terus dioptimalkan
- Tentu saja, Tesla pernah mengatakan bahwa jika ada radar yang benar-benar viable, maka itu akan diintegrasikan dengan sistem kamera
- Platform HW4 direncanakan akan dilengkapi radar rancangan internal bernama Phoenix
- Tujuan Phoenix adalah menggabungkan sistem radar dan sistem kamera untuk memanfaatkan lebih banyak data dan membuat kendaraan yang lebih aman
- Radar Phoenix menggunakan spektrum 76-77Ghz
- Sistem radar otomotif non-pulse yang mendukung tiga mode deteksi
Diferensiasi model AI Tesla
- Tesla menargetkan produksi model AI fondasional untuk menggerakkan robot dan mobil otonom
- Keduanya harus mengenali lingkungan sekitar dan menavigasi sekitarnya, sehingga jenis model AI yang sama dapat diterapkan pada keduanya
- Inferensi model ini membutuhkan daya rendah dan latensi singkat, sehingga batasan hardware sangat membatasi ukuran maksimum model yang bisa ditawarkan Tesla
- Di antara semua perusahaan, Tesla memiliki dataset terbesar yang dapat digunakan untuk deep learning
- Setiap mobil di jalan menangkap data menggunakan sensor dan gambar, dan jika dikalikan dengan jumlah EV Tesla yang beroperasi di jalan, akan terbentuk dataset yang sangat besar
- Tesla menyebut pengumpulan data ini sebagai "Fleet Scale Auto Labeling"
- Setiap EV Tesla mengambil klip log 45~60 detik dari data sensor padat seperti video, data IMU (inertial measurement unit) internal, GPS, jarak tempuh, dan lain-lain, lalu mengirimkannya ke server pelatihan Tesla
- Tesla hanya menggunakan sebagian yang sangat kecil dari data yang dikumpulkannya
- Tesla dikenal melatih model secara berlebihan untuk mencapai akurasi terbaik yang mungkin dalam ukuran model yang tersedia, karena keterbatasan pada inferensi
3 komentar
Tesla telah melayani perangkat lunak self-driving dalam versi Beta selama sekitar 2 tahun. Mulai versi berikutnya, layanan ini dijadwalkan tersedia secara resmi.
Versi awalnya sangat kurang memadai, tetapi kini semakin banyak orang mengatakan bahwa perangkat lunak yang saat ini dilayani sudah melampaui kemampuan orang biasa. Saat ini, perangkat lunak self-driving Tesla (FSD) memiliki tingkat kecelakaan sekitar 3 kali lebih rendah dibanding manusia.
Sepertinya ada salah ketik pada "mampu melakukan 1832 operasi per siklus clock". Di teks aslinya tertulis 18.432 operasi.
Karena ini artikel berbayar, bagian belakangnya tidak bisa dilihat, tetapi bagian depannya saja sudah cukup menarik sehingga saya coba terjemahkan.