Tesla Mengatakan Data Penting dari Kecelakaan Fatal Tidak Ada, tetapi Seorang Peretas Menemukannya

• Tesla mengklaim tidak memiliki data inti terkait kecelakaan saat mode mengemudi otomatis
• Namun, kontroversi muncul setelah seorang peretas menemukan data internal
• Akibatnya, muncul pertanyaan tentang kredibilitas kesaksian Tesla dan kondisi sebenarnya dari penyimpanan datanya
• Tanggung jawab hukum Tesla dan sikapnya dalam menyerahkan bukti kembali menjadi sorotan
• Risiko teknologi self-driving dan masalah transparansi sekali lagi ditekankan

---

Ringkasan kontroversi dugaan penyembunyian data kecelakaan Tesla

• Tesla menyatakan bahwa perusahaan tidak dapat mengakses data penting terkait kecelakaan fatal kendaraan otonom tersebut
• Namun, seorang peretas menemukan data terkait di sistem internal Tesla, membuktikan bahwa data yang sebelumnya dikatakan tidak ada itu sebenarnya memang ada
• Hal ini memunculkan pertanyaan apakah Tesla menyembunyikan kebenaran dalam kesaksian di pengadilan, atau setidaknya kurang memahami sistem pengelolaan data internalnya sendiri
• Insiden ini memicu berbagai isu seperti penentuan tanggung jawab hukum, kewajiban menyerahkan bukti, dan transparansi pengelolaan data kendaraan otonom
• Selain itu, kasus ini juga meningkatkan perhatian terhadap keandalan teknologi self-driving dan sikap perusahaan teknologi dalam menangani kecelakaan di masa depan

[GN⁺]

Opini Hacker News

• Membagikan tautan arsip

• Ingin tahu apakah pemahamanku benar. Data kecelakaan otomatis dikirim ke Tesla, lalu begitu terkirim langsung ditandai untuk dihapus? Kalau strukturnya seperti ini, akses terhadap data jadi dimonopoli Tesla, dan mereka bisa memutuskan sesuka hati apakah akan memanfaatkannya atau tidak. Rasanya cara seperti ini tidak mungkin lolos di pengadilan, tetapi tampaknya sejauh ini memang begitu. Dan tentu saja orang berharap ada jejak audit di server Tesla soal penghapusan data kecelakaan, tetapi dalam praktiknya tidak ada yang benar-benar memverifikasi apakah itu ada

  • Data kendaraan dimonopoli bukan hanya oleh Tesla, tetapi oleh semua pabrikan. Tidak ada pencatatan data atau metode kueri yang distandardisasi, dan log per komponen pun hanya bisa ditafsirkan oleh masing-masing pemasok
  • Kalau ditafsirkan lebih positif, setelah kecelakaan ada risiko pihak luar mengakses kendaraan dan memorinya sehingga privasi pemilik/pengemudi terekspos. Selain itu, jika data status kendaraan dibuka, datanya bisa dipelintir tergantung siapa yang menyajikannya, jadi menurutku akses seharusnya dibatasi hanya untuk ahli resmi. Konsepnya mirip dengan penanganan kotak hitam pesawat di lokasi kejadian
  • Alasan lain adalah, bisa saja ada benturan dengan kode unggah untuk jenis data lain yang dikirim ke Tesla. Untuk data jenis pertama (data sewenang-wenang), masuk akal jika setelah ada konfirmasi bahwa data sudah tersimpan di server Tesla, data di kendaraan dihapus untuk mengosongkan ruang penyimpanan. Dalam kasus kecelakaan ini itu memang bukan pilihan terbaik, tetapi aku tidak merasa penghapusan itu otomatis bisa dianggap jahat
  • Situasinya mirip dengan “rekaman untuk peningkatan kualitas panggilan”. Regulator mewajibkan pemberitahuan kepada pelanggan, tetapi kalau rekamannya merugikan mereka, tiba-tiba dibilang tidak ada, dan hanya saat menguntungkan mereka rekamannya dibuka. Tesla punya banyak contoh penanganan data pelanggan dalam jumlah besar yang serampangan, dan belakangan bahkan ada kasus video dari dalam kendaraan dibagikan di kantor. Ada juga seorang bintang porno yang merekam video di Tesla self-driving, dan kupikir video itu pasti sudah beredar ke mana-mana atas nama “peningkatan kualitas”
  • Dulu sudah banyak kasus orang harus menggugat Tesla hanya untuk meminta data telemetri kendaraan. Padahal datanya ingin dipakai untuk perkara kecelakaan lalu lintas, bukan untuk menyerang dirinya sendiri, tetapi Tesla tetap menolak membukanya. Di sisi lain, Tesla pernah membocorkan data telemetri ke media tanpa persetujuan pemiliknya untuk membela diri, atau bahkan untuk membentuk narasi palsu. Misalnya mereka bilang “kendaraan memperingatkan pengemudi agar memperhatikan jalan”, tetapi setelah ditelusuri ternyata peringatannya cuma muncul sekali, 18 menit sebelum tabrakan

• Dulu aku pernah membeli unit infotainment model3 di eBay lalu mencoba meretasnya. Jumlah data yang tersimpan di dalamnya luar biasa banyak. Setelah mendapat akses ke sistem, aku bisa memperoleh VIN kendaraan itu, bahkan menemukan lelang mobil rongsokan tempat mobil tersebut berasal. Dari data lokasi yang tercatat, pola hidup pemiliknya terlihat jelas: tempat tinggal, tempat kerja, toko yang sering didatangi, dan sebagainya. Lokasi GPS terakhir yang tercatat adalah persimpangan berbentuk T di North Carolina, dan lewat Street View aku bahkan bisa melihat pohon yang kemungkinan ditabrak mobil itu

  • Penasaran dengan perangkat kerasnya. Apakah strukturnya berupa komputer berbasis Linux dengan SD card atau SSD, dan sistem file apa yang dipakai
  • Ucapan “melihat sepotong kehidupan pemilik” itu... sambil bercanda menambahkan, jangan-jangan termasuk kematiannya juga

• Menurut video beranotasi yang diputar di pengadilan, Tesla mendeteksi kendaraan pada jarak 170 kaki, lalu pejalan kaki pada jarak 116 kaki. Tetapi Tesla justru merencanakan lintasan yang menembus tepat titik tempat mereka berdiri, di ujung jalan yang ada lampu dan rambu-rambunya. Artinya, meski mendeteksi kendaraan dan pejalan kaki, sistem tetap mencoba menerobos di antara mereka. Aku jadi bertanya-tanya seberapa parah sebenarnya kondisi perangkat lunak ini

  • Menyertakan video contoh bahwa masalahnya memang separah itu: vimeo.com/1093113127/e1fb6c359c. Bukan cuma mendeteksi pejalan kaki lalu mencoba melewatinya, sistem bahkan tetap melanjutkan lintasan setelah benar-benar menabrak pejalan kaki itu
  • Katanya AI akan merevolusi dunia dan jadi seperti Skynet, tetapi pencarian rute nyatanya setingkat bot Counter-Strike
  • Kupikir ini adalah 'dog/pig problem'. Masalah sistem seperti ini adalah tidak punya "object permanence". Walaupun mendeteksi kendaraan pada jarak 170 kaki, saat mendekat deteksinya tidak dipertahankan, dan hal yang sama berlaku untuk pejalan kaki. Sistem Tesla menyaring objek tetap (kendaraan diam/rambu), dan ini juga umum pada sistem bantuan mengemudi merek lain (kecuali mode bantuan parkir). Bedanya, kebanyakan pengemudi merek lain tidak terlalu mempercayai sistemnya, sementara pengemudi Tesla cenderung terlalu percaya pada fitur bantu ini. Tautan video terkait: adegan The Mitchells vs. the Machines
  • Dugaanku, kendaraan dan pejalan kaki yang benar-benar terdeteksi itu sebenarnya bukan korban yang dimaksud. (Kalau memang korbannya, mereka tidak akan menuliskannya sebagai "a vehicle" atau "a pedestrian")

• “Segera setelah kecelakaan pada 25 April 2019 pukul 9:14PM, data krusial otomatis diunggah ke server Tesla dan disimpan di database pusat. Kantor pusat mengirim pesan otomatis ke kendaraan bahwa snapshot tabrakan telah diterima. Tak lama kemudian, data yang sama di lokasi kejadian diproses sebagai ‘unlink’, yaitu salinan di dalam kendaraan ditandai untuk dihapus. Tesla menjelaskan di pengadilan bahwa prosedur seperti ini lazim saat kecelakaan.” Seluruh prosedur ini terasa mengejutkan

  • Aku heran orang bisa semudah itu memberi kepercayaan sebesar ini kepada perusahaan ini. Entah mereka tetap jadi pemimpin EV, atau malah jadi raksasa baru di AI/robotika, perilaku perusahaan seperti ini benar-benar di luar dugaan. Ketidakbermoralan seperti ini terasa seperti Aperture Science
  • Sulit membayangkan situasi di mana prosedur itu bisa dibela sebagai sesuatu yang sah dan tidak bermasalah. Kepatuhan, persyaratan hukum, retensi data, semuanya menimbulkan tanda tanya besar, dan aku juga ingin tahu siapa yang memasukkan kode seperti ini ke dalam rilis. Ini bukan kesalahan satu orang, melainkan keputusan tingkat tim
  • Masalah yang lebih besar adalah fakta bahwa Tesla juga “secara aktif menghapus” data di server pusat
  • Bagian yang kukutip (penghapusan data di kendaraan) tidak terlalu aneh, sedangkan bagian penghapusan di server jauh lebih mengejutkan
  • Komentar teratas di HN pada tulisan sebelumnya tentang insiden ini menyebut ganti rugi terlalu besar. Aku penasaran apakah diskusinya akan berbeda di thread kali ini

• Saat Volkswagen tertangkap memanipulasi emisi, CEO-nya dipecat dan didakwa. Pertanyaannya, bukankah Tesla juga seharusnya begitu?

  • Keanehan Dieselgate justru bahwa benar-benar ada orang yang dihukum. Menurutku, perusahaan sangat jarang benar-benar menerima hukuman, terutama secara pidana
  • Hakim yang menangani kasus ini menilai dalam putusannya bahwa “tidak ada bukti yang cukup bahwa Tesla sengaja tidak menyerahkan data sejak awal”, dan sebagai gantinya memerintahkan Tesla mengganti biaya yang dikeluarkan penggugat untuk mengumpulkan data itu sendiri
  • Kupikir diperlukan koalisi jaksa agung negara bagian dari Partai Demokrat seperti dalam gugatan Big Tobacco
  • Pemecatan CEO adalah kewenangan dewan direksi. Dewan Tesla percaya nilai perusahaan ini sangat tinggi secara tidak wajar, dan nilai itu terhubung langsung dengan CEO-nya
  • Kasus ini sama sekali berbeda dari VW, dan satu-satunya kesamaan hanyalah keduanya perusahaan mobil. Bisa saja CEO Tesla memang layak dipecat atau didakwa, tetapi alasannya bukan karena kasus VW adalah preseden

• Jika Tesla punya teknologi secure boot, ke depan akan makin sulit bagi siapa pun untuk menemukan celah mereka. Kalau begitu, kemungkinan “hilangnya” data kecelakaan akan makin besar, persis seperti polisi yang “kehilangan” rekaman bodycam

  • Sangat setuju dengan komentar ini. Para peretas bisa mengungkap masalah ini justru karena secure boot atau image terenkripsi belum diterapkan. Pengembang embedded tentu sudah kenal hal seperti MCUboot. Hanya saja para manajer sering enggan mengadopsinya karena kompleks, tetapi begitu disetujui, semua firmware akan menjadi seperti chat Signal yang hanya bisa dibuka oleh pabrikan. Perangkat keras berstandar PSA bahkan harus tahan terhadap serangan glitch multi-bit, jadi peretas benar-benar tak akan bisa masuk lagi

• Mengutip soal perubahan kesaksian pegawai Tesla di pengadilan, aku menganggap itu pada dasarnya berarti “memberikan kesaksian palsu”

  • Hal yang paling membuatku penasaran adalah hukuman apa yang sebenarnya akan dijatuhkan kepada pegawai yang berbohong seperti ini. Aku bertanya-tanya apakah secara sistem mereka justru akan dilindungi karena bertindak sebagai perwakilan perusahaan

• Setelah membaca artikel ini, aku makin mantap untuk tidak pernah membeli Tesla. Pujian untuk greenthehacker yang mencoba meretasnya. Semoga ke depannya ia bahagia sambil lama-lama menyeruput venti hot chocolate dari Starbucks

  • Aku penasaran apakah sebelum hari ini kamu memang sudah berniat membeli Tesla. Sebelumnya sudah ada beberapa kecelakaan fatal terkait self-driving, jadi apa yang membuat kasus ini terasa berbeda secara khusus? Bagiku, titik baliknya adalah insiden di Florida saat Tesla masuk ke bawah truk besar dan pengemudinya tewas mengenaskan
  • Mendoakan orang “lama-lama minum venti hot chocolate Starbucks” itu bukannya pada dasarnya mendoakan dia kena diabetes?
  • Ada juga candaan yang menanyakan apakah lelucon Musk dulu soal memanggil angkatan udara Jerman (Luftwaffe) pun tidak memengaruhi niat membeli Tesla

• Menurutku, bagi siapa pun yang sudah memahami karakter Elon dengan benar, semua yang terjadi sekarang sama sekali tidak mengejutkan. Fitur, jadwal, bahkan peringkat video game pun omong kosong... akuisisi Twitter juga kulihat sebagai langkah memperluas tipu dayanya sendiri