Tesla menyembunyikan kecelakaan fatal untuk terus melanjutkan uji coba mengemudi otonom

• Data bocor internal mengungkap indikasi bahwa Tesla tetap melanjutkan pengujian di jalan umum meski mengetahui ribuan laporan kecelakaan serius dan cacat yang terkait dengan fitur mengemudi otonom
• Tercatat lebih dari 2.400 keluhan akselerasi mendadak dan lebih dari 1.000 kecelakaan terkait Autopilot, dan banyak item ditandai belum terselesaikan
• Sejumlah kendaraan menunjukkan akselerasi dan pengereman mendadak tanpa alasan, dan salah mengenali lingkungan sekitar dapat berujung pada tabrakan fatal saat melaju kencang
• Dalam gugatan atas kecelakaan fatal, data kendaraan yang telah dihapus berhasil dipulihkan, dan terungkap bahwa kendaraan mendeteksi hambatan saat kecelakaan tetapi hanya membunyikan peringatan sesaat sebelum tabrakan tanpa melakukan manuver penghindaran
• Juri di AS memerintahkan Tesla membayar ganti rugi lebih dari 243 juta dolar AS, dan polemik tanggung jawab uji coba mengemudi otonom di jalan umum meluas hingga penyelidikan oleh Departemen Kehakiman dan otoritas keselamatan lalu lintas jalan

---

Ikhtisar

• Berdasarkan kebocoran data internal, muncul indikasi bahwa Tesla menyembunyikan ribuan laporan kecelakaan serius dan cacat terkait fitur mengemudi otonom sambil terus melanjutkan pengujian di jalan umum
  • Menurut materi yang bocor, Tesla telah mengetahui cacat fatal pada sistemnya sejak bertahun-tahun lalu
  • Dalam putusan juri pertama, Tesla diperintahkan membayar lebih dari 243 juta dolar AS kepada para korban kecelakaan fatal
• Berlawanan dengan harapan yang dijanjikan mobil otonom, bagi sebagian pengguna hal ini justru menjadi mimpi buruk, dan muncul kritik bahwa sistem berkendara berbasis AI didorong ke pasar terlalu cepat tanpa verifikasi yang memadai
  • Disebutkan hasil investigasi yang menyatakan Elon Musk dan Tesla memanfaatkan jalan raya layaknya arena uji coba
• Dampak kecelakaan serius tidak berhenti pada pengemudi dan penumpang, tetapi juga membuat pengguna jalan lain terekspos pada cacat sistem tanpa persetujuan mereka

Inti dari data yang bocor

• Dalam kebocoran dokumen internal berskala besar, ditemukan ribuan keluhan pelanggan dan banyak catatan kecelakaan
  • Lebih dari 2.400 keluhan terkait akselerasi mendadak
  • Lebih dari 1.000 kecelakaan terkait Autopilot
• Dalam banyak kasus, item penanganan insiden ditandai "belum terselesaikan"
• Secara keseluruhan, dokumen tersebut menunjukkan bahwa Tesla mengetahui skala cacat sistemnya

"Halusinasi" fatal di jalan raya

• Disebutkan adanya kasus akselerasi mendadak dan pengereman mendadak tanpa alasan pada sejumlah kendaraan Tesla
  • Artikel tersebut menyebut malfungsi AI semacam ini sebagai "halusinasi"
  • Dianalogikan dengan fenomena ChatGPT yang memberikan jawaban sepenuhnya salah
• Sistem mengemudi otonom dapat salah menafsirkan lingkungan sekitar, dan pada kecepatan tinggi kesalahan semacam ini bisa berujung pada akibat fatal
• Cacat pada Autopilot bukan hanya risiko bagi pengguna Tesla, tetapi memengaruhi semua pengguna jalan
  • Banyak orang tidak pernah setuju menjadi subjek eksperimen Tesla, tetapi pada kenyataannya tetap terekspos pada cacat tersebut

Tindakan hukum para korban

• Naibel Benavides meninggal dalam kecelakaan yang melibatkan Tesla dalam mode Autopilot
  • Saat itu ia adalah seorang pejalan kaki
• Dillon Angulo selamat dari kecelakaan yang sama tetapi mengalami luka berat, dan dampaknya terus berlanjut
  • Termasuk pernyataan, "Saya tidak tahu Autopilot itu ada, dan setelah mengetahuinya, saya merasa seperti tikus percobaan"
• Keluarga korban kemudian menggugat Tesla
  • Mereka menuduh Tesla menyembunyikan informasi penting
  • Tesla selama ini terus menegaskan tanggung jawab ada pada pengemudi

Data kecelakaan yang diklaim rusak

• Dalam proses penyelidikan kecelakaan, diperlukan data black box kendaraan, tetapi Tesla mengklaim data tersebut rusak
• Tim pengacara korban berhasil memulihkan data yang telah dihapus dengan bantuan para ahli
  • Menurut informasi yang dipulihkan, Tesla sudah mengetahui cacat tersebut sejak malam hari pada tanggal kecelakaan
• Saat kecelakaan terjadi, kendaraan berhasil mendeteksi hambatan tetapi tidak melakukan manuver penghindaran
  • Hanya membunyikan peringatan sesaat sebelum tabrakan

Putusan bersejarah

• Juri di AS menjatuhkan putusan ganti rugi terhadap Tesla sebesar lebih dari 243 juta dolar AS
• Putusan ini disebut sebagai putusan besar pertama dalam kasus terkait Autopilot
  • Juri menilai baik Tesla maupun pengemudi sama-sama bertanggung jawab
• Pengacara pihak korban menilai ini sebagai hari bersejarah dalam peradilan
  • Disebut sebagai putusan yang menegaskan bahwa jalan umum tidak boleh dipakai seperti laboratorium produsen
• Tesla berupaya membatalkan putusan tersebut, tetapi pada akhir Februari hakim federal mempertahankan sanksi
  • Perusahaan masih dapat mengajukan banding

Perluasan penyelidikan di AS

• Tesla menjadi sasaran sejumlah penyelidikan di AS
  • Departemen Kehakiman sedang menyelidiki kemungkinan penipuan terhadap konsumen
  • Otoritas keselamatan lalu lintas jalan juga menjalankan penyelidikan terpisah
• Para whistleblower memberi keterangan kepada otoritas bahwa perusahaan lebih mengutamakan kecepatan daripada keselamatan
• Termasuk kesaksian bahwa fitur mengemudi otonom versi uji coba dirilis ke pasar terlalu tergesa-gesa, dan sejumlah karyawan telah memperingatkan manajemen tentang bahaya Autopilot
• Para ahli menilai putusan pertama ini dapat memicu gugatan tambahan
  • Disebut sebagai putusan yang membuka jalan bagi persidangan baru melawan Tesla

[GN⁺]

Komentar Hacker News

• Dugaan bahwa Tesla mematikan Autopilot beberapa detik sebelum tabrakan agar tidak tercatat aktif saat kecelakaan benar-benar terasa mengejutkan. Saya melihat hal terkait di artikel Futurism

  • Karena itu saya juga jadi tidak ingin sembarangan memakai sistem bantuan pengemudi seperti ini. Kita tidak tahu kapan tiba-tiba harus mengambil alih keputusan lagi, jadi rasanya lebih baik saya mengendalikan sendiri dari awal sampai akhir
  • Kalau mau adil, dalam liputannya tertulis bahwa fitur swakemudi berhenti mengendalikan kendaraan kurang dari 1 detik sebelum tabrakan pertama. Menurut saya, wajar jika sistem langsung melepas kendali ketika menghadapi situasi yang tidak bisa diselesaikannya. Namun, kalau muncul bukti bahwa Tesla secara aktif memakai itu sebagai dasar untuk menghindari tanggung jawab kecelakaan, saya bersedia mengubah pandangan saya. Secara pribadi, ambang sekitar 5 detik tampak lebih masuk akal
  • Memang tampak ada bagian yang bertentangan dengan hasil penyelidikan NHTSA, tetapi di halaman keamanan FSD miliknya, Tesla menjelaskan bahwa jika FSD aktif dalam 5 detik sebelum tabrakan, maka dalam perhitungan tingkat kecelakaan itu dianggap sebagai kecelakaan dengan keterlibatan FSD. Secara teori, ini tampak seperti standar yang cukup longgar untuk mencakup waktu persepsi-reaksi umum 1–1,5 detik, tetapi dalam praktiknya proses disengagement saat sistem mengembalikan kendali ke pengemudi sendiri bisa mengubah waktu reaksi. Jika pengemudi sudah terbiasa mobil menangani pengereman dan kemudi, maka yang diperlukan bukan sekadar reaksi terhadap rangsangan, melainkan menarik kembali perhatian dan beralih penuh ke kendali manual sebelum bereaksi, sehingga waktunya bisa lebih lama. Selain itu, masih dipertanyakan apakah menginjak rem atau memutar setir benar-benar merupakan sinyal pemulihan kendali yang sadar. Bisa saja itu tindakan refleks
  • Ini sudah diketahui sejak lama, dan saya memahaminya bukan sebagai upaya untuk menghindari pencatatan status aktif, melainkan sebagai rancangan keselamatan agar komputer tidak terus mengendalikan kendaraan dalam kondisi yang mungkin sudah rusak setelah tabrakan. Jika mobil terguling atau rusak parah, AP atau FSD mungkin tidak dilatih untuk situasi seperti itu, dan bila roda terus bergerak dalam keadaan demikian justru bisa lebih berbahaya bagi penumpang atau petugas penyelamat. Sepengetahuan saya, AEB masih bisa terus membantu pengereman, tetapi menonaktifkan auto-steer dan cruise control lebih aman. Kalau tidak salah, ambang pelepasannya sekitar 1 detik

• Saya menilai rekam jejak Tesla memang sangat buruk dalam hal kepatuhan regulasi dan keterbukaan informasi terkait kecelakaan swakemudi

  • Namun, artikelnya sendiri tampak terlalu minim angka-angka konkret dibanding klaim utamanya. Terlepas dari kasus individu yang tragis, keseluruhan narasinya terlalu samar sehingga justru melemahkan daya yakinnya

• Artikel ini juga tersedia dalam versi bahasa Jerman. Bisa juga merujuk ke artikel SRF berbahasa Jerman

  • SRF adalah layanan radio dan TV publik nasional Swiss, jadi kemungkinan besar mereka juga menyediakan konten serupa dalam 4 bahasa atau lebih

• Liputan ini membahas Autopilot lama, bukan FSD, dan tampaknya juga tidak ada hal baru yang terungkap. Sepertinya ini didasarkan pada data bocor yang sama yang sudah dipublikasikan sejak 2023. Judulnya juga tampak tidak akurat, dan saya tidak menemukan bukti langsung dalam artikel bahwa Tesla menyembunyikan kecelakaan fatal

  • Jadi ini terasa seperti contoh lain judul clickbait palsu atau berlebihan tentang Elon atau perusahaan milik Elon, sehingga reaksinya ya tidak terlalu mengejutkan

• Saya ingin menambahkan sedikit latar belakang tentang video dan artikelnya. Dokumenter ini dibuat oleh media publik Swiss RTS, yang menurut saya, agak berbeda dari media publik Eropa secara umum, punya pendanaan yang relatif stabil dan kualitas yang tinggi. Independensi redaksional dan netralitasnya juga umumnya cukup baik, secara politik terasa sedikit condong ke kiri. Alasan videonya berbahasa Prancis adalah karena media Swiss memang terbagi menurut wilayah bahasa, dan adanya terjemahan bahasa Jerman juga berkat struktur itu. Jika ingin mengusulkan subtitle bahasa Inggris, menurut saya layak menghubungi RTS langsung

  • Namun, penjelasan itu terdengar seolah-olah media publik Eropa pada umumnya sulit dipercaya. Saya penasaran kenapa Anda melihatnya begitu. Saat mencoba mengingat negara-negara Eropa dengan penyiar publik berkualitas tinggi, daftarnya jadi terlalu panjang, sehingga generalisasi seperti itu justru terasa aneh

• Saya penasaran apakah kecelakaan-kecelakaan ini pada akhirnya juga merupakan kasus kelalaian pengemudi

  • Saya rasa iya. Hanya saja, pokok persoalannya adalah bahwa sifat FSD sendiri bisa membuat pengemudi lengah

• Saya juga tidak terlalu suka Tesla dan menganggapnya sangat dibesar-besarkan serta terlalu dipromosikan, tetapi terus terang artikel ini terbaca seperti artikel yang ceroboh. Judulnya berbunyi “Bagaimana Tesla menyembunyikan kecelakaan untuk pengujian Autopilot,” tetapi isi artikelnya tidak menjelaskan apa yang disembunyikan, bagaimana caranya, atau dari siapa disembunyikan. Artikel itu mencampur kebocoran data Tesla 2022 dengan gugatan terpisah pada 2026 tanpa menunjukkan kaitan di antara keduanya. Saya memang merasa Tesla punya pola janji menyesatkan dan pengungkapan yang buruk, tetapi artikel ini gagal membuktikan klaim itu dengan baik

  • Saya merasakan hal yang sama. Terutama pada isu yang berkaitan dengan Musk, hal seperti ini tampak lebih sering muncul. Bahan untuk dikritik sebenarnya sudah sangat banyak, tetapi jika jurnalisme investigatif ingin memulihkan rasa hormat, menurut saya lebih baik menyajikan klaim dan bukti yang konkret meskipun lebih sedikit, daripada membanjiri pembaca dengan kecurigaan yang samar. Cara yang samar mungkin lebih mudah untuk menggerakkan opini publik, tetapi menurut saya itu mekanisme berbahaya yang tidak menuntut keselarasan dengan kebenaran
  • Saya membaca artikelnya sendiri setelah melihat komentar ini, dan saya juga merasa isinya tidak banyak. Tetapi saya benar-benar tidak paham kenapa pendapat ini mendapat downvote. Sebagai catatan, saya juga bukan penggemar Tesla, dan truk itu menurut saya memang buruk sekali

• Kalau ingin menonton videonya secara lengkap, lihat video laporan lengkap RTS

• Kalau lebih nyaman membaca bahasa Jerman, lihat artikel bahasa Jerman yang memuat isi yang sama