Gambar Jembatan Runtuh Palsu Membuat Operasi Kereta Dihentikan

• Gambar yang diduga dibuat dengan AI menyebar di media sosial dan terlihat seolah-olah jembatan benar-benar runtuh, sehingga operasional kereta dihentikan sementara
• Network Rail menghentikan semua kereta yang melintasi Carlisle Bridge untuk pemeriksaan keselamatan segera setelah foto tersebut beredar
• Hasil pemeriksaan tidak menemukan masalah, dan jalur dibuka kembali sekitar 1 jam 30 menit kemudian, dengan 32 perjalanan kereta penumpang dan barang mengalami keterlambatan
• Otoritas perkeretaapian memperingatkan bahwa pembuatan dan penyebaran gambar palsu menimbulkan kebingungan yang tidak perlu serta pemborosan uang pajak
• Para ahli menilai insiden ini memang menimbulkan kerugian nyata yang terbatas, tetapi menunjukkan risiko disinformasi berbasis AI terhadap pengoperasian infrastruktur sosial

---

Penghentian Operasi Kereta Akibat Gambar Palsu

• Sesaat setelah gempa terjadi, gambar yang tampak seolah jembatan mengalami kerusakan parah diunggah ke media sosial
  • Gambar tersebut diduga dibuat dengan AI dan menggambarkan Carlisle Bridge di Lancaster seolah-olah telah runtuh
• Network Rail mengetahui gambar itu pada pukul 00:30 GMT dan menghentikan semua kereta yang melintasi jembatan untuk pemeriksaan keselamatan
• Saat reporter BBC menganalisis gambar tersebut menggunakan chatbot AI, ditemukan bagian-bagian yang menunjukkan jejak manipulasi

Respons Otoritas Kereta dan Dampaknya

• Sekitar pukul 02:00 GMT jalur sepenuhnya dibuka kembali, dan Network Rail memperingatkan dampak serius yang dapat ditimbulkan oleh pembuatan dan penyebaran gambar palsu
• Otoritas menyatakan, “Kebingungan akibat gambar palsu seperti ini menyebabkan keterlambatan penumpang dan pemborosan uang pajak, serta menambah beban kerja petugas di lapangan”
• British Transport Police mengetahui insiden tersebut, tetapi tidak ada penyelidikan resmi yang dilakukan

Skala Keterlambatan Operasi

• Menurut Network Rail, total 32 perjalanan kereta penumpang dan barang mengalami keterlambatan
  • Sebagian berhenti langsung atau mengurangi kecepatan, sementara yang lain terdampak oleh keterlambatan kereta sebelumnya
  • Karena panjangnya West Coast Main Line, keterlambatan menyebar hingga ke utara Skotlandia

Analisis Pakar

• Pakar perkeretaapian Tony Miles menjelaskan bahwa karena insiden terjadi larut malam, sebagian besar yang terdampak adalah kereta barang dan kereta tidur
  • Kereta-kereta ini biasanya beroperasi dengan kecepatan lebih rendah, sehingga meski terjadi keterlambatan, masih ada ruang untuk mengejar waktu dengan menambah kecepatan
• Ia menyebut Network Rail harus mengerahkan tim inspeksi lapangan secara darurat, sehingga pekerjaan dalam beberapa hari ke depan bisa ikut terdampak

Dampak Sosial Disinformasi

• Miles menekankan bahwa gambar palsu seperti ini dapat memengaruhi jadwal orang sungguhan
  • Ia memperingatkan bahwa hal ini bisa mengganggu agenda penting seperti janji medis, penerbangan, dan pemakaman
• Ia mendesak agar tindakan semacam ini dihentikan, dengan mengatakan bahwa “ini bukan sekadar lelucon, melainkan tindakan yang merugikan kehidupan orang nyata”

[roxie]

Kenapa tidak mencari penyebar pertamanya?

[shakespeares]

Dengan AI, para pelaku manipulasi saham bisa berubah dari kelompok terorganisasi menjadi individu ya?

[crawler]

Saya benar-benar penasaran hukuman seperti apa yang akan dijatuhkan dalam kasus seperti ini.

[GN⁺]

Opini Hacker News

• Kita sekarang baru memasuki era gambar dan video palsu
  Dulu pun, seperti pada insiden bom rekayasa di wilayah Donbas, orang bisa membuat adegan palsu dengan memanfaatkan mayat tanpa AI
  Ke depan, akan muncul video minoritas atau politisi melakukan hal yang tidak pernah mereka lakukan, serta materi yang sepenuhnya fiktif yang diajukan sebagai bukti di pengadilan. Rasanya dunia akan menjadi tempat yang sangat mengerikan

  • Bahkan tidak perlu video palsu. Cukup tempelkan caption bohong pada foto kelompok minoritas, lalu banyak orang akan datang dengan marah
  • Reaksi tiap generasi berbeda. Generasi yang mengalami masa awal penyuntingan digital jadi lumrah cenderung tenang, tetapi generasi di antaranya (usia 20–40) justru paling kesal. Rasanya seperti berdiri di tengah kekacauan bergaya cyberpunk yang meruntuhkan rasa akan realitas
  • Bahkan 10–20 tahun lalu, alat-alat dasar saja sudah cukup untuk membuat rekayasa yang canggih. Narasi sekarang bahwa “AI merusak segalanya” justru terlihat seperti gerakan politik yang menargetkan regulasi AI open source
  • Saya pertama kali mendengar istilah 'Cheap Fakes' dari riset di India. AI generatif membuat serangan phishing lebih efisien, sehingga kelompok rentan yang dulu bukan target pun kini ikut dibidik. Ekosistem informasi tercemar, dan tercipta hutan gelap tempat dorongan kontrol pemerintah berbenturan dengan kebebasan berekspresi
  • Memang banyak foto yang dimanipulasi, tetapi sering juga kejadian nyata dipelintir atau diabaikan. Masalahnya ada pada titik ketika realitas dan fiksi bercampur

• Kasus ini menunjukkan kesenjangan antara biaya membuat peringatan dan biaya verifikasi
  Alat generatif membuat manipulasi nyaris gratis, dan meledakkan volumenya
  Operator kereta tidak salah. Jika sesaat setelah gempa beredar gambar yang tampak meyakinkan, tentu mereka harus memastikan lewat pengecekan langsung
  Ke depan, satu orang akan bisa memicu respons berbiaya tinggi dengan biaya sangat rendah. Alih-alih mengabaikan media sosial, sistem harus meningkatkan kecepatan dan ketahanan dalam membedakan sinyal dari noise

  • Kalaupun seseorang hanya menelepon dan berkata “jembatannya runtuh”, keterlambatan tetap akan terjadi. Kebohongan lewat telepon juga masalah lama
  • Di tempat seperti Inggris yang CCTV-nya banyak, mestinya kondisi jembatan bisa diperiksa langsung, jadi ini agak mengejutkan. Teknologi deteksi otomatis perlu lebih maju
  • Seperti Hukum Brandolini, butuh energi jauh lebih besar untuk membantah kebohongan
  • Sekitar 2030, gambar palsu yang jauh lebih canggih akan bisa dibuat seketika. Ini mirip dilema penyerang-bertahan dalam keamanan siber
  • Insiden seperti ini mungkin juga akan mendorong investasi pada pemantauan infrastruktur real-time

• Pada 1950–2005, hambatan masuk ke dunia penyiaran tinggi sehingga sumber informasi sedikit. Pada 2005–2021, tingkat kepercayaan pada video tinggi, tetapi sekarang biaya video palsu mendekati nol
  Rasanya kita akan kembali ke model yang berpusat pada sedikit sumber tepercaya

  • Tetapi sedikit sumber itu pun dulu juga pernah memelintir informasi. Jika kepercayaan makin turun karena AI, nilai jurnalisme yang sungguhan bisa ikut merosot
  • Sekarang iklan hewan AI yang bisa bicara sudah terlalu banyak dan melelahkan
  • Sebagian orang mau membayar untuk berita yang akurat, tetapi mayoritas hanya ingin mengukuhkan prasangka mereka sendiri. Algoritme media sosial lebih mengutamakan engagement dan pendapatan iklan daripada kebenaran

• Network Rail mengatakan “pikirkan dampak seriusnya sebelum membuat atau membagikan gambar palsu”,
  tetapi yang sebenarnya dibutuhkan adalah sistem verifikasi yang tidak bergantung pada media sosial. Bukankah lebih baik konfirmasi langsung lewat telepon?

  • Meski begitu, kalau memang ada kemungkinan jembatan runtuh, menghentikan kereta adalah keputusan yang benar
  • Karena terjadi larut malam, mungkin butuh waktu untuk mencari petugas yang bisa melakukan pemeriksaan. Tidak bisa menjamin semuanya aman, tetapi yang utama adalah mengurangi risiko
  • Mustahil menempatkan petugas siaga 24 jam di semua ruas. Network Rail sudah tepat dengan respons yang mengutamakan keselamatan

• Sebenarnya untuk hal seperti ini AI tidak dibutuhkan
  Cukup menelepon dan berkata “jembatannya rusak”, hasilnya mungkin akan sama. Panggilan iseng dan ancaman palsu sudah ada sejak lama

  • Tetapi viralitas media sosial berbeda. Begitu gambar menyebar, banyak pihak berwenang bisa bereaksi bersamaan. Telepon tidak menyebar, tetapi gambar menyebar sendiri. Itulah yang memungkinkan kejadian ini
  • Logika “dulu juga ada hal buruk, jadi tak perlu khawatir” itu berbahaya. Jangan biarkan masalah membesar dari tahap X menjadi tahap X²
  • Panggilan iseng lewat telepon bisa berujung sanksi hukum, sedangkan foto palsu tidak melampaui ambang itu
  • Sebelum bubuk mesiu ditemukan, orang juga sudah bisa membunuh dengan proyektil, tetapi bubuk mesiu mengubah dunia. AI juga demikian
  • Untuk mencegah tindakan penipuan, dibutuhkan hukuman yang tegas. Masalahnya, struktur saat ini membuat masyarakat menanggung biayanya, bukan pelakunya

• Menariknya, sebenarnya tidak ada bukti bahwa foto ini benar-benar beredar di media sosial
  Selain artikel BBC, saya tidak menemukan jejak apa pun. Mungkin foto itu langsung dikirim ke Network Rail lewat email?

  • Kalau itu memang lelucon yang dibuat dengan tingkat ketelitian seperti itu, malah cukup mengagumkan

• Peristiwa ini mengingatkan pada plot Moab dalam Fall; or, Dodge in Hell

  • Bagian awal bukunya benar-benar menarik. Bagian yang membahas anonimitas dan eksistensi online sangat berkesan

• Disebutkan bahwa jurnalis BBC menganalisis gambar itu dengan chatbot AI untuk mencari tanda-tanda manipulasi
  Tetapi cara seperti ini tampak tidak layak sebagai metode verifikasi

  • Pada akhirnya, jurnalis itu benar-benar pergi ke lokasi dan memastikan jembatannya baik-baik saja. Analisis AI kemungkinan hanya alat bantu
  • Ada guru yang memeriksa tugas murid dengan ChatGPT, tetapi keandalan pendeteksian AI seperti ini rendah. Jika siswa memanfaatkan kelemahan model, hasilnya mudah dikelabui
  • Respons ChatGPT semacam “lihat saja pikselnya” terdengar seperti lelucon
  • Mungkin ini cara yang cepat, tetapi tingkat keandalannya belum layak untuk dikutip dalam berita

• Peringatan dari Network Rail justru seperti memperlihatkan kerentanan mereka sendiri
  Dengan cara seperti ini, serangan yang melumpuhkan infrastruktur publik bisa dilakukan kapan saja

  • Sebenarnya kerentanan semacam ini sudah diketahui sejak lama

• Kalimat “pemeriksaan jembatan memengaruhi pekerjaan selama beberapa hari” justru lebih mengkhawatirkan
  Mengejutkan bahwa sekadar pemeriksaan visual sederhana saja bisa menimbulkan biaya sosial sebesar itu

  • Namun petugas yang dipanggil untuk penanganan darurat akan mendapat cuti pengganti (TOIL), sehingga jadwal kerja ikut terdampak.
    Menyediakan petugas siaga 24 jam penuh akan lebih mahal. Pada akhirnya ini soal keseimbangan antara biaya dan keselamatan