Pasien skizofrenia mengira iklan kulkas pintar sebagai halusinasi psikotik

• Seorang perempuan dengan skizofrenia mengalami insiden masuk rumah sakit atas inisiatif sendiri setelah mengira fitur iklan pada kulkas pintar sebagai halusinasi
• Saat kulkas menampilkan panduan suara dan iklan yang dipersonalisasi, ia diketahui salah mengartikannya sebagai gejala dirinya
• Keluarganya meminta nasihat hukum untuk memeriksa pengaturan perangkat dan masalah privasi
• Di komunitas online, diskusi berlanjut mengenai otomatisasi berlebihan pada peralatan rumah tangga pintar dan dampaknya terhadap kesehatan mental
• Desain pengalaman pengguna dan keamanan peralatan rumah tangga berbasis AI pun muncul sebagai isu sosial yang mendapat perhatian

---

Gambaran kejadian

• Seorang perempuan dengan gangguan mental salah mengira tulisan yang muncul di layar kulkas pintar sebagai pesan yang ditujukan kepadanya, lalu pergi sendiri ke rumah sakit dan menjalani observasi rawat inap selama 2 hari
• Pasien tersebut sebelumnya juga pernah dirawat karena psychotic episode yang berulang tiap 2 tahun, sehingga situasinya berlanjut sampai penyesuaian obat
  • Keluarga yang tidak memahami situasinya pada awalnya menilai gejalanya memang memburuk
• Setelah diperiksa belakangan oleh keluarga, tulisan di layar kulkas ternyata adalah gambar promosi acara TV bertuliskan “WE’RE SORRY WE UPSET YOU, CAROL”, dan karena nama asli pasien juga Carol, terjadilah kebingungan
• Karena iklan itu ditempatkan di posisi yang tidak lazim dan terlihat seperti UI peralatan rumah tangga, bahkan pengguna umum pun sulit menyadari bahwa itu adalah iklan, dan muncul kritik bahwa hal ini dapat menimbulkan kebingungan serius bagi kelompok rentan

Reaksi sosial

• Di internet, muncul sorotan bahwa antarmuka suara dan visual pada peralatan rumah tangga AI dapat membingungkan penderita gangguan mental
• Pendapat bahwa perkembangan teknologi harus mempertimbangkan keselamatan dan beban kognitif kelompok yang rentan secara kesehatan mental pun makin meluas
• Diskusi tentang perlunya standar aksesibilitas dan keselamatan untuk teknologi smart home terus berlanjut

[GN⁺]

Komentar Hacker News

• Sekarang sudah waktunya melarang semua iklan sepenuhnya
  Saya hampir tidak pernah melihat iklan berkat teknologi pemblokir iklan di browser dan ponsel pintar saya
  Sesekali ketika pemblokiran gagal dan saya melihat iklan, saya heran bagaimana pengguna biasa tanpa pemblokir iklan bisa bertahan dari bombardir ini
  Dulu masih ada pembicaraan soal mencari “titik tengah”, tapi sekarang kompromi seperti itu sudah tidak berarti
  Jika orang ingin melihat iklan, itu seharusnya hanya diizinkan dalam bentuk yang dicari sendiri oleh pengguna seperti Yellow Pages
  Industri periklanan tidak mampu mengendalikan dirinya sendiri dan menghalangi regulasi lewat lobi. Satu-satunya solusi adalah memberantas iklan itu sendiri

  • Iklan di smart TV memerlukan reformasi setingkat penghapusan total
    Saya membeli TV untuk kakek saya yang sedang dirawat karena Alzheimer, dan semua model ternyata smart TV
    Iklan disisipkan di mana-mana dalam menu, dan dalam satu blok 8 iklan diputar berurutan. Iklannya terasa merangsang seperti mesin slot
    Ini bukan sekadar ketidaknyamanan, melainkan tindakan kejam terhadap lansia, dan menurut saya perlu denda atau hukuman pidana
  • Inti masalahnya bukan iklan itu sendiri, melainkan komodifikasi perhatian manusia
    Struktur jual beli perhatian orang membuat seluruh masyarakat sakit
    Iklan yang dicari sukarela oleh pengguna tidak masalah, tetapi ketika psikologi penghargaan dicampur dengan pencarian informasi, hasilnya menjadi racun
    Saat seseorang ingin memakai aplikasi lalu banner mempromosikan produk lain, itu adalah tindakan merampas niat pengguna
    Membuat perhatian manusia tercerai-berai seharusnya tidak menjadi penggerak utama ekonomi
  • Papan iklan digital di jalan tol benar-benar gila
    Di Kanada ada iklan berganti-ganti di sepanjang jalan, tepat di sebelah rambu “jangan terdistraksi saat mengemudi”
    Ironisnya, justru rambu itulah yang mengalihkan perhatian pengemudi
  • Iklan seharusnya hanya legal di dalam katalog produk
    Karena katalog adalah materi berguna yang hanya dicari pengguna saat mereka menginginkannya
  • Kompromi yang realistis adalah hanya mengizinkan iklan berbasis konteks dan melarang iklan yang dipersonalisasi
    Iklan berdasarkan lokasi pengguna atau apa yang sedang dicari masih oke, tetapi iklan berdasarkan riwayat situs lain atau tempat makan siang kemarin tidak boleh
    Memang batas antara iklan kontekstual dan iklan personal agak kabur, tetapi itu ranah legislatif dan yudikatif
    Secara pribadi saya ingin larangan yang jauh lebih kuat, tetapi menurut saya ini kompromi yang bisa diterima industri dan konsumen

• Mengerikan kalau ada iklan muncul di kulkas, tapi saya ragu apakah kasus ini benar-benar nyata
  Dulu juga ada cerita serupa di postingan Reddit

  • Banyak cerita di Reddit kemungkinan besar rekaan
    Sekarang YouTube juga penuh video yang mengadaptasi kisah Reddit. Menarik, tapi kebanyakan terasa dibuat-buat
    Jadi paling aman bersikap skeptis terhadap postingan di komunitas besar
  • Tidak aneh jika sesuatu yang pernah diprediksi seseorang benar-benar terjadi
    Di dunia ini banyak juga kejadian yang kebetulan cocok
  • Sebenarnya ini adalah foto yang dimanipulasi
    Menurut artikel 9to5Google, Samsung menyatakan bahwa mereka tidak menampilkan iklan layar penuh
    Gambar yang diunggah ke Reddit tampaknya adalah adegan iklan dari situs pihak ketiga di aplikasi browser kulkas
    Ungkapan “iklan yang terekspos secara alami” terasa seperti tafsir yang terlalu murah hati
  • Dari premis ceritanya saja sudah janggal bahwa tokoh seperti ‘Carol’ memiliki kulkas semahal itu

• Harus dilarang secara hukum jika produsen mengambil kendali atas perangkat yang sudah kita beli
  Pengguna bebas memasang aplikasi iklan jika dibayar, tetapi memaksakan iklan secara default itu tidak adil

  • Bahkan jika seseorang memasang aplikasi iklan secara sukarela, itu pun seharusnya ilegal
    Karena pilihan seperti itu melemahkan daya tawar konsumen lain
  • Kenyataan bahwa talenta terbaik dunia berkutat pada optimalisasi iklan terasa seperti simbol kerusakan sosial
    Fenomena ini terasa makin parah terutama menjelang akhir tahun
  • Realitanya, hal seperti ini dimungkinkan karena kita sudah menyetujui syarat dan ketentuan
    Tetapi struktur yang membuat kita harus bergantung pada ‘perusahaan baik’ demi mencari alternatif tanpa iklan tetaplah bermasalah
  • Solusi hukum yang sederhana adalah memperkenalkan klausul pembatalan sepihak
    Jika produsen pada dasarnya menjual perangkat dalam bentuk ‘sewa’, maka konsumen harus bisa membatalkan kontrak kapan saja dan menerima pengembalian dana sesuai depresiasi
    Mekanisme hukum seperti ini sudah ada, jadi pasar seharusnya bisa menyesuaikan rinciannya
  • Secara realistis hanya ada dua pilihan
    1. larang semua iklan
    2. tandai dengan jelas bahwa perangkat tersebut bisa menampilkan iklan, dan sediakan cara menonaktifkan iklan dengan mudah
       Iklan pada produk yang sudah dibeli dengan uang sama sekali tidak bisa diterima
       Khususnya bagi penderita gangguan mental, iklan yang tak terduga bisa berbahaya
       Iklan yang tiba-tiba bergerak atau berbicara seperti papan iklan digital di halte bus juga perlu pemberitahuan sebelumnya

• Belakangan iklan bertema horor, obat-obatan, dan seksual terlalu provokatif
  Google TV menampilkan iklan film horor yang menutupi seluruh dinding sehingga keluarga merasa tidak nyaman
  Bahkan saat makan pun muncul iklan penyakit yang menjijikkan, dan konten seksual juga tidak pantas untuk tontonan keluarga
  Dulu kita yang mengendalikan perangkat, sekarang konten mengerikan dipancarkan dari jarak jauh

  • Iklan farmasi selalu dibungkus dengan citra kebahagiaan yang tidak realistis
    Penderitaan penyakit yang sebenarnya disembunyikan, yang ditampilkan hanya video lansia naik kano
  • Gara-gara iklan di Google TV, akhirnya beralih ke Apple TV
    Saya memang harus membeli set-top box tambahan untuk memakai aplikasi yang sama, tetapi setidaknya tidak ada iklan

• Cerita tentang iklan kulkas ini tampaknya adalah kasus yang dimanipulasi
  Gambar yang sama sudah beredar sejak seminggu sebelumnya

  • Sebagai orang yang punya pengalaman dengan gangguan mental, saya paham bahwa iklan seperti ini bisa memicu gejala delusi
    Dulu saya pernah melihat poster kampanye anti-buang-sampah-sembarangan bertuliskan ‘HEY TOSSER!’ dan salah paham mengira itu pesan yang menyerang saya
    Bisa merujuk ke konsep terkait dan gambar posternya
  • Bahkan penulis postingan Reddit sebelumnya menyatakan bahwa “cerita Carol itu dibuat-buat”
    Komunitas kita seharusnya lebih kritis terhadap informasi palsu semacam ini
  • Semua cerita di Reddit mungkin saja palsu, tetapi mengabaikan semuanya juga pendekatan yang terlalu sederhana
  • Kasus seperti ini kemungkinan besar bagian dari rage bait
    Lihat contoh tweet terkait contoh1, contoh2
  • Kalau kulkas benar-benar menampilkan iklan, saya pun mungkin akan marah sampai ingin menusuknya dengan pisau

• Selama 100 tahun produsen berfokus pada fungsi pendinginan kulkas, tetapi setelah koneksi internet ditambahkan, mereka mulai terobsesi dengan monetisasi konsumen
  Ekosistem iklan menginfeksi semua perangkat terhubung seperti virus

  • Pada akhirnya alasannya cuma satu, uang
    Ketika ruang inovasi di industri peralatan rumah tangga menyusut, perusahaan mencari sumber pendapatan baru lewat ‘konektivitas’ dan ‘iklan’
    Karena penghematan biaya tenaga kerja pun sudah mendekati batasnya
  • Tidak ada yang menginginkan kulkas menjadi papan iklan
  • Sebenarnya dulu pun di dalam peralatan rumah tangga baru sering ada kupon atau sampel
    Bentuknya saja yang berbeda; iklan selalu ada

• Kulkas Samsung yang saya dapat saat pindahan adalah yang terburuk
  Pembuat es rusak hingga air bocor, dan engsel pintunya terus patah
  Akhirnya saya menyerah dan membeli kulkas baru
  Di Reddit juga banyak yang bilang, “apa pun asal bukan Samsung”
  Sepertinya strateginya adalah membuat produk murah lalu menghasilkan uang dari iklan
  Tapi saya tetap tidak mengerti kenapa kulkas harus terhubung ke internet

  • Saya juga mengalami masalah kulkas Samsung yang sama

• Saya membaca cerpen Doctorow "Unauthorized Bread", dan itu karya yang menarik tentang masalah kendali atas perangkat IoT
  Saya sedang mempertimbangkan untuk diam-diam memasukkannya ke daftar bacaan ibu saya

  • Saya juga meminjam dan membacanya dari perpustakaan, dan itu memberi banyak bahan renungan
    Hanya saja terasa seperti ditujukan ke pembaca yang lebih muda daripada saya

• Jika Anda bisa mengendalikan router sendiri, Anda bisa memblokir akses internet perangkat
  Misalnya, router Asus memungkinkan Anda mematikan hanya koneksi keluar untuk perangkat tertentu lewat UI
  Jaringan lokal tetap berjalan sambil memblokir transmisi keluar, sehingga berguna untuk perangkat seperti TV atau kamera
  Namun perlu hati-hati untuk kasus seperti kamera keamanan yang membutuhkan akses jarak jauh
  Anda bisa mengelolanya dengan menyalakan internet hanya sementara saat update atau pengaturan awal