Pasien skizofrenia mengira iklan kulkas pintar sebagai halusinasi psikotik

• Seorang perempuan dengan skizofrenia mengalami insiden masuk rumah sakit atas inisiatif sendiri setelah mengira fitur iklan pada kulkas pintar sebagai halusinasi
• Saat kulkas menampilkan panduan suara dan iklan yang dipersonalisasi, ia diketahui salah mengartikannya sebagai gejala dirinya
• Keluarganya meminta nasihat hukum untuk memeriksa pengaturan perangkat dan masalah privasi
• Di komunitas online, diskusi berlanjut mengenai otomatisasi berlebihan pada peralatan rumah tangga pintar dan dampaknya terhadap kesehatan mental
• Desain pengalaman pengguna dan keamanan peralatan rumah tangga berbasis AI pun muncul sebagai isu sosial yang mendapat perhatian

---

Gambaran kejadian

• Seorang perempuan dengan gangguan mental salah mengira tulisan yang muncul di layar kulkas pintar sebagai pesan yang ditujukan kepadanya, lalu pergi sendiri ke rumah sakit dan menjalani observasi rawat inap selama 2 hari
• Pasien tersebut sebelumnya juga pernah dirawat karena psychotic episode yang berulang tiap 2 tahun, sehingga situasinya berlanjut sampai penyesuaian obat
  • Keluarga yang tidak memahami situasinya pada awalnya menilai gejalanya memang memburuk
• Setelah diperiksa belakangan oleh keluarga, tulisan di layar kulkas ternyata adalah gambar promosi acara TV bertuliskan “WE’RE SORRY WE UPSET YOU, CAROL”, dan karena nama asli pasien juga Carol, terjadilah kebingungan
• Karena iklan itu ditempatkan di posisi yang tidak lazim dan terlihat seperti UI peralatan rumah tangga, bahkan pengguna umum pun sulit menyadari bahwa itu adalah iklan, dan muncul kritik bahwa hal ini dapat menimbulkan kebingungan serius bagi kelompok rentan

Reaksi sosial

• Di internet, muncul sorotan bahwa antarmuka suara dan visual pada peralatan rumah tangga AI dapat membingungkan penderita gangguan mental
• Pendapat bahwa perkembangan teknologi harus mempertimbangkan keselamatan dan beban kognitif kelompok yang rentan secara kesehatan mental pun makin meluas
• Diskusi tentang perlunya standar aksesibilitas dan keselamatan untuk teknologi smart home terus berlanjut