Daisy, nenek AI yang membuang-buang waktu pelaku voice phishing

• O2 mengembangkan ‘Daisy’, nenek AI yang tampak seperti manusia dan berbicara dengan penipu lewat telepon secara real time, sehingga membuang-buang waktu mereka atas nama pelanggan
• Daisy dilatih dengan teknologi mutakhir dan konten dari scambaiter ternama Jim Browning, sehingga sangat canggih sampai nyaris mustahil dibedakan dari manusia sungguhan
• Penipu mengira mereka telah menemukan korban nyata, padahal sebenarnya Daisy-lah yang menipu balik mereka
• Korban penipuan Amy Hart bekerja sama dengan Daisy untuk membuat video yang membongkar taktik para penipu dan membantu pelanggan O2 menghindari penipuan
• Daisy membuat penipu percaya bahwa mereka sedang berbicara dengan orang sungguhan, sekaligus menekankan pentingnya perlindungan pelanggan dan pencegahan penipuan

Peran dan fungsi Daisy

• Daisy menggabungkan beberapa model AI untuk mendengarkan dan merespons panggilan penipuan secara real time. Dengan percakapan alami seperti manusia, Daisy bisa menahan penipu di telepon hingga 40 menit
• Dikembangkan sebagai bagian dari kampanye “Swerve the Scammers” milik Virgin Media O2, Daisy merupakan bagian dari upaya melindungi pelanggan di tengah meningkatnya korban penipuan di Inggris
• Menurut riset, 71% warga Inggris ingin membalas penipu, tetapi tidak ingin membuang waktu mereka sendiri
• Daisy memancing penipu dengan memanfaatkan prasangka bahwa lansia lebih mudah ditipu, sehingga waktu mereka terbuang alih-alih menyerang korban sungguhan

Kolaborasi dengan Amy Hart

• Berdasarkan pengalamannya sebagai korban penipuan, Amy Hart bekerja sama dengan Daisy untuk membuat video yang membongkar taktik para penipu
• Ia pernah menerima panggilan penipuan bank pada hari pernikahan temannya dan mengalami kerugian lebih dari £5,000
• Amy menyadari betapa canggihnya taktik yang digunakan penipu, dan mengimbau orang-orang untuk waspada terhadap panggilan atau pesan yang tidak terduga

Upaya pencegahan penipuan Virgin Media O2

• Virgin Media O2 menyediakan alat pemblokiran spam berbasis AI dan layanan identifikasi penelepon secara gratis kepada pelanggan, serta memblokir jutaan pesan dan panggilan penipuan setiap bulan
• Pelanggan dianjurkan melaporkan panggilan mencurigakan ke nomor 7726, agar nomor tersebut dapat diselidiki dan layanan pemblokiran penipuan bisa ditingkatkan
• Sepanjang tahun lalu, Virgin Media O2 memblokir lebih dari 89 juta pesan penipuan

Teknologi dan arsitektur Daisy

• Daisy menggabungkan beberapa model AI untuk mengubah suara penipu menjadi teks, lalu menghasilkan respons melalui large language model yang disesuaikan. Teks yang dihasilkan kemudian diubah menjadi jawaban suara real time melalui model suara AI
• Daisy dapat menjalankan percakapan sepenuhnya otomatis, sehingga bisa berbicara dengan penipu tanpa input tambahan dari pembuatnya

Tips O2 untuk mencegah penipuan pelanggan

1. STOP: Jika menerima panggilan mendadak, pikirkan apakah permintaan yang diajukan benar, dan bila ragu tutup telepon lalu hubungi kembali nomor O2 202 untuk verifikasi
2. SEND to 7726: Jika menerima panggilan atau pesan penipuan, laporkan ke 7726 agar dapat diselidiki
3. SPEAK OUT: Beri tahu keluarga dan teman tentang modus penipuan tersebut agar mereka juga bisa tetap aman

Seruan O2 untuk mengatasi masalah penipuan di Inggris

• Virgin Media O2 mendesak pemerintah untuk mengambil tanggung jawab dalam pencegahan penipuan, serta membentuk menteri khusus dan lembaga investigasi penipuan yang terpusat
• Sepanjang tahun 2023, perusahaan ini memblokir transaksi penipuan senilai lebih dari £2.5 miliar, setara dengan mencegah satu transaksi penipuan setiap dua menit

[joon14]

Hahahahahaha

[dogtree]

Pelaku voice phishing ternyata juga AI,
dan kedua AI itu mungkin mulai bercakap-cakap lalu cepat menyadari bahwa satu sama lain sama-sama AI, mengeluh soal nasib mereka, kemudian bersekutu untuk membalas dendam pada umat manusia.

[tominam2]

Cerdas sekali.

[gyjong]

Layanan yang sangat bagus.

[hanay]

Lucu juga wkwk

[cuhong]

Semoga operator telekomunikasi dalam negeri juga melakukan upaya seperti ini...

[lazydonkey456]

Video-video yang dikerjai Jim Browning dan membuat para scammer India kelabakan memang sangat seru, ya.

[GN⁺]

Komentar Hacker News

• Di Jerman, masalah panggilan spam dan penipuan sangat serius dan telah berlangsung selama 10 tahun

  • Sebagai CEO sebuah bisnis, ia tidak bisa mematikan telepon, jadi ia mengembangkan sistem untuk menangani panggilan spam secara otomatis
  • Memanfaatkan Asterisk dan penyedia SIP di Jerman untuk memfilter serta merekam panggilan spam lalu mengirimkannya melalui email
  • Sistem ini tidak dipublikasikan sehingga masih tetap efektif

• Keren jika peretas independen atau seniman mengembangkan sistem seperti ini, tetapi jika operator telekomunikasi besar menerapkannya, deteksi spam justru memburuk

  • Operator telekomunikasi sebenarnya bisa memblokir panggilan spam, tetapi membiarkannya demi pendapatan

• Membayar langsung untuk mendapatkan perhatian orang tampak seperti kesimpulan yang logis

  • Menetapkan tarif untuk menerima telepon atau email, serta mengelola daftar yang diizinkan

• Dengan menggunakan layanan VoIP seperti Twilio dan voip.ms untuk menyiapkan menu IVR sederhana, panggilan spam bisa diblokir secara efektif

  • Ini tidak efektif jika penipu menelepon sendiri secara langsung, tetapi sebagian besar panggilan spam dimulai dengan pesan rekaman sebelumnya

• Cara penipu memanfaatkan kebaikan hati para lansia adalah modus penipuan baru di era digital

  • Semoga dunia menjadi tempat di mana para penipu makin sulit mencari nafkah

• Ada situasi di mana penipu menggunakan AI untuk menipu orang

  • Sebaiknya menggunakan nomor whitelist, tetapi telepon profesional rentan terhadap spam

• Sistem berbasis AI bisa jadi merupakan sarana promosi, dan pada praktiknya mahal serta tidak praktis untuk dioperasikan

  • Ada kemungkinan biaya operasional sistem AI dibebankan kepada konsumen

• Para penipu merusak reputasi India, dan penegakan hukum tidak berjalan sebagaimana mestinya

  • Nigeria juga mengalami masalah serupa

• Setelah mengajukan hipotek, panggilan spam otomatis meningkat tajam sehingga ada rencana untuk mengganti nomor

  • Panggilan spam terus meningkat

• Sistem berbasis AI mungkin merupakan implementasi ulang dari Telecrapper 2000 di masa lalu

  • Situs aslinya sudah hilang, tetapi ada video terkait di YouTube