Seorang staf keuangan mentransfer $25 juta kepada penipu setelah panggilan video dengan CFO DeepFake

• Menurut polisi Hong Kong, seorang staf keuangan di sebuah perusahaan multinasional ditipu untuk mentransfer $25 juta kepada penipu yang menyamar sebagai chief financial officer (CFO) perusahaan dengan menggunakan teknologi deepfake
• Para penipu menipu staf keuangan tersebut melalui rapat video dengan karyawan palsu yang direkonstruksi menggunakan deepfake
• Staf keuangan itu menerima pesan dari CFO yang berbasis di Inggris yang meminta transaksi rahasia dan awalnya mencurigai phishing, tetapi kemudian mengesampingkan kecurigaannya setelah tertipu oleh wajah dan suara orang-orang yang ia kenali sebagai rekan kerja dalam rapat video tersebut

Kasus penipuan deepfake yang terjadi di Hong Kong

• Polisi Hong Kong mengumumkan bahwa baru-baru ini terjadi beberapa kasus penggunaan teknologi deepfake untuk menipu orang dan mencuri uang
• Polisi menangkap enam orang terkait kasus ini
• Polisi menyatakan bahwa antara Juli hingga September tahun lalu, 90 pengajuan pinjaman dan 54 pembukaan rekening bank dilakukan menggunakan delapan kartu identitas Hong Kong yang dilaporkan hilang
• Setidaknya dalam 20 kasus, AI deepfake meniru orang-orang pada kartu identitas untuk mengelabui program pengenalan wajah
• Penipuan yang melibatkan CFO palsu itu baru terungkap setelah staf keuangan tersebut melakukan konfirmasi dengan kantor pusat

Kekhawatiran yang meningkat secara global terhadap teknologi kecerdasan buatan

• Di seluruh dunia, kekhawatiran meningkat terhadap perkembangan teknologi deepfake dan potensi penyalahgunaannya
• Pada akhir Januari, gambar porno buatan AI dari bintang pop Amerika Taylor Swift menyebar di media sosial, menyoroti potensi berbahaya dari teknologi kecerdasan buatan
• Foto-foto penyanyi tersebut dalam pose yang bersifat sugestif secara seksual dan eksplisit ditonton puluhan juta kali sebelum dihapus dari platform sosial

Opini GN⁺

• Perkembangan teknologi deepfake menunjukkan bahwa teknologi ini dapat menjadi ancaman serius di ranah sosial dan ekonomi. Penting untuk memahami bagaimana teknologi ini dapat disalahgunakan untuk penipuan dan kejahatan
• Artikel ini meningkatkan kesadaran tentang bahaya teknologi deepfake dan menekankan mengapa individu maupun perusahaan harus memberi perhatian lebih pada keamanan
• Artikel ini akan membantu membangkitkan kewaspadaan terhadap sisi negatif dari kemajuan teknologi serta pentingnya menyiapkan langkah-langkah penanganan

[GN⁺]

Komentar Hacker News

• Banyak hotel kelas menengah hingga atas di Amerika dimiliki oleh orang bermarga Patel yang berasal dari India.

  • Penipuan berupa telepon dari seseorang bermarga Patel yang meminta transfer uang dengan alasan keadaan darurat adalah hal yang umum.
  • Karyawan hotel terkadang mempercayainya lalu membobol brankas atau mentransfer uang dari rekening pribadi mereka.
  • Penipuan semacam ini menggunakan teknik rekayasa sosial tanpa AI atau teknologi deepfake.

• Faktor budaya yang disebut "power distance" dapat memengaruhi penipuan semacam ini.

  • Dalam beberapa budaya, prosedur diabaikan dan perintah atasan ditaati tanpa syarat.
  • Situasi serupa juga pernah diberitakan di beberapa perusahaan teknologi perangkat keras di Amerika.

• Di Prancis, ada karyawan yang tertipu oleh panggilan telepon yang menyamar sebagai CEO, CFO, atau pengacara lalu mentransfer uang.

  • Geng Franco-Israel yang ditangkap pada 2022/2023 menipu setidaknya 38 juta euro.
  • Mereka menyamar sebagai CEO tanpa AI deepfake.

• Ada klaim bahwa dalam konferensi video multi-peserta, semua peserta ternyata palsu.

  • Ini mungkin benar, tetapi bisa juga karyawan mengklaim deepfake sebagai alasan.
  • Muncul pertanyaan kapan penipu akan mulai melakukan panggilan video massal kepada orang tua atau kakek-nenek sambil berpura-pura menjadi anak mereka untuk meminta uang, dan bagaimana cara menghentikannya.

• Seorang pekerja keuangan yang berbasis di Boston mentransfer 6 juta dolar kepada penipu pada 2023.

  • Ada unsur rekayasa sosial, tetapi tidak ada penyebutan deepfake.
  • Dalam insiden peretasan kasino MGM pada 2023, deepfake digunakan untuk menipu petugas dukungan teknis agar melanggar MFA.

• Ada spekulasi tentang kemungkinan CFO bekerja sama dengan pakar deepfake lalu membagi keuntungan.

  • Ini bukan hal yang benar-benar terjadi, melainkan berfokus pada skenario masa depan.

• Klaim bahwa semua peserta dalam konferensi video multi-peserta itu palsu kembali disebutkan.

  • Ini mengisyaratkan perlunya persiapan yang cukup besar, seperti mengumpulkan citra dan sampel suara tiap peserta.
  • Jika tingkat kecanggihan seperti ini sudah mulai muncul, kemungkinan akan ada cara baru untuk memverifikasi peserta dalam rapat sensitif.

• Sulit memahami bagaimana hal seperti ini bisa terjadi di perusahaan besar.

  • Harus ada prosedur terdokumentasi yang jelas agar transaksi bisa terjadi.
  • Agar transaksi disetujui, harus ada beberapa tahap persetujuan, dan orang yang memasukkan pembayaran harus berbeda dari yang menyetujuinya.
  • Saat transaksi dimasukkan, itu harus melewati persetujuan pertama, dan tergantung batas pembayaran, persetujuan tambahan mungkin diperlukan.

• Muncul rasa ingin tahu tentang perangkat lunak yang bisa menipu orang dengan menggunakan deepfake.

  • Belum pernah melihat perangkat lunak seperti itu, dan ada keraguan apakah benar ada produk yang benar-benar bisa menipu orang.

• Penipuan seperti ini tampaknya terjadi karena proses perusahaan yang buruk.

  • Untuk jumlah uang yang besar, panggilan video saja tidak cukup.
  • Diperlukan konfirmasi email, percakapan melalui chat perusahaan, dan panggilan ponsel dengan eksekutif senior.