- ‘Phone farm’ berisi 1.100 smartphone diretas, sehingga aktivitas akun iklan buatan AI yang beroperasi di TikTok terungkap
- Sistem ini dijalankan oleh startup Doublespeed, yang didanai a16z, dan mengelola ratusan akun media sosial berbasis AI untuk promosi produk
- Peretas memperoleh hak akses dan dapat melihat penugasan akun, informasi proxy, serta riwayat tugas
- Gambar dan video tokoh yang dibuat dengan AI digunakan untuk mempromosikan berbagai produk seperti suplemen, aplikasi, dan alat pijat, dan ditemukan banyak indikasi promosi produk tanpa penandaan iklan
- Peretas menyatakan telah melaporkan celah tersebut ke perusahaan pada 31 Oktober, namun masih bisa mengakses backend dan phone farm
Ringkasan insiden peretasan Doublespeed
- Seorang peretas menguasai phone farm yang terdiri dari 1.100 ponsel dan membongkar aktivitas akun iklan buatan AI yang beroperasi di TikTok
- Phone farm ini dikelola oleh Doublespeed, yang melakukan promosi produk melalui lebih dari ratusan akun media sosial yang dibuat dengan AI
- Peretasan ini mengungkap adanya banyak konten promosi yang tidak menyatakan dirinya sebagai iklan
- Akun-akun tersebut mempromosikan produk dalam bentuk influencer AI
- Peretas mengakses backend perusahaan dan dapat melihat PC manager mana yang mengendalikan ponsel serta akun TikTok tertentu
- Server proxy, kata sandi, hingga antrean tugas per akun semuanya terekspos
- Peretas menyatakan bisa mengendalikan sekitar 1.100 smartphone secara bebas, dan akses itu dapat disalahgunakan untuk sumber daya komputasi atau spam
Cara promosi influencer AI di TikTok
- Dari lebih dari 400 akun TikTok yang dijalankan Doublespeed, sekitar 200 benar-benar digunakan untuk promosi produk
- Banyak postingan diunggah tanpa penandaan sebagai iklan
- Sebagian akun tampaknya melalui proses ‘warming up’ dengan membangun aktivitas lebih dulu agar terlihat seperti pengguna nyata
- Pola penggunaan smartphone nyata ditiru untuk menghindari deteksi perilaku tidak autentik oleh TikTok
Contoh kasus promosi yang spesifik
- Karakter perempuan paruh baya buatan AI membicarakan nyeri tubuh sambil berulang kali menampilkan alat pijat Vibit
- Tokoh AI yang digambarkan sebagai mahasiswa UCLA mengkritik industri farmasi sambil mempromosikan suplemen moringa Rosabella
- Tulisan pada label botol produk terbentuk tanpa makna, sehingga terlihat jelas sebagai gambar AI
- Sebagian akun bahkan memakai video buatan AI untuk mempromosikan agensi konten TikTok seperti Playkit
Akses peretas dan respons perusahaan
- Peretas meminta tetap anonim karena khawatir akan pembalasan, dan mengatakan telah melaporkan celah tersebut ke Doublespeed pada 31 Oktober
- Hingga saat artikel ditulis, peretas menyebut masih dapat mengakses backend perusahaan dan sistem phone farm
- Doublespeed tidak menanggapi permintaan komentar dari media
Reaksi platform dan investor
- Doublespeed adalah startup yang didanai Andreessen Horowitz (a16z)
- TikTok menyatakan kewajiban pelabelan untuk konten buatan AI, dan setelah laporan diterima, menambahkan label pada akun-akun tersebut
- a16z dan Doublespeed tidak mengeluarkan pernyataan resmi terkait insiden ini
- Juru bicara Reddit menyatakan layanan Doublespeed melanggar ketentuan penggunaan
- Meta tidak memberikan jawaban resmi, tetapi model bisnis tersebut dinilai melanggar kebijakan representasi identitas autentik
Belum ada komentar.