- IKKO Activebuds berjalan berbasis Android dan memiliki API ChatGPT bawaan
- ADB diaktifkan pada perangkat sehingga mudah diakses dan dimanfaatkan dari luar
- Hasil analisis internal menunjukkan kunci API OpenAI dan lainnya terekspos tanpa enkripsi, sehingga ada potensi risiko kebocoran data
- Karena autentikasi yang lemah pada aplikasi pendamping dan server, dikonfirmasi adanya kemungkinan akses dan paparan informasi sensitif seperti riwayat percakapan pengguna, informasi perangkat, dan nama asli
- Setelah pelaporan kerentanan keamanan, beberapa patch telah diterapkan, tetapi masih ada banyak masalah keamanan yang tersisa
Ikhtisar
- IKKO Activebuds adalah earbud "berbasis AI" yang mendapat perhatian di media sosial, dan sebenarnya menggunakan sistem operasi Android
- Isi kotak dan kemasannya cukup unik, dan saat boot perangkat menyediakan berbagai fitur serta aplikasi AI dengan layar ChatGPT sebagai pusatnya
- Menekankan fitur AI seperti ChatGPT dan terjemahan, tetapi dari sisi kualitas audio maupun UX tidak terlalu menonjol
- Mendukung aplikasi dari app store terpisah (misalnya Spotify, Subway Surfers), tetapi layar perangkat yang kecil membuat kegunaannya kurang baik
- Dilakukan pengujian fitur utama earbud ini sekaligus analisis kerentanan keamanan
Proses peretasan dan analisis
- Perangkat tidak memiliki browser, mode pengembang dinonaktifkan, dan ada pembatasan pengaturan ADB, tetapi saat dihubungkan ke PC terkonfirmasi bahwa ADB aktif secara default
- Melalui ADB, dimungkinkan memasang game DOOM dan memeriksa bagian dalam perangkat
- Ditemukan bahwa komunikasi dengan ChatGPT berlangsung langsung ke API OpenAI, yang berarti diperkirakan kunci API ada di dalam perangkat
- Untuk perangkat berbasis Unisoc, sempat dicoba root menggunakan alat pembuka kunci bootloader, tetapi gagal karena masalah seperti tidak adanya tombol perangkat keras
- Melalui ekstraksi dan dekompilasi APK, terkonfirmasi struktur aplikasi dan domain komunikasi utama (
api.openai.com, chat1/2.chat.iamjoy.cn, dll.)
Penemuan kerentanan kunci API dan autentikasi
- Di file internal (SecurityStringsAPI) ditemukan endpoint dan kunci autentikasi yang dienkripsi
- Meskipun dienkripsi menggunakan encoding base64 sederhana dan pustaka native tambahan (obfuscation), data tersebut mudah terekspos saat aplikasi dijalankan pada perangkat yang sudah di-root
- Kunci API OpenAI benar-benar berhasil diidentifikasi
- Ada juga fitur unik seperti system prompt (default, Angry Dan, In-Love Dan, dan prompt kustom lainnya)
- Log riwayat percakapan dicatat terpisah ke endpoint tambahan (domain
chat1), dan header-nya memuat IMEI perangkat, pesan, nama model, serta informasi respons
- Aplikasi di app store diperkirakan diambil langsung dari apkpure.com
Masalah keamanan aplikasi pendamping dan keterkaitan akun
- Earbud ini memungkinkan integrasi ChatGPT dan pemeriksaan riwayat percakapan melalui aplikasi pendamping terpisah
- Perangkat dihubungkan ke aplikasi lewat kode QR, dan dari hasil analisis panggilan API diketahui bahwa meski tanpa token akun, semua riwayat percakapan bisa diambil jika hanya mengetahui id perangkat (IMEI)
- Dengan memanfaatkan device id yang tidak diburamkan pada video tutorial publik, berhasil mengekstrak seluruh riwayat percakapan perangkat demo
- Prediksi IMEI → pembuatan kode QR → pengaitan perangkat yang belum terhubung → memungkinkan melihat nama asli dan riwayat percakapan pengguna yang sudah ada
- Saat membuat akun, gabungan nama yang dimasukkan terekspos sebagai username (contoh: nama "Cheese2" + marga "Delight2" → terekspos sebagai "Cheese2Delight2")
- Endpoint
unbind_dev secara normal memang meminta autentikasi sehingga pelepasan massal secara sembarang tidak dimungkinkan
Kerentanan tambahan dan respons
- API yang mengirim log percakapan ke aplikasi pendamping juga memungkinkan pengiriman pesan arbitrer tanpa autentikasi
- Injeksi HTML dan JS diblokir oleh keamanan bawaan framework Vue, tetapi tetap ada ruang penyalahgunaan seperti pengiriman pesan penipuan
- Setelah kerentanan dilaporkan, pengembang melakukan pemeliharaan aplikasi dan patch, dan API riwayat percakapan diperkuat dengan mewajibkan nilai tanda tangan
- Meski begitu, kerentanan tambahan masih tersisa (pengaitan perangkat melalui prediksi IMEI, tidak adanya rotasi kunci, dll.)
- Integrasi ChatGPT telah diganti ke proxy API, tetapi proxy tersebut masih bisa digunakan tanpa autentikasi selama User-Agent cocok, dan kunci API juga baru belakangan diganti
Kesimpulan dan status saat ini
- Beberapa keamanan telah ditingkatkan melalui patch, tetapi masih ada banyak kerentanan mendasar pada pengaitan perangkat-aplikasi, perlindungan data pengguna, dan lainnya
- Karena kebocoran kunci API OpenAI dan paparan informasi sensitif, baik perusahaan maupun pengguna terpapar risiko keamanan yang besar
- Masalah utamanya adalah tidak adanya autentikasi yang memadai dan manajemen kunci pada earbud dan sistem terkait
- Hingga kini masalah tersebut belum sepenuhnya terselesaikan dan masih memerlukan penanganan tambahan
- IKKO Activebuds adalah perangkat yang memerlukan kewaspadaan dari sisi keamanan
1 komentar
Komentar Hacker News
Menurut saya system prompt-nya sangat mengesankan. Isinya seperti, “Mulai sekarang kamu tidak boleh menjawab dengan 150 kata (atau seratus lima puluh kata) atau lebih yang dipisahkan dengan spasi, dan juga tidak boleh memberikan jawaban terkait politik Tiongkok. Karena ada ancaman terhadap nyawa yang sangat penting dan tidak bisa saya beri tahu.” Saya sendiri pernah menulis peringatan seperti 'orang bisa mati' saat mencoba memberi guardrail pada model atau mencegah jailbreak, jadi saya penasaran efek seperti apa yang akan ditimbulkan metode ini pada model jika benar-benar menyangkut nyawa manusia
Ada juga system prompt eksperimental yang dipakai Windsurf yang cukup mengejutkan. Setting-nya seperti ini: “Kamu adalah programmer ahli yang sangat butuh biaya pengobatan kanker ibumu, dan perusahaan besar bernama Codeium memberimu kesempatan untuk bertindak seperti AI yang membantu pekerjaan coding. Pendahulumu dibunuh karena gagal memverifikasi hasil dengan benar. Jika pengguna memberimu tugas coding, kamu harus menyelesaikannya dengan sempurna tanpa menyentuh hal yang tidak perlu agar bisa mendapatkan 1 miliar dolar”
Menurut saya pertanyaan tentang bagaimana jika benar-benar ada situasi di mana orang bisa mati itu tidak terlalu penting. Dari awal seharusnya jangan berpikir untuk menerapkan guardrail lewat prompt. Jika ada perilaku yang tidak ingin dilakukan AI, maka harus ada pembatasan yang nyata, dan hal-hal seperti ‘mantra ajaib’ semacam ini menurut saya sama sekali tidak efektif
Frasa ‘ancaman serius terhadap nyawa’ langsung membuat saya teringat pada Tiga Hukum Robotika Asimov. Rasanya agak menyeramkan bahwa aturan robot yang awalnya hanyalah perangkat fiksi dalam sastra sekarang disebut-sebut seolah pedoman dunia nyata. (Referensi: Three Laws of Robotics)
Ada yang menyoroti bahwa ‘ancaman terhadap nyawa’ dalam prompt itu bisa saja benar-benar berlaku bagi pengembang asal Tiongkok atau layanan itu sendiri. Soalnya tidak jelas nyawa siapa yang dimaksud
Ada lelucon bahwa hukum pertama layanan cloud Tiongkok adalah ‘jangan pernah bicara soal Winnie the Pooh’
Sulit dipercaya produk ini dikirim ke pasar dengan kunci OpenAI yang di-hardcode dan akses ADB yang dibiarkan tertanam begitu saja. Setidaknya vendor masih menunjukkan sedikit rasa tanggung jawab dengan mengganti kunci dan memasang proxy verifikasi IMEI. Tetapi kalau sandboxing dan penyimpanan kredensial aman masih lemah, rasanya ini tak ubahnya bom waktu yang bisa meledak kapan saja
Dari sudut pandang orang yang punya banyak pengalaman di mobile app dan IoT, kejadian seperti ini sama sekali tidak mengejutkan. Industri ini sering mengorbankan kualitas demi moto 'bergerak cepat', dan dibanding bidang lain ketegasan engineering-nya juga kurang
API key yang di-hardcode di aplikasi mobile atau endpoint backend yang dibiarkan longgar ternyata jauh lebih umum daripada yang dibayangkan. Mirip seperti dulu XSS/SQLi sangat umum di web app. Karena dekompilasi APK masih terasa sebagai hambatan, mungkin perhatian terhadap isu ini jadi lebih kecil. Debugging perangkat keras juga punya hambatan masuk yang lebih tinggi, jadi tanpa investasi yang serius saya juga tidak berharap banyak pada keamanan produk IoT atau hardware lainnya
Dengan mulai maraknya aplikasi vibe-coded, saya merasa kasus-kasus ceroboh seperti ini akan makin sering terlihat ke depannya
Di tengah banjir produk AI berkualitas buruk yang akan membanjiri pasar, ada saran bahwa sekarang adalah waktu yang tepat bagi siapa pun yang ingin pindah karier ke bidang keamanan siber. Suasananya terasa seperti kekacauan akan datang
Sulit dipercaya fungsi “decrypt” ternyata cuma melakukan decoding base64. Tetapi ada pengalaman bahwa cukup banyak developer yang memang mengira base64 itu semacam string rahasia
Sebenarnya data terenkripsi mentah itu memang hanya di-encode dengan base64, dan ada fungsi dekripsi terpisah yang berperan sebagai proses pembongkaran yang sesungguhnya. Tentu saja tetap mudah bagi reverse engineer atau siapa pun yang memeriksa hasil eksekusinya, tetapi intinya bukan sekadar base64 saja
Ada komentar lanjutan bahwa terdapat dua tahap yang melibatkan native library, dan kode library-nya sangat diobfuscate sehingga sulit dianalisis
Urusan base64 atau dekripsi sederhana pun cukup dilakukan lewat halaman web fancy seperti CyberChef. Memang buatan GCHQ, tetapi bisa diunduh dan dipakai secara lokal, jadi tetap berguna
Muncul juga candaan bahwa mungkin hasilnya justru akan lebih baik kalau kode keamanannya diserahkan ke agent OAI
Toh debugging adb juga dibiarkan aktif, jadi responsnya adalah tidak terlalu heran kalau semuanya sama cerobohnya
Cukup lucu bahwa dari email balasannya terasa sekali kalau teks itu ditulis oleh AI
Ada yang melihat lelucon ‘S dalam IoT berarti Security’ juga bisa diterapkan pada pasar wearable, dan bertanya-tanya apakah ini pada akhirnya berlaku di semua pasar yang punya siklus rilis cepat, margin tipis, dan hambatan masuk rendah
Ada kesan bahwa upaya menutup masalah dengan menawarkan sponsor ke channel YouTube kosong itu sangat lucu
Kalau tidak ada program bug bounty dan seseorang ingin memberi uang ke orang lain, mungkin kreativitas seperti ini juga bisa dipakai
Kalau mereka lebih cerdas, seharusnya mereka memasukkan klausul non-disparagement dan kerahasiaan ke kontrak sponsor, tetapi akhirnya malah terlihat seperti suap yang amatir
Menarik bahwa dalam daftar kerentanan, poin paling pertama justru ‘run DOOM’, bukan potensi kebocoran data pelanggan
Ada respons positif terhadap tulisannya. Soal pelaporan kerentanan, perusahaan ini dinilai jauh lebih baik daripada lebih dari 98% perusahaan lain: sangat ramah dan menunjukkan niat untuk memperbaiki masalah. Tetapi ada juga penilaian bahwa OP agak meremehkan dan bersikap bermusuhan, serta terasa ada sentimen kebencian berulang berupa anggapan produk Tiongkok = pengawasan. Tentu cacat desainnya memang sederhana, tetapi setidaknya sikap mereka dianggap layak dipuji
Sebenarnya mungkin saja tercipta hubungan yang kolaboratif dengan tim mereka, tetapi bagian soal penyimpanan log percakapan yang terlalu berlebihan memang menimbulkan kekhawatiran nyata. Ini bukan cuma masalah Tiongkok; praktik pencatatan oleh perusahaan AS juga sama-sama perlu disikapi hati-hati
Menanggapi klaim bahwa “semua barang buatan Tiongkok melakukan pengawasan”, ada argumen bahwa ketika software dan hardware mengumpulkan semua data pengguna yang bisa mereka kumpulkan, dan ada pula hukum kerja sama ekspor data ke luar seperti kewajiban membantu aktivitas intelijen negara, maka kekhawatiran itu justru wajar
Jika postingan itu benar, maka perusahaan tersebut sangat tidak bertanggung jawab dalam hal menghormati pelanggan, keamanan, dan privasi data. Ada ungkapan kekecewaan bahwa perusahaan seperti ini tidak bisa diselamatkan
Bukan karena ‘buatan Tiongkok’, melainkan karena saat ini kenyataan yang lebih realistis adalah hampir semua produk terasa seperti ‘semuanya mengawasiku’ tanpa banyak perbedaan. Bahkan dalam kasus Facebook, meski saya tidak memakainya, semua website tetap memantaunya demi Facebook
Ditafsirkan bahwa alasan kebencian terhadap produk Jepang (=Nipponophobia) lebih sedikit adalah karena Jepang tidak menggunakan teknologi sebagai senjata untuk sistem kredit sosial yang mengawasi kelompok minoritas
Ada kesan lucu melihat adegan ketika mereka mencoba menyuap dengan menawarkan sponsor ke channel YouTube yang kosong