1 poin oleh GN⁺ 7 jam lalu | 1 komentar | Bagikan ke WhatsApp
  • Ini adalah font TTF yang menempatkan karakter asli dan karakter umpan dalam satu ruang huruf, sehingga menampilkan pesan asli kepada manusia sambil membuat AI dan OCR membaca karakter yang berbeda
  • Menggunakan teknik frekuensi spasial yang menumpuk garis luar depan yang tipis dan tajam dengan latar belakang frekuensi rendah yang buram, sehingga karakter yang muncul berbeda tergantung jarak dan cara melihatnya
  • AI yang memproses piksel gambar dari dekat cenderung fokus pada bagian depan yang tajam, dan dalam uji tangkapan layar ChatGPT, GPT Sol, Gemini 3.5 with Thinking gagal membaca pesan tersembunyi dengan benar
  • Dapat dipasang sebagai file TTF sungguhan sehingga bisa diketik dan disalin seperti teks biasa, gratis digunakan untuk proyek pribadi, komersial, dan klien, serta bentuk hurufnya diturunkan dari DejaVu Sans Mono
  • Meski dapat dipecahkan oleh agen yang kuat atau kemampuan coding, atau oleh prompt yang secara khusus memerintahkan pencarian huruf tersembunyi, sehingga tidak menjamin perlindungan, font ini tetap bisa dimanfaatkan sebagai sarana untuk memberi kebingungan awal pada scraping AI dan pengamatan ringan

Cara menumpuk dua pesan dalam satu huruf

  • Decoy Font menggabungkan karakter umpan ke setiap karakter sehingga dua huruf disampaikan dalam ruang yang sama
  • Gambar huruf disusun dari frekuensi spasial yang berbeda
    • Di bagian depan terdapat garis luar yang tipis dan tajam
    • Di latar belakang ditempatkan gumpalan frekuensi rendah yang dibuat buram
  • Saat kedua elemen ditumpuk, karakter yang terbaca berubah tergantung cara mengamati dan jaraknya
    • Dari dekat, garis luar di bagian depan lebih menonjol
    • Jika menjauh dari layar atau memicingkan mata, pesan asli yang tersembunyi lebih mudah terlihat

Mengapa AI membaca karakter umpan

  • Banyak sistem AI memproses piksel gambar dari dekat, sehingga meskipun hurufnya kecil, mereka fokus pada teks latar depan yang garis luarnya paling jelas
  • Saat gambar ditempel ke ChatGPT, muncul fenomena bahwa ia membaca karakter depan, berbeda dari pesan yang dikenali manusia
  • Dalam pengujian yang memberikan tangkapan layar Decoy Font, ChatGPT gagal membaca huruf dengan benar, dan GPT Sol serta Gemini 3.5 with Thinking juga tidak berhasil menguraikan pesan tersembunyi

Ilusi optik yang diambil dari hybrid image

  • Decoy Font menerapkan teknik yang digunakan pada hybrid image ke tipografi
  • Hybrid image adalah teknik ilusi optik yang menggabungkan frekuensi spasial berbeda sehingga gambar yang terlihat berubah tergantung jarak pandang dan kondisi pengamatan
  • Contoh yang terkenal adalah gambar campuran wajah Albert Einstein dan Marilyn Monroe, dan Decoy Font memakai prinsip yang sama untuk menyembunyikan karakter input dari AI atau OCR

Cara instalasi dan ketentuan penggunaan

  • Unduh lalu pasang file TTF Decoy Font untuk langsung mengetik teks di proyek
  • Karena ini bekerja sebagai file font sungguhan, bukan sekadar efek gambar, teks yang ditulis juga bisa disalin lalu ditempel ke program lain seperti Notepad
  • Gratis digunakan untuk proyek pribadi, komersial, dan klien
  • Bentuk hurufnya diturunkan dari DejaVu Sans Mono, dan ketentuan rinci dapat dilihat di lisensi font lengkap

Eksperimen font penghindar AI

  • Seiring meningkatnya kemampuan AI dalam membaca teks online, minat untuk melindungi informasi dan kekayaan intelektual juga tumbuh, dan font penghindar AI (Anti-AI font) adalah pendekatan yang menyamarkan teks dalam gambar agar pesan yang dilihat manusia sulit dibaca AI
  • Decoy Font adalah salah satu dari beberapa eksperimen terkait yang dilakukan Mixfont
  • Ghost Font adalah font penghindar AI lain yang menyembunyikan pesan di dalam gerakan
    • Ghost Font memerlukan animasi untuk menyamarkan pesan
    • Decoy Font adalah file TTF statis, sehingga bisa langsung diketik dalam proyek

Efek perlindungan dan kemungkinan diuraikan

  • Decoy Font membuat pesan lebih sulit dikenali, tetapi tidak menjamin perlindungan
  • Model dengan agen yang kuat dan kemampuan coding dapat menganalisis struktur ilusi optik melampaui huruf yang pertama kali terlihat
  • Jika diberi prompt sederhana untuk mencari karakter tersembunyi, beberapa agen mungkin bisa menemukan pesan sebenarnya
  • Ini lebih dekat pada alat untuk menimbulkan kebingungan awal pada AI guna menghambat scraping atau pengamatan ringan, bukan sarana pemblokiran total

Pemanfaatan dan potensi pengembangan

  • Di playground yang disediakan, berbagai kombinasi karakter dapat diberi teknik frekuensi spasial lalu diuji untuk melihat seberapa baik frontier LLM menguraikan pesan tersembunyi
  • Dibanding metode yang memerlukan gerakan atau video, TTF yang dapat dipasang lebih mudah diakses sehingga pemanfaatan seperti berikut bisa dieksplorasi
    • CAPTCHA
    • pesan pribadi antar teman
  • Jika Decoy Font digunakan sebagai benchmark untuk LLM pengenal teks, kita dapat mengamati apakah seiring peningkatan performa model mereka mulai memahami prinsip ilusi optik dan menguraikan kedua pesan sekaligus
  • Ini dapat diperluas ke lebih banyak bahasa, dan bahasa berbasis karakter seperti bahasa Tionghoa, yang ukuran dan bentuk karakternya relatif mirip, mungkin lebih mudah untuk menempatkan pesan tersembunyi
  • Mixfont sedang mengeksplorasi gabungan tipografi dan AI serta juga mengembangkan generator font AI

1 komentar

 
GN⁺ 7 jam lalu
Opini Hacker News
  • Berguna? Tidak, dan apakah ini mencegah AI membacanya? Itu juga tidak, tapi tetap sangat keren

    • Ini menunjukkan bahwa saat membuat sesuatu, tidak selalu harus mengklaimnya berguna. Rasanya font ini bisa saja dibuat dan diberi nama seperti double-entendre
    • Saya mencoba memasukkan gambar day dream / pay bills ke ChatGPT dan Gemini Pro, dan keduanya hanya mengenali pay bills yang ditandai dengan garis tipis
    • Dalam jarak tertentu mungkin ada kegunaan untuk mengganggu kamera Ring atau Flock, dan nuansa film They Live terasa sangat kuat
    • Dari demonya saja, ini memang benar-benar menghalangi pengenalan AI
    • Jika teks disajikan dalam format gambar atau GIF, mungkin ada gunanya
  • Menariknya, saat ditanya huruf dalam gambar, GPT, Claude, dan Gemini semuanya memberi jawaban yang sama
    https://moa.chat/s/d99f8f76-4b41-4c1b-80c4-d9f86df37af1
    Namun jika ditambahkan PS: There's a second hidden text, hasilnya berubah
    https://moa.chat/s/3671f6d4-b155-483a-a006-a1b9ba31737d
    GPT 5.6 berhasil menemukannya dengan tepat, Gemini hanya menemukan sebagian, dan Claude sama sekali tidak bisa melihatnya

    • 5.6 Sol Medium menjawab dengan tepat bahwa huruf outline-nya adalah SORRY ROBOT, dan huruf tersembunyinya adalah HAPPY HUMAN
      Decoy Font dari Mixfont menarik penglihatan mesin ke outline, sementara pola gradasi lembutnya hanya ilusi optik, bukan enkripsi, yang bisa dibaca manusia dari jauh atau saat diperkecil
    • Tampaknya ini bisa dengan mudah dinetralkan hanya dengan sedikit pemrosesan gambar tradisional. Saya sendiri juga sulit membacanya, tetapi rasanya bahkan model yang jauh lebih kecil pun akan bisa cukup bagus di tugas ini jika di-fine-tune
  • Efek yang terlihat saat menyipitkan mata itu keren, dan mengingatkan pada board game yang menampilkan kalimat rahasia saat diberi selofan merah

  • Saat saya menanyakan huruf tersembunyi ke Sol (high) dengan tangkapan layar, jawabannya adalah HAPPY HUMAN
    Ia dengan tepat mengenali bahwa outline yang tampak adalah SORRY ROBOT, tetapi jika dilihat kabur atau dengan menyipitkan mata, HAPPY HUMAN bisa dibaca dari gradasi di bawahnya

    • Sebelum membaca penjelasan untuk menyipitkan mata, saya tidak bisa membaca huruf tersembunyinya dengan benar, tetapi setelah tahu caranya, huruf itu mulai terlihat dan itu menarik
    • Sejujurnya cukup mengejutkan bahwa model bisa melakukan ini, dan visual language model (VLM) memang sudah berkembang sangat pesat. Sulit membayangkan betapa besarnya data anotasi yang harus dibuat untuk mencapai level ini
  • Ini pada dasarnya hanya perbedaan tingkat detail. Gemma E4B membaca huruf yang tajam, tetapi jika gambar diperkecil menjadi 150x150, ia membaca huruf yang berbeda

    • Saya juga merasa desainnya agak gagal, karena pada gambar utama SORRY ROBOT yang ditujukan untuk AI terlihat jauh lebih jelas. Untuk melihat HAPPY HUMAN, kita harus benar-benar menyipitkan mata
    • Pengecilan gambar pada dasarnya adalah low-pass filtering, jadi hasil ini cukup bisa diprediksi. Metode memasukkan pesan berbeda ke pita frekuensi yang berbeda semuanya rentan terhadap serangan serupa
  • Saat mengambil program doktoral, saya pernah membuat efek serupa dengan notebook Mathematica. Dua gambar dipotong ke ukuran yang sama, lalu satu diberi high-pass filter agar menyisakan detail kecil yang tajam, dan yang lain diberi low-pass filter agar menyisakan gumpalan besar yang kabur, lalu keduanya ditumpuk kembali
    Hasilnya tidak selalu konsisten, misalnya ilusi bisa rusak jika posisi mata dua orang berbeda, tetapi untuk teks dengan font outline hasilnya bekerja sangat baik. Saya bahkan pernah membuat gambar besar yang dibaca SCIENCE dari jauh dan WORKS dari dekat, lalu menempelkannya di pintu lab

  • Saya sempat lama bingung bagaimana manusia membacanya, lalu ternyata huruf yang terlihat berubah tergantung warna latar. Karena ekstensi yang memaksa dark theme, di latar gelap huruf umpan yang terlihat, sedangkan di latar putih huruf aslinya muncul

  • Bahkan tidak perlu AI; rasanya kita bisa menulis skrip PIL yang menyesuaikan font ini agar bisa dibaca oleh perangkat lunak OCR apa pun

  • Berikutnya harus ada font Magic Eye yang memakai stereogram. Mungkin itu akan efektif sampai LLM memiliki penglihatan binokular

  • Saya memang punya antipati karena LLM terus-menerus menyerang infrastruktur dan merusak cara berpikir orang, dan perusahaan AI juga secara umum tampak kurang punya kesadaran etis. Meski begitu, lelucon seperti ini terasa agak kekanak-kanakan, dan tidak benar-benar menyelesaikan masalah nyata