- Pelacakan lokasi berbasis gambar menggunakan ChatGPT sedang menyebar sebagai tren viral
- Model terbaru OpenAI o3 dan o4-mini menggabungkan analisis gambar dan pencarian web untuk melakukan inferensi lokasi dengan akurasi tinggi
- Pengguna memasukkan menu restoran, pemandangan jalan, foto orang, dan lainnya ke o3 untuk menebak lokasi seperti permainan "GeoGuessr"
- Kekhawatiran soal pelanggaran privasi makin besar, dan meski OpenAI memiliki pengaman, langkah pencegahan yang jelas dinilai masih kurang
- OpenAI menyatakan memiliki sistem deteksi dan respons terhadap penyalahgunaan, tetapi pembatasan nyata masih dianggap belum memadai
Tren pelacakan balik berbasis gambar dengan ChatGPT
- Belakangan ini, tren melacak lokasi dalam gambar melalui ChatGPT semakin menyebar di kalangan pengguna
- Model baru o3 dan o4-mini yang dirilis OpenAI dibekali kemampuan untuk menalar informasi visual di dalam gambar
- Bahkan foto yang buram atau terdistorsi tetap bisa dianalisis setelah pra-pemrosesan seperti crop, rotasi, dan pembesaran
- Saat digabungkan dengan fitur pencarian web, kemampuan ini menunjukkan performa unggul dalam menyimpulkan lokasi kota, landmark, restoran, bar, dan lainnya
ChatGPT digunakan seperti GeoGuessr
- Pengguna meminta o3 untuk "bertindak seperti GeoGuessr" lalu mencoba memperkirakan lokasi dari tangkapan layar Instagram Story, foto jalanan, papan menu, dan lainnya
- GeoGuessr adalah game online untuk mengunggah foto dan mencari lokasinya
- ChatGPT dapat menyimpulkan lokasi hanya dari petunjuk visual, bahkan tanpa riwayat percakapan sebelumnya atau metadata EXIF
- Secara khusus, o3 menunjukkan performa yang lebih baik daripada GPT-4o dalam situasi tertentu
Contoh: melihat foto dekorasi badak ungu yang tergantung di bar gelap
- GPT-4o salah menjawab "pub di Inggris"
- o3 dengan tepat menyimpulkan "bar speakeasy di Williamsburg"
GPT-4o juga menunjukkan akurasi yang mengesankan
- Dalam pengujian yang dilakukan TechCrunch, GPT-4o juga menunjukkan akurasi yang cukup tinggi, dan kecepatan pemrosesannya lebih cepat
- Namun, pada gambar tertentu, ada kasus di mana hanya o3 yang berhasil mengenali lokasi dengan tepat
- Meski begitu, o3 juga tidak sempurna, dan kadang gagal memberi jawaban atau justru menyebut tempat yang sama sekali keliru
Kekhawatiran potensi pelanggaran privasi
- Fakta bahwa siapa pun bisa melacak lokasi orang lain menggunakan foto mereka tanpa banyak batasan adalah masalah besar
- Misalnya, tangkapan layar Instagram Story dapat meningkatkan risiko doxxing
- Saat ini, untuk model o3 dan o4-mini, OpenAI tidak menyinggung masalah ini dalam laporan keamanan resminya
Sikap resmi OpenAI
- Beberapa jam setelah artikel terbit, OpenAI menyampaikan pernyataan berikut kepada TechCrunch:
“o3 dan o4-mini menambahkan kemampuan penalaran visual ke ChatGPT,
dan bisa digunakan secara bermanfaat untuk aksesibilitas, riset, serta situasi tanggap darurat.
Kami telah melatihnya untuk menolak permintaan atas informasi sensitif,
menerapkan mekanisme pencegahan identifikasi pribadi dan pemantauan penyalahgunaan,
serta secara aktif merespons pelanggaran kebijakan.” - Namun, masih ada kekurangan dalam mekanisme pemblokiran yang spesifik maupun kontrol teknis terhadap fungsi pelacakan balik lokasi
6 komentar
Sebenarnya ini hanya soal komputer mengambil alih bagian yang merepotkan; bukankah metodenya sendiri memang sudah ada sejak awal?
Namanya AI memang pada dasarnya mengerjakan hal-hal yang bisa dilakukan manusia. (seperti robot vacuum)
Waktu dan biaya yang dibutuhkan menjadi puluhan kali lebih murah. Jelas, ini berarti ancamannya meningkat.
Seperti disebutkan di artikel, karena ini memang sudah dinikmati dalam bentuk semacam "permainan", sebelumnya pun bukan sesuatu yang berada di tingkat yang sulit diakses oleh orang biasa.
Ancamannya muncul ketika seseorang mengunggah foto yang membuat lokasi mudah diidentifikasi dalam situasi di mana lokasinya seharusnya tidak boleh diketahui.
Bahkan sebelumnya, seperti juga disebutkan dalam komentar Hacker News, mengunggah sesuatu ke internet publik pada dasarnya adalah tindakan yang sudah seharusnya mengasumsikan adanya keterbukaan informasi.
Secara umum saya setuju. Namun, fakta bahwa kini ‘siapa pun’ bisa melakukannya ‘dalam sekejap’ memang membuat saya terpikir akan efek samping yang cukup menakutkan.
Komentar Hacker News