Microsoft menunda peluncuran fitur AI Recall karena kekhawatiran keamanan

• Microsoft akan lebih dulu menyediakan pratinjau fitur Recall melalui Windows Insider Program (WIP), alih-alih merilisnya secara luas untuk pengguna Copilot+ PC pada 18 Juni
• Ini adalah keputusan yang didasarkan pada komitmen Microsoft untuk memberikan pengalaman yang tepercaya, aman, dan tangguh bagi semua pelanggan, serta untuk mengumpulkan umpan balik tambahan sebelum fitur ini diberikan kepada semua pengguna Copilot+ PC
• Copilot+ PC adalah kategori komputer pribadi dengan fitur kecerdasan buatan (AI) yang diperkenalkan pada bulan Mei
• WIP adalah program uji perangkat lunak publik yang memungkinkan jutaan "penggemar Windows" melihat lebih awal fitur-fitur sistem operasi yang akan datang
• Microsoft berencana segera menyediakan pratinjau Recall di semua Copilot+ PC setelah menerima masukan dari komunitas WIP

Gambaran umum fitur Recall

• Fitur Recall melacak riwayat penggunaan komputer, mulai dari penelusuran web hingga obrolan suara, lalu menyimpan catatan tersebut di komputer agar pengguna dapat mencarinya saat perlu mengingat sesuatu bahkan beberapa bulan kemudian

Kekhawatiran privasi

• Kekhawatiran privasi muncul segera setelah fitur ini diumumkan
  • Beberapa pengguna media sosial menyatakan kekhawatiran bahwa fitur ini dapat memungkinkan tindakan mata-mata
  • Teknolog miliarder Elon Musk menyebutnya sebagai "episode Black Mirror", menyamakannya dengan serial Netflix yang mengeksplorasi dampak merugikan dari teknologi canggih

[GN⁺]

Pendapat di Hacker News

• Tulisan ini membingungkan dan ambigu, dan itu tampaknya memang disengaja. Mereka berfokus pada keamanan dan berulang kali mengatakan keamanan adalah prioritas utama, tetapi kita sudah tahu bahwa kenyataannya tidak begitu
  Tidak ada petunjuk apa pun tentang masalah keamanan apa yang ada, bahkan tidak ada isyarat bahwa ada masalah spesifik yang benar-benar ada atau terdeteksi
  Kedengarannya seperti mereka sedang mencari pendekatan pemasaran baru, atau ingin meredam guncangan dengan mengatakan “kami akan mendengarkan masukan pengguna”, lalu mendorongnya lebih perlahan setelah kemarahan mereda

  • Sepertinya Microsoft sedang merebus katak tetapi menaikkan suhunya terlalu cepat. Sekarang mereka mundur, tetapi Recall kemungkinan besar akan perlahan masuk kembali ke Windows dengan nama lain
    Semua pihak yang punya kekuasaan besar ingin sesuatu seperti Recall menjadi standar. Atasan ingin memantau karyawan, pemerintah ingin memantau warga dan musuh, dan para CEO perusahaan teknologi ingin mengumpulkan data pelatihan AI serta data penargetan iklan
  • Jika dilihat lebih biasa, mereka sudah mengerahkan banyak upaya pada produk yang ditolak keras oleh pasar, dan sekarang sedang menarik produk itu untuk melihat apa yang masih bisa diselamatkan
    Para pemangku kepentingan utama mungkin punya berbagai pandangan, antara “coba lagi nanti”, “alihfungsikan untuk penggunaan lain”, dan “lupakan saja”, tetapi perusahaan sebesar Microsoft mengambil keputusan dengan sangat lambat, jadi wajar jika langkah berikutnya masih kabur. Secara kolektif, hampir pasti mereka sendiri belum tahu
  • Keamanan adalah pola pikir, dan ada orang yang tidak memilikinya
    Dulu saya bekerja di sebuah perusahaan yang membuat database yang cukup terkenal untuk aplikasi mobile. Itu adalah API mudah yang menyimpan data di ponsel dan menyinkronkannya dengan server tanpa pengembang perlu melakukan banyak hal
    Dua rekan kerja selama beberapa minggu membuat aplikasi chat yang tampak meyakinkan, yang menyinkronkan pesan beberapa pengguna ke beberapa perangkat, dan hendak merilisnya sebagai demo. Namun sampai seseorang menunjukkan bahwa tidak ada keamanan sama sekali, tidak ada yang menyadarinya. Server hanya menerima status terbaru yang dikirim klien; dalam konteks chat, artinya klien mana pun bisa menulis ulang seluruh riwayat, dan server akan berkata “terima kasih!” lalu membagikannya ke semua orang pada sinkronisasi berikutnya
    Padahal mereka orang dewasa dengan gelar dari institusi terhormat, tetapi sama sekali tidak terpikir soal itu. Menurut saya Recall juga cukup bisa dijelaskan dengan pisau cukur Hanlon dan budaya yang enggan menyuarakan pendapat berlawanan. Jelas ada banyak orang yang ingin komputer bekerja seperti itu, dan mereka mungkin ingin merilisnya tanpa mendengarkan kritik internal
  • Sampai sekarang saya masih menunggu Secure Future Initiative benar-benar membuat tim Windows mengurangi preferensi terhadap COM dan C++, lalu meningkatkan penggunaan .NET dan Rust
    Sebelum itu berubah, klaim soal seberapa aman Recall nantinya perlu diterima dengan skeptis
    Dibandingkan dengan Apple Intelligence, Apple bukan hanya menyediakan sebagian besar API lokal dalam Swift, tetapi juga membuat hardware khusus dan OS yang mirip unikernel, lalu menambahkan lapisan sandbox yang hanya mengekspos fungsi OS yang diperlukan untuk pemrosesan AI dan komunikasi kluster
    Sementara Microsoft lebih terasa seperti “percaya saja, kami akan melakukan hal yang benar”
  • “Mendengarkan masukan pengguna” pada dasarnya berarti “menguping pengguna”, atau sekadar memperhatikan pemberitaan buruk di media
    Microsoft tidak berkonsultasi dengan pengguna sebelum menambahkan kode ke Windows. Pengguna juga tidak menghubungi Microsoft untuk memberi tahu kode apa yang mereka inginkan atau tidak inginkan
    Bahkan kalaupun begitu, perusahaan tidak bergerak berdasarkan usulan pengguna. Reaksi para jurnalis, blogger, dan komentar terhadap Recall lebih mendekati “ini ide buruk”, bukan “sebaiknya ditunda”
    Microsoft akan melakukan apa pun yang mereka mau, seperti biasanya

• Judul kirimannya agak membingungkan, dan isi pembaruannya juga tidak membuatnya jauh lebih jelas
  Judul aslinya adalah “Pembaruan fitur pratinjau Recall untuk Copilot+ PCs”, dan disebutkan bahwa Recall berubah dari pratinjau yang akan tersedia luas di Copilot+ PCs pada 18 Juni 2024 menjadi pratinjau yang lebih dulu tersedia dalam Windows Insider Program dalam beberapa minggu
  Jadi rilis publiknya mungkin tertunda, tetapi tetap akan didistribusikan ke Insider. Bisa saja pada 18 Juni 2024, tetapi frasa “dalam beberapa minggu” mengisyaratkan lebih lambat dari itu
  Selain itu, juga disebutkan “kami mengumumkan pembaruan yang akan diterapkan sebelum pratinjau Recall diluncurkan kepada pelanggan pada 18 Juni” dan “kami berencana segera menyediakan pratinjau Recall untuk semua Copilot+ PCs”

  • Judulnya benar. Ada yang memahami indefinite sebagai “permanen”, tetapi sebenarnya artinya “belum ditentukan”
    Memang tertunda, dan karena baik kita maupun Microsoft mungkin tidak tahu akan tertunda berapa lama, maka ini penundaan tanpa batas waktu
  • Karena tidak akrab dengan produk Microsoft, awalnya saya membaca Copilot+ PCs sebagai PC Copilot “plus”

• Recall adalah contoh kesalahan klasik yang berulang kali dilakukan Microsoft tanpa belajar darinya: salah menilai bagaimana sebuah fitur harus dipasarkan dan dikemas.
  Microsoft cenderung sangat mendorong integrasi untuk meningkatkan adopsi fitur baru, dan ini sering berbalik merugikan. Pada masa Windows 8 juga, mereka benar-benar ingin orang memakai UI Metro baru, jadi mereka mengintegrasikannya secara mendalam ke OS, mendorongnya di semua materi pemasaran, dan menjadikannya layar pertama setelah login.
  Ada juga fitur bagus seperti peningkatan performa dan hasil pencarian, tetapi itu bukan pilihan opsional. Pelanggan yang melihatnya sekilas menafsirkan bahwa “desktop dihapus”; itu sebenarnya tidak benar, tetapi karena MS terlalu memaksakan fitur baru, kesan itu melekat.
  Sekarang pun mirip. Microsoft mendorong alat yang secara objektif bagus, tetapi tidak memberi pengguna kesempatan untuk memilih apakah mereka menginginkannya, dan pesan serta pemasarannya juga membuat orang bingung tentang apa yang sebenarnya terjadi. Tulisan blog ini pun panjang berbicara soal pentingnya keamanan, tetapi tidak mengatakan apa masalah keamanan sebenarnya dan bagaimana mereka menyelesaikannya.
  Selalu mengejutkan kenapa Microsoft tidak belajar, padahal pemasaran yang ceroboh dan integrasi paksa sudah berkali-kali merugikan mereka.

  • Masalahnya bukan pemasaran. Menurut saya alat ini pada dasarnya tidak aman, dan tidak bisa dibuat aman tanpa perubahan besar.
    Intinya adalah ada hal-hal di komputer yang siapa pun ingin hanya ada sementara. Misalnya, saat memasukkan nomor kartu kredit, Anda sama sekali tidak ingin komputer mengambil screenshot. Yang lebih penting, orang sering memakai editor teks semacam “notepad sementara” yang mungkin berisi data sensitif, dan sama sekali tidak ingin data seperti itu dibuat persisten.
    Microsoft tidak memikirkan dampak keamanan fitur ini dengan benar.
  • Saya tidak tahu bagaimana ini bisa disebut fitur yang secara objektif bagus. Ini spyware yang menyimpan screenshot tidak terenkripsi sehingga spyware lain pun bisa mengaksesnya.
    Saya juga tidak yakin alat AI itu benar-benar hanya berjalan offline, dan pada akhirnya ini bisa berarti berbagi lebih banyak data menyeluruh dengan Microsoft daripada sebelumnya. Dari sudut pandang privasi, fitur ini menjijikkan.
  • Kalau dipasarkan ala Apple, dan punya tingkat kepercayaan dari penggemar seperti yang dimiliki Apple, mungkin semua orang akan menyukainya. Pada kenyataannya, sepertinya niatnya tidak jauh berbeda dari Apple Intelligence.
    Artinya, mengakses semua data secara lokal, lalu mengunggah data yang dipakai di aplikasi cloud.
  • Pada Windows 8, Microsoft melihat tablet dan layar sentuh sebagai masa depan, dan Metro dirancang untuk itu. Karena mereka menganggap tablet sebagai masa depan komputasi, pengalaman baru itu dijadikan default.
    Namun 10 tahun kemudian terbukti bahwa keyboard dan mouse masih jauh lebih banyak digunakan.
  • Klaim “alat yang secara objektif bagus” membutuhkan dasar. Kemungkinan itu benar tampaknya sangat kecil.

• Untuk orang-orang yang belum mengikuti perkembangan terbaru, singkatnya pemerintah AS sedang mengevaluasi ulang hubungannya dengan Microsoft karena isu keamanan baru-baru ini yang terkait dengan serangan yang disponsori negara dari Rusia dan Tiongkok.
  Kasus Microsoft Storm-0558 yang disebut sebagai contoh terbaru: https://www.microsoft.com/en-us/security/blog/2023/07/14/ana...
  Microsoft baru-baru ini berjanji akan memperbaiki praktik keamanannya melalui insentif kompensasi eksekutif dan langkah-langkah lain: https://blogs.microsoft.com/on-the-issues/2024/06/13/microso...
  Namun terlepas dari janji-janji ini, sejumlah anggota parlemen menilai Microsoft tidak menganggap serius komitmen keamanan terbarunya. Sebagian dari mereka punya pengaruh terhadap besarnya uang yang diterima Microsoft.
  Recall sering digunakan seperti penangkal petir yang memperlihatkan masalah Microsoft yang tergesa-gesa merilis fitur tanpa mempertimbangkan keamanan.
  Video presiden Microsoft ditanyai oleh anggota DPR dari Florida; Recall juga disebutkan: https://youtu.be/kB2GCmasH4c?t=8217
  Saya tidak berpikir hanya ada satu alasan untuk penundaan rilis, tetapi cara pelanggan terbesar Microsoft memandang Recall seperti ini kemungkinan besar sangat memengaruhi keputusan untuk menahan peluncurannya.

  • “Memperbaiki praktik keamanan melalui insentif kompensasi eksekutif” — jadi penyebab masalahnya ternyata adalah gaji eksekutif yang buruk.

• Microsoft di bawah Satya Nadella benar-benar perusahaan yang aneh. Satu sisi tampak berlari mengikuti “bergerak cepat dan hancurkan sesuatu” ala Zuckerberg, sementara sisi lain berkata, “tunggu, kita perusahaan software paling penting di dunia. Tidak boleh rusak!”

  • Satu sisi menjadikan .NET dan VS Code open source, mengelola GitHub dengan baik, dan membuat vcpkg. Sisi lain mengotori Windows menjadi game freemium penuh iklan yang memalukan. Benar-benar aneh.
  • Tepat seperti itu rasanya. Teknologi inti, termasuk Windows, lebih solid dari sebelumnya, tetapi di atas fondasi kokoh itu ditumpuk pilihan bergaya “bergerak cepat dan hancurkan sesuatu” serta pengejaran laba jangka pendek, sehingga keseluruhannya terlihat mengerikan.
  • Bahkan sebelum Nadella, MS sudah mengambil risiko besar pada Windows. Pada era Ballmer, Windows 8 dengan Start menu layar penuh jauh lebih dibenci daripada Vista, dan belum sampai 3 tahun sudah digantikan oleh Win10.
    Belum lagi upaya 10 tahun untuk mengejar Google dan Apple di mobile lewat Windows Phone, RT, dan Nokia. Untungnya Nadella membereskannya.
  • Satu sisi menargetkan pasar perusahaan, sisi lain untuk konsumen umum.
    Yang membuka mata saya adalah Surface Pro 10 hanya ada untuk perusahaan. Mereka merancang dan memproduksi seluruh perangkat, tetapi tidak menjualnya ke pelanggan umum. Pasar itu justru harus menuju lini Copilot yang lebih eksperimental, yang mungkin saja bagus, tetapi sejak awal tidak ada pilihan.
  • Microsoft tidak ingin melewatkan industri besar lain, jadi sambil berusaha agar tidak tersandung, mereka juga melakukan kompensasi berlebihan demi berada di depan semua orang.

• Singkatnya, pelanggan yang benar-benar penting, yaitu perusahaan yang membayar lisensi situs, menilai ini sebagai risiko bisnis yang tidak bisa diterima.
  Pada 2024, jika masih memakai Windows dan bukan perusahaan multinasional atau LLC, berarti memang menerima bagian risiko yang harus ditanggung.

  • Bagaimana kalau tidak mampu membeli Mac dan tidak cukup paham teknologi untuk memasang Ubuntu?
    Secara pribadi, saya sangat suka game dan produksi musik, jadi saya dual-boot Mint dan Windows. Keduanya jelas kurang memadai di Linux.
    Orang biasa di luar gelembung geek kita tidak terlalu ingin memakai Linux desktop. Mac memang bagus, tetapi sulit untuk benar-benar bermain game di sana.
  • Saya bukan salah satu dari dua itu, tetapi Windows 10 Enterprise bekerja dengan baik untuk saya. Untuk saat ini, masih banyak orang yang bisa mengendalikan OS mereka sampai tingkat tertentu.
  • Tidak sepenuhnya benar. Kelompok pelanggan raksasa lainnya hanyalah gamer.
  • Microsoft juga mencoba menarik pengembang nonprofesional. Mereka menyediakan OS gratis, alat dan bahasa pengembangan gratis, framework web gratis, dan server web gratis bahkan di edisi Home.
    Mereka juga mengatakan merangkul open source. Mereka ingin terlihat sebagai alternatif hidup untuk Linux dan Apple bagi para pengembang, bukan hanya dipakai oleh pengembang yang terpaksa karena pekerjaan.
    Sekarang mereka juga ingin menarik “massa”, jadi Windows ditempeli segala macam fitur serabutan atas nama ramah pengguna. Memang ada iklan, tetapi tidak separah yang sering terdengar. Saat salah ketik di menu Start, hasil pencarian web seperti Bing dan iklan ikut tercampur, mirip ketika mencari di Google. Saya tidak tahu apakah itu sesuatu yang “harus saya terima”, dan bagi saya tidak cukup mengganggu sampai ingin menonaktifkannya.
    Pada akhirnya, memakai Windows berarti secara implisit memercayai Microsoft. Sama seperti pengguna iPhone atau Android secara implisit memercayai Apple atau Google. Kita hanya berusaha mengurangi jumlah pihak yang harus dipercaya.
    Justru karena Microsoft selalu berada di bawah sorotan dan banyak mendapat kritik keras, mereka punya lebih banyak hal yang bisa hilang dibanding perusahaan kecil atau yang lebih “bereputasi baik”, jadi saya tidak terlalu takut. Karena itu, meskipun fitur remeh baru bisa membantu pengawasan oleh Microsoft, saya tidak melihat alasan untuk terlalu memedulikannya. Kalau mereka memang mau melakukannya, mereka bisa mengawasi kapan saja.
  • Sepertinya pernyataan “perusahaan yang membayar lisensi situs melihatnya sebagai risiko bisnis yang tidak bisa diterima” perlu dilihat lebih sempit.
    Kemarin Presiden Microsoft Brad Smith hadir di Komite Keamanan Dalam Negeri DPR AS, dan komite itu mengajukan argumen bahwa Microsoft adalah risiko keamanan nasional.
    Pelanggan korporat juga bisa bereaksi setelah melihat kesaksian itu, tetapi dari waktunya, motivasi pengumuman ini terasa lebih datang dari pihak pemerintah AS.

• Yang menarik, berkat panasnya euforia AI, orang nonteknis pun jadi lebih banyak memikirkan dan membicarakan kekhawatiran privasi dan keamanan terkait software.
  Dibanding pengumpulan data yang sudah dilakukan perusahaan teknologi besar selama bertahun-tahun, model bahasa besar itu sendiri tidak secara khusus lebih jahat. Hanya saja promosi AGI memicu respons defensif orang-orang.
  Saya melihatnya sebagai hal positif. Orang memang seharusnya mendekati isu privasi teknologi dengan rasa takut, ketidakpastian, dan keraguan.

  • Dulu, saat memakai komputer, tidak ada screenshot dari semua hal yang tampil di monitor, dan saya tidak ingin data semacam itu tercipta.
    Tentu, banyak bagian dari aktivitas saya mungkin bisa dirangkai dari data pelacakan lain, tetapi screenshot terus-menerus dari semua yang pernah ada di layar adalah tambang emas data yang tersentralisasi, dan saya ingin tidak ada siapa pun yang bisa mengaksesnya.
    Saya menganggap ini lebih jahat daripada sebagian besar pengumpulan data lain.

• Recall menggunakan model AI lokal yang tertanam di Windows 11 untuk mengambil screenshot hampir semua hal yang dilihat atau dilakukan di komputer, lalu memungkinkan pengguna mencari dan menemukan kembali item yang pernah mereka lihat.
  Pengguna bisa menggulir snapshot pada timeline yang dapat dijelajahi untuk meninjau apa yang mereka lakukan di PC pada tanggal tertentu. Semua hal di Recall dirancang agar tetap lokal dan privat di dalam perangkat, dan katanya data tidak digunakan untuk melatih model AI Microsoft.
  https://www.theverge.com/2024/6/13/24178144/microsoft-window...
  Saya harus mencarinya, jadi saya bagikan untuk menghemat 1 menit waktu seseorang.

  • “Semua hal di Recall dirancang agar tetap lokal dan privat di dalam perangkat, dan data tidak digunakan untuk melatih model AI Microsoft” — untuk saat ini.
  • Fitur Apple Intelligence terbaru memerlukan RAM 16GB dan chip seri M baru agar bisa berjalan di perangkat.
    Saya penasaran bagaimana Microsoft bisa meluncurkan fitur seperti ini secara luas dengan eksekusi di perangkat dalam ekosistem yang jauh lebih beragam, dengan banyak perangkat Windows berdaya rendah dan murah.

• Ini baru awal dari produk-produk berpusat pada AI yang dijual berlebihan lalu ditunda atau diam-diam dibatalkan.
  Model bahasa besar cukup baik untuk tugas sederhana, tetapi sudah mencapai batasnya. Sebanyak apa pun datanya, itu tidak menyelesaikan masalah repetisi dan kompleksitas.

  • Setiap bulan saya masuk rapat yang membahas penggunaan model bahasa besar untuk kebutuhan yang sama sekali tidak cocok. Saat saya menyampaikan kekhawatiran, jawabannya adalah “kita butuh lebih banyak pendukung AI”.
    Percakapan seperti ini dipimpin oleh orang-orang yang tidak pernah membaca satu pun makalah model bahasa besar atau bahkan benar-benar menggunakannya. Mereka sama sekali tidak memahami risikonya, tetapi terus mendorong karena atasan yang tidak tahu apa-apa menyuruh mereka membuat rencana pemanfaatan AI.
  • Tidak ada yang mengatakan fitur ini tidak berfungsi. Justru kemungkinan besar berfungsi dengan baik, dan itulah sebabnya Microsoft mendorongnya begitu kuat.
  • Saya penasaran bagaimana bisa tahu bahwa batasnya sudah tercapai.
  • Penundaan Recall sama sekali tidak terkait dengan batasan teknis.

• Sebaliknya, Apple Intelligence tidak mendapat penolakan meski mengingat untuk semua aplikasi. Secara pribadi, saya menganggap ide ini bagus; memang harus diimplementasikan dengan hati-hati dan aman, tetapi fitur untuk memunculkan kembali log lebih berguna daripada melakukan pencarian baru
  Standar ganda yang sama juga terlihat pada pencarian generatif Google dan ChatGPT dengan pencarian bawaan dari OpenAI. Jika Google salah, itu menjadi masalah besar, tetapi tidak demikian untuk pihak lain

  • MS Recall menangkap dan menganalisis tangkapan layar untuk mengekstrak data, lalu membuat indeks basis data dari hal-hal tersebut agar bisa dicari
    Apple AI pada dasarnya menyediakan hook API yang memungkinkan aplikasi mengekspos tindakan dan data ke model. Saat ini tampaknya aplikasi milik Apple sendiri yang melakukannya, tetapi setiap pemilik aplikasi dapat memutuskan apakah akan mendukungnya atau tidak
    Ini pendekatan yang sepenuhnya berbeda
  • Kapan Apple pernah mengumumkan bahwa mereka akan mengambil dan menyimpan tangkapan layar seluruh layar? Windows sudah bertahun-tahun memiliki pencarian terpadu lintas semua aplikasi, meski kualitasnya buruk, dan sejauh yang saya tahu tidak ada penolakan
  • Ada sedikit penolakan. Namun, terlepas dari pengenalan merek, Apple telah mengambil semua langkah untuk pendekatan yang mengutamakan keamanan terlebih dahulu, fitur belakangan
    Di sisi server pun mereka memakai versi OS khusus bergaya unikernel yang menghapus hal-hal yang tidak diperlukan untuk komputasi AI atau jaringan, serta menggunakan Swift dan Secure Enclave
    Ini berbeda dari basis data SQLite teks polos yang ditulis dengan C atau C++ dan COM, seperti yang disukai divisi WinDev
  • Implementasinya sepenuhnya berbeda. Ini seperti membandingkan Telegram dan Signal
  • Google menampilkan jawaban yang dihasilkan AI sebagai hasil pencarian paling atas, sehingga mengisyaratkan bahwa itu adalah jawaban yang paling relevan dan faktual
    OpenAI dan Bing memperjelas bahwa pengguna sedang berbicara dengan chatbot AI, dan kebanyakan orang tidak mengharapkannya seterpercaya dan seakurat hasil pertama Google Search