Dugaan upaya bunuh diri Microsoft

 (antipope.org)
2 poin oleh GN⁺ 2024-06-06 | 1 komentar | Bagikan ke WhatsApp

Fitur baru Microsoft, CoPilot+ dan Recall

Ringkasan poin utama

  • Penyebaran AI:

    • Berita teknologi belakangan ini berfokus pada penyebaran AI (kecerdasan buatan).
    • Banyak perusahaan menunjukkan upaya untuk menambahkan AI ke dalam produk mereka.

  • Pengenalan CoPilot+:

    • CoPilot+ adalah add-on Windows berbasis LLM (large language model) dari Microsoft.
    • Mirip dengan Clippy di masa lalu, tetapi memanfaatkan AI untuk membantu pekerjaan pengguna.
    • Namun, karena keterbatasan LLM, ada kemungkinan fitur ini tidak dapat memberikan jawaban yang akurat.

  • Prosesor Windows ARM:

    • Microsoft sedang mendorong Windows berbasis ARM agar tidak bergantung pada Intel.
    • PC CoPilot+ baru dibekali prosesor ARM yang kuat dan dirancang agar cocok untuk pekerjaan AI.

  • Fitur Recall:

    • Recall adalah fitur yang merekam semua aktivitas yang dilakukan pengguna di komputer.
    • Fitur ini mengambil tangkapan layar, mengekstrak teks melalui OCR (optical character recognition) dan pengenalan suara, lalu menyimpannya ke basis data.
    • Data yang disimpan tidak dienkripsi, sehingga dapat menimbulkan masalah keamanan.

  • Masalah privasi:

    • Fitur Recall dapat secara serius melanggar privasi pengguna.
    • Data yang disimpan dapat mencakup kredensial pengguna, kata sandi, dan sebagainya.
    • Basis data tersebut bisa dipanggil dalam proses hukum, sehingga menjadi risiko besar bagi perusahaan maupun individu.

  • Masalah lainnya:

    • Fitur Recall berpotensi melanggar regulasi privasi seperti GDPR dan HIPAA.
    • Microsoft berencana memasukkan fitur ini secara paksa dalam pembaruan Windows 11.

Opini GN⁺

  • Pelanggaran privasi:

    • Fitur Recall dapat secara serius melanggar privasi pengguna. Ini menjadi risiko besar terutama bagi perusahaan atau individu yang menangani data sensitif.

  • Kerentanan keamanan:

    • Basis data yang tidak dienkripsi dapat dengan mudah terekspos kepada peretas atau pengguna berniat jahat. Ini sangat berpotensi memicu insiden keamanan.

  • Masalah hukum:

    • Fitur Recall sangat mungkin melanggar regulasi privasi seperti GDPR dan HIPAA. Hal ini dapat memicu sengketa hukum.

  • Kepercayaan pengguna:

    • Penerapan fitur semacam ini oleh Microsoft dapat merusak kepercayaan pengguna secara signifikan. Dalam jangka panjang, ini dapat berdampak negatif pada citra perusahaan.

  • Teknologi alternatif:

    • Perusahaan yang memprioritaskan privasi pengguna perlu mempertimbangkan alternatif lain selain fitur Recall. Misalnya, mengadopsi solusi keamanan berbasis open source.

Bacaan terkait

1 komentar

 
GN⁺ 2024-06-06
Komentar Hacker News

  • Bahkan jika mengesampingkan kekhawatiran keamanan dan privasi, Recall tidak terasa seperti fitur AI
    Bukankah strukturnya sekadar membuat OCR di perangkat dan basis data SQLite, lalu menelusurinya? Bahkan dengan definisi AI yang longgar saat ini, rasanya kurang nyambung. Apakah karena OCR berbasis machine learning? Jika ada komponen LLM di Recall yang saya lewatkan, saya penasaran apakah kita juga bisa membuat situs web serangan prompt injection yang mengindeks instruksi berbahaya ke basis data SQLite lalu memberikannya ke LLM di kemudian hari

    • Sudah lama ada cerita bahwa setiap kali peneliti AI membuat sesuatu menjadi mungkin, hal itu berubah dari “SF yang mustahil” menjadi “itu bukan AI sungguhan”
      Aneh rasanya ketika benar-benar melihat reaksi seperti itu. OCR juga dulu pernah dianggap mustahil dilakukan dengan kualitas yang layak, sehingga CAPTCHA dipakai untuk mencegah login bot forum. Awalnya berupa teks, lalu makin terdistorsi sampai sulit dibaca manusia, berubah menjadi nomor rumah dan “klik semua foto yang berisi XYZ”, hingga akhirnya hampir menghilang dan digantikan oleh analisis yang melihat posisi kursor mouse dan situs yang dikunjungi
    • Setelah mencari jawabannya sendiri, tampaknya ada tingkat analisis semantik tertentu yang melampaui OCR sederhana, jadi dalam penggunaan longgar saat ini bisa dianggap sebagai fitur AI
      Petunjuknya ada di demo ini https://www.youtube.com/watch?v=aZbHd4suAnQ&t=1062s, ketika pencarian “blue pantsuit with sequin lace” menemukan item yang dalam teks dijelaskan sebagai “peacock”. Sepertinya ini pencarian embedding atas embedding gambar
      Selain itu, salah satu dari tiga basis data SQLite yang dibuat Recall bernama “SemanticImageStore”, jadi tampaknya perangkat menjalankan model embedding gambar bergaya CLIP secara lokal. Basis data itu juga memiliki kolom “diskann”, yang tampaknya merujuk ke pustaka indeks vektor Microsoft https://github.com/microsoft/DiskANN
    • Kalau melihat demonya, pencarian bisa dilakukan meski kata “Blue bag” tidak ada di layar
      Misalnya, jika ada tas biru di dalam foto slide PowerPoint, itu bisa ditemukan
    • Sepertinya mereka memakai definisi AI yang lebih dekat dengan “masalah yang mungkin tidak bisa diselesaikan komputer”
      OCR jelas dianggap AI sebelum kita tahu caranya. Sekarang setelah kita memahaminya, ia menjadi “sekadar komputasi”, tetapi dengan definisi AI lain pun masih masuk akal untuk menyebutnya AI
    • Kemungkinan besar ada RAG di dalamnya

  • Jika Recall belum sepenuhnya ilegal di UE, berarti Microsoft sedang adu cepat tanpa batasan apa pun sejak peluncuran hingga lahirnya undang-undang pelarangan di seluruh UE
    Saya tidak melihat skenario UE akan mengizinkannya di kawasan mereka. Kekhawatiran yang sangat valid bahwa fitur ini bisa disalahgunakan oleh pasangan yang abusif saja sudah cukup menjadi alasan politik. Rasanya sulit menemukan satu pun anggota Parlemen Eropa yang akan menentang undang-undang yang dikemas seperti itu, dan anggota yang baru terpilih pun akan menyambut kemenangan mudah di tengah berbagai urusan yang rumit dan sulit

    • Mengapa Recall harus ilegal di UE?
    • Bagaimana jika warga Eropa menginginkan fitur ini? Apakah mereka bahkan tidak punya pilihan?

  • Selain berbagai kekeliruan logika yang sudah ditunjukkan, saya ingin menambahkan satu lagi
    Pembahasan ini mengasumsikan bahwa masa depan Microsoft adalah Windows. Menurut saya, sejak Satya, itu sudah tidak benar. Begitu menyadarinya, terlepas dari kesalahan implementasi satu fitur Windows, masa depannya terlihat cukup cerah

    • Lalu masa depan apa yang diusulkan Microsoft?
      Bukan Xbox; mereka sedang kalah dalam perang itu, dan itu juga berbasis Windows. Bukan ponsel; mereka sudah kalah, dan itu pun berbasis Windows
      Office juga sulit. Kebutuhan akan paket office berbayar menurun, dan MS Office di browser cukup buruk
      Mungkin Azure, tetapi menurut saya jalur masuk besar ke Azure adalah dorongan Microsoft agar perusahaan memindahkan ActiveDirectory dan Exchange ke cloud. Namun berakhirnya Windows berarti berakhirnya ActiveDirectory, dan ada alternatif untuk email serta kalender cloud. Jika Anda belum berada di sana karena Exchange, apakah Azure menarik bagi banyak orang?
      Masa depannya mungkin cerah, tetapi jika tidak ada Windows untuk dilihat, bagaimana kita bisa tahu masa depan itu? ;p
    • Benar. Microsoft punya beberapa sumber pendapatan bernilai miliaran dolar seperti Office, Azure, XBox, label gim, dan sisi “cloud” dari komputasi hampir sepenuhnya didominasi Linux, sehingga insentif untuk berinvestasi di Windows berkurang
      Melihat gerakan seperti WSL, winget, dan sudo, jelas Windows makin bergerak menjadi lapisan luar yang meniru Linux pada antarmuka baris perintah
      Microsoft tahun 2000 adalah Windows 9x, 2000, dan Office. Pada 2004, kita mengunduh perangkat lunak khusus Windows dari situs, tetapi pada 2024 perangkat lunak khusus Apple atau khusus Linux juga umum
      Kalau dipikir-pikir, “tahun desktop keluarga Linux” sudah lebih dari 10 tahun berupa MacOS. Dibandingkan gesekan seperti jalur file Windows dan Win32 API, itu hampir seperti gerbang awal menuju Linux penuh
    • Jika mengikuti ucapan itu, berarti sistem operasi yang menurun berjalan di 80% desktop dan laptop di seluruh dunia
      Bukan berarti saya mengatakan itu salah, dan saya setuju bahwa Windows memang sudah menjadi urusan sampingan di dalam Microsoft, tetapi itu cukup menakutkan
      Melihat lisensi Exchange Server yang baru, aman untuk berasumsi bahwa Microsoft ingin keluar dari bisnis perangkat lunak on-premises secepat mungkin. Namun pertanyaannya, apakah dunia siap menerimanya, dan apakah itu yang kita inginkan
    • Benar. Windows sekarang hampir seperti loss leader
    • Untuk membuat Windows bagus, mereka hanya perlu menyingkirkan sampah yang tidak diminta siapa pun
      Ada begitu banyak antipattern mencurigakan sampai tidak masuk akal

  • Bahkan jika Microsoft atau FAANG lain membocorkan semua data kita, entah apakah mereka benar-benar akan membayar harga besar
    Kapan terakhir kali ada perusahaan yang benar-benar “tumbang” karena masalah keamanan data? Pelanggaran keamanan data terbaru mencakup Snowflake, AWS / Capital One

    • Semua orang paham bahwa kebocoran memang terjadi
      Poin utama yang disorot di sini adalah apa yang tidak dikumpulkan tidak bisa dibocorkan. Recall adalah data yang jauh lebih banyak dan jauh lebih sensitif daripada yang sebelumnya dikumpulkan Microsoft
    • Snowflake cukup konsisten mengatakan bahwa itu adalah kesalahan konfigurasi pelanggan, bukan pelanggaran pada sistem inti
      Ini mengingatkan pada pertengahan 2010-an ketika sistem tertentu di AWS secara default bersifat publik, dan banyak sekali “kebocoran data” terjadi hanya karena perusahaan tidak menjadikan bucket data mereka privat
    • Yang dibutuhkan adalah denda besar dan wajib untuk semua kebocoran data
      Misalnya, jika perusahaan diwajibkan membayar 10 ribu dolar untuk setiap orang yang alamatnya bocor, mereka akan mulai memperlakukan data konsumen sebagai risiko, bukan aset berbiaya rendah
    • Equifax juga jangan dilupakan

  • Sepertinya server web di sana yang bunuh diri lebih dulu

  • Laporan kinerja kuartal terbaru Microsoft menunjukkan pendapatan naik 17%, dan harga sahamnya naik hampir 25% selama setahun terakhir

    • Baguslah. Tapi itu tidak akan banyak berarti jika pelanggan mulai takut pada hal seperti ini dan menolak bertransaksi
    • Kalau bisa, saya akan mengambil posisi short pada bisnis sistem operasi Microsoft, sambil tetap mengambil posisi long pada bisnis penyedia cloud dan investasi OpenAI mereka
    • Harga saham yang naik hampir 25% selama setahun terakhir bukankah berarti hanya setara rata-rata S&P500? Untuk raksasa teknologi, menurut saya seharusnya bisa lebih baik

  • Microsoft jelas tidak sedang bunuh diri. Lihat saja seberapa banyak perhatian yang ditarik fitur ini
    Semua media teknologi membicarakan Windows, dan Windows tiba-tiba relevan lagi. Bagaimana itu bisa disebut bunuh diri?
    Yang bunuh diri adalah pelanggan Microsoft yang membiarkan fitur ini menyala. Pengguna harus diedukasi tentang risiko fitur ini dan cara mematikannya

    • Jika seseorang menodongkan pistol dan berkata “akan kutembak dalam 5 detik,” lalu seseorang tetap berdiri tanpa berlindung dan terkena tembakan, itu bukan bunuh diri
      Bisa saja itu kematian yang bodoh, tetapi orang yang menembak tetap melakukan pembunuhan. Rasanya ini analogi yang cukup tepat untuk situasi sekarang
    • Kita sudah melewati lereng licin itu, bahkan anginnya sudah menerpa rambut kita

  • Saya tidak bisa menemukannya saat mencari di HN, tetapi rasanya dulu pernah melihat sesuatu yang mirip Recall
    Sebuah alat screenshot menjalankan OCR/deteksi, lalu memasukkannya ke database agar bisa dicari. Itu open source di GitHub
    Selain itu, soal privasi saya masih bimbang, tetapi di sisi lain sepertinya ini membawa ARM kembali ke Windows, jadi bagian itu saya dukung

  • Dalam kalimat “kita sudah lama tahu bahwa teknologi model bahasa akan mendominasi masa depan kita,” kata kita didefinisikan sebagai orang-orang yang penghasilannya bergantung pada semakin banyaknya investasi yang masuk ke teknologi LLM
    Bagi orang-orang lainnya, LLM tampak sangat cacat sebagai solusi umum untuk apa pun

  • Saya tidak selalu melihat Microsoft sedang bunuh diri
    Hanya saja menurut saya mereka terlalu reaktif dan kurang proaktif. Dengan kata lain, mereka tampaknya membuat kesalahan karena terlalu fokus memprediksi arus teknologi, alih-alih menciptakan jalan sendiri dan membuka peluang
    Tentu saja di beberapa pasar seperti alat pengembang, atau mungkin Azure, mereka memang sedang menciptakan jalannya sendiri. Tapi apa yang saya tahu, saya cuma programmer bodoh