Mengapa kehadiran Copilot di Excel mengkhawatirkan

• Pengguna TikTok Ada James(@belligerentbarbies) menyampaikan kekhawatiran tentang situasi saat AI Copilot diperkenalkan ke Excel
• Excel diibaratkan sebagai “monster yang menggerakkan ekonomi kita”, dan ‘Brenda’ muncul sebagai sosok yang berhasil menjinakkan monster itu
• Brenda digambarkan sebagai figur bak dewi Excel yang ada di setiap departemen keuangan perusahaan
  • Digunakan ungkapan simbolis, “dewi Excel yang turun dari langit mengecup dahi Brenda”
  • Muncul hiperbola bahwa kapitalisme berjalan berkat kerja keras Brenda
• Ketika atasan mencoba mengubah laporan keuangan yang dibuat Brenda, sang atasan menggunakan Copilot karena percaya AI pasti lebih pintar daripada Brenda
• Namun AI salah menangani Excel dan merusak laporan, dan atasan itu tidak menyadari kesalahannya
• Alasannya, atasan tersebut tidak memahami Excel, dan AI mengalami halusinasi (hallucination)

“Siapa yang tidak berhalusinasi? Brenda”

[GN⁺]

Opini Hacker News

• Menarik melihat dua narasi yang saling bertentangan tentang penggunaan teknologi
  Yang satu berargumen, “orang seperti Brenda membuat kesalahan jadi otomatisasi diperlukan”, sementara yang lain berargumen, “Brenda itu sempurna tetapi AI penuh kesalahan”
  Sebenarnya keduanya tidak bertentangan. Kita hanya menerapkan otomatisasi pada tugas yang dapat dipahami, eksekusi yang dapat dipercaya, proses yang dapat diamati, dan pekerjaan repetitif yang membosankan
  Masalah muncul ketika AI tidak memenuhi syarat-syarat ini. Khususnya, otonomi AI memicu rasa takut. Karena ada kecemasan berupa “saya tidak tahu kenapa hasil seperti ini keluar”
  Karena itu orang masih lebih percaya pada AI lingkup sempit atau AI yang punya pengaman

  • Ini bukan sekadar pola sederhana “Brenda sempurna, AI penuh kesalahan”
    Kode tradisional selalu menghasilkan output yang sama untuk input yang sama, tetapi AI berbeda setiap kali
    Masalahnya adalah ketidaktransparanan yang tidak bisa dipahami, yaitu kita tidak bisa mengerti kenapa AI bekerja seperti itu
    Brenda bisa membuat kesalahan, tetapi kita bisa menanyakan penyebabnya dan memperbaikinya; pada AI itu sulit
    Saya juga suka AI, tetapi sangat paham keterbatasannya
  • Ini bukan kontradiksi, karena yang kita maksud dengan ‘mesin’ adalah algoritme deterministik
    Sementara AI generatif tidak dapat diprediksi
    Jika diurutkan dari yang paling dapat diprediksi: Quick Sort > Brenda > Gen AI
  • “Thinking mode” hanya memberi ilusi bahwa sesuatu bisa di-debug
    Token yang dihasilkan tidak mencerminkan proses berpikir manusia
    “Tahap penalaran” yang dibuat model tidak menunjukkan keadaan internal yang sebenarnya, dan kesimpulan berubah mengikuti bias tak terlihat
  • Di bidang seperti akuntansi, otomatisasi deterministik itu penting
    AI sulit diverifikasi, dan nilai dibanding biayanya pun tidak jelas
    Pada akhirnya pertanyaan utamanya adalah apakah kombinasi “Brenda + AI” lebih baik, atau Brenda sendiri lebih baik
    AI saat ini masih berada pada tahap “mungkin akan berguna beberapa tahun lagi”
  • Alasan orang tidak mempercayai AI bukan karena Brenda sempurna, melainkan karena para pemimpin lebih percaya AI daripada Brenda

• Di organisasi kami juga, Copilot dan AI dipaksakan masuk ke Microsoft Stack
  Sebagian besar fiturnya dinonaktifkan atau tidak berguna. Pada akhirnya itu cuma pemasaran untuk mendongkrak harga saham
  Selain itu, perusahaan melarang bot AI untuk transkrip rapat. Karena itu dianggap berisiko dari sisi keamanan

  • Transkripsi notulen rapat adalah salah satu fitur AI enterprise yang paling berguna, tetapi sulit menaruh kepercayaan pada cloud
  • Ada juga reaksi sinis bahwa “Microsoft mendorong hal-hal tidak berguna adalah model bisnis yang sudah berjalan 40 tahun”
  • Tidak nyaman melihat AI merambah hingga ke developer stack
    Autocomplete VS Code atau penafsiran error itu bagus, tetapi memaksa semuanya ke antarmuka chat rasanya tidak enak
    Seharusnya kualitas pengenalan suara diperbaiki dulu

• Dulu di perusahaan teman saya ada skrip Perl yang setiap hari melakukan commit data keuangan ke DB
  Tanpa skrip itu, perusahaan tidak bisa menghasilkan uang. Hanya ada satu orang yang tahu password administratornya
  Sehebat apa pun Copilot, ia tidak tahu password itu

  • Jika ada sistem seperti itu, masalahnya adalah risiko operasional yang lebih besar daripada Copilot
  • Saya juga dulu pernah mengelola sistem yang menagih 5 juta dolar per bulan, tetapi tidak ada orang yang meninggalkan password root
    Sepertinya sampai sekarang masih berjalan di Linux 2008
  • Ada rekan yang pernah mencetak skrip Perl serupa menjadi 30 halaman dan menyimpannya di rumah
  • Situasi seperti ini bukan argumen anti-AI, melainkan bukti buruknya pengelolaan organisasi
  • Sistem kuno seperti ini juga tidak membantu keamanan kerja

• Itu adalah kalimat yang dikutip dari video TikTok
  MP4 diunduh dengan yt-dlp lalu ditranskrip dengan MacWhisper

  • Sepertinya mengetiknya langsung malah akan lebih cepat
  • Ini pertama kalinya saya melihat kutipan TikTok naik ke papan atas HN
  • Ironisnya, mungkin pekerjaan ini memang seharusnya diberikan ke Brenda
  • MacWhisper adalah tool GUI yang memakai model parakeet v2, tetapi pada dasarnya terasa seperti cangkang $60 untuk skrip Python

• Saya juga pernah memakai LLM di Excel, tetapi pada data dunia nyata dia langsung bingung
  Demo selalu memakai laporan keuangan yang bersih atau contoh buku teks
  Data perusahaan nyata sama sekali berbeda. Di Excel, ini hampir tidak berguna

  • Bagi orang yang tidak terlalu paham Excel, LLM mungkin lumayan berguna sebagai panduan yang memberi tahu fitur apa saja yang mungkin dilakukan

• Brenda yang saya kenal tidak cuma menangani spreadsheet
  Dalam praktiknya mereka melakukan hal-hal rumit seperti berkoordinasi dengan tim operasi, menganalisis dampak keputusan, dan menangani pengecualian
  Copilot sama sekali tidak memahami konteks seperti ini. Saat diminta “template laporan pengeluaran”, ia memberi sheet dengan error #REF

  • Sebagian besar inefisiensi di tim keuangan terjadi karena prioritas yang rendah
    Lebih baik mengajukan usulan perbaikan secara langsung. Misalnya dengan membuat tautan workbook bersama agar semua orang memakainya
    Namun jika tidak diperbarui secara konsisten, kekacauan akan muncul lagi
  • Jika otomatisasi ditambah, pada akhirnya akan dibutuhkan tenaga kerja yang tiga kali lebih mahal daripada Brenda, dan email sederhana berubah menjadi sistem tiket
  • Daripada berkata “kurangi Brenda”, yang dibutuhkan adalah sikap menghormati dan mendukung Brenda
  • Begitu otomatisasi ada, dibutuhkan personel pemeliharaan, dan itu lebih mahal
    Setiap kali proses berubah, koordinasi kembali diperlukan dan pada akhirnya kembali lagi ke kerja manual

• Masalah “takut AI akan merusak sesuatu” bisa dikurangi dengan version control Excel yang terhubung ke Git
  Jika formula atau perubahan VBA buatan Copilot dilacak per commit, kita bisa melihat dengan jelas apa yang terjadi

• Brenda memang jadi lebih lambat, tetapi karena itu dia tahu cara menopang keseluruhan sistem

  • Tetapi pada akhirnya atasan akan berkata “kita percepat dengan AI” lalu mengalihdayakan pekerjaan itu
    Brenda kehilangan pekerjaan, dan seseorang di negara lain mendapatkan pekerjaan baru

• Memakai AI bukan berarti bebas dari tanggung jawab
  Tetap harus punya keahlian yang cukup untuk memverifikasi hasil AI
  Memang bisa menghemat waktu, tetapi karena ada proses verifikasi, penghematannya tidak sebesar yang dibayangkan

• Saya juga suka Excel, tetapi formula bertingkat yang kompleks masih terasa sulit
  Saya sudah mencoba model seperti ChatGPT atau duck.ai, tetapi sering memberi formula yang ngawur
  Harus meminta revisi berkali-kali baru akhirnya bisa bekerja
  Menyenangkan ketika LLM menjelaskannya dalam bahasa Inggris, tetapi pada akhirnya itu sering berarti membuang waktu dan menimbulkan frustrasi
  Awalnya saya percaya ini akan membuat Excel lebih mudah, tetapi sekarang saya yakin jalannya masih panjang