Jangan Memaksakan AI

• Belakangan ini teknologi AI diintegrasikan dengan cepat ke pencarian, sistem operasi, alat kreatif, dan lain-lain di seluruh kehidupan sehari-hari, dan diterapkan secara paksa tanpa persetujuan pengguna
• Disebutkan bahwa kecepatan yang berlebihan dan penyebaran paksa ini lebih bertujuan untuk likuiditas modal dan pengembalian investasi daripada manfaat teknis
• Tulisan ini berpendapat bahwa, karena batasan dan kesalahan AI sudah terlihat jelas, hanya bagian yang telah terverifikasi yang seharusnya diintegrasikan secara bertahap
• Ditekankan bahwa, alih-alih sasaran raksasa seperti AGI (kecerdasan umum buatan), prioritas harus diberikan pada pengembangan perangkat lunak yang praktis dan dapat diandalkan
• Pengguna seharusnya secara selektif menerima hanya teknologi yang bernilai, dan tidak boleh dipaksa menerima AI hanya karena investasi berlebihan perusahaan atau beban infrastruktur

---

Kritik terhadap penyebaran AI yang berlebihan

• AI sedang dipaksakan untuk diintegrasikan ke berbagai area seperti kotak pencarian, sistem operasi, dan alat kreatif
  • Meski pengguna tidak menginginkannya, fitur tetap ditambahkan sehingga terasa bukan sebagai ‘peningkatan’, melainkan suntikan paksa
• Walaupun teknologi bisa diadopsi secara bertahap dan organik, saat ini prosesnya berlangsung dalam bentuk dorongan yang dipaksakan
• Situasi ini digambarkan sebagai persaingan kecepatan yang berpusat pada modal, bukan proses alami perkembangan teknologi

Dorongan AI berdasarkan logika modal

• Saat ini, kecepatan penyebaran AI lebih bertujuan mengamankan likuiditas daripada kegunaan
  • Sejumlah miliarder sedang mempercepat penyebaran AI untuk meraih lebih banyak keuntungan selagi mereka masih hidup
• Dengan frasa “kita tidak berutang apa pun kepada mereka”, ditekankan bahwa pengguna tidak perlu tunduk pada logika keuntungan perusahaan
• Penerapan AI seharusnya terjadi bukan berdasarkan hasil kuartalan atau jadwal pengembalian investasi, melainkan ketika benar-benar membantu

Menyadari keterbatasan AI dan integrasi yang tepat

• Ilusi, kesalahan, dan halusinasi (hallucination) AI sudah terungkap
• Karena itu, hanya fitur yang terbukti berfungsi yang perlu diintegrasikan secara selektif, dan penerapan tanpa syarat tidak diperlukan
• Sasaran besar seperti AGI (kecerdasan umum buatan) tidak diperlukan; yang penting adalah perangkat lunak yang benar-benar bekerja dengan baik

Menghormati peneliti dan kreator

• Jika model saat ini belum bekerja dengan baik, para peneliti cukup kembali ke laboratorium dan memperbaikinya
• Pengguna dapat terus mengerjakan pekerjaannya sendiri dan berkontribusi pada pembuatan data dengan cara yang benar
• Tulisan ini mengkritik penggunaan karya kreator, penulis, dan seniman untuk pelatihan tanpa izin, serta menekankan pendekatan kolaboratif

Pilihan konsumen dan prinsip pasar

• Tulisan ini mengkritik situasi ketika perusahaan teknologi besar memaksakan AI dengan alasan seperti “kami membeli terlalu banyak GPU” atau “kami menginvestasikan miliaran dolar dalam infrastruktur”
• Dengan ungkapan “itu bukan masalah saya”, ditegaskan posisi bahwa konsumen hanya akan memilih produk yang benar-benar bernilai
• Contoh penggunaan AI yang sah dan peluang pendapatannya jelas cukup banyak, tetapi mendorongnya secara paksa ke pasar tidak dapat dibenarkan
• Ini menunjukkan perlunya kembali pada prinsip kapitalisme yang sejati, yaitu konsumsi selektif yang berbasis permintaan

[GN⁺]

Opini Hacker News

• Cara produk-produk ini memaksa pengguna menyerahkan data benar-benar menyeramkan
  Kalau hanya fitur tambahan mungkin masih bisa dimaklumi, tetapi Gemini bahkan pada paket berbayar tetap memakai data untuk pelatihan atau memungkinkan manusia melihat prompt jika riwayat aktivitas tidak dimatikan
  Tidak masuk akal harus membayar $20 per bulan (Pro) atau $249.99 (Ultra) sementara data tetap disimpan selama bertahun-tahun
  • Saya memakai Pixel Watch, dan sebagian besar hanya untuk mengatur pengingat seperti “jemur cucian jam 3 sore”
    Tapi setelah pembaruan terbaru, semua fitur jadi tidak berfungsi kalau saya tidak mengizinkan konten saya dipakai untuk pelatihan AI
  • Saya membuat proyek Gemini Chat Saver dan sedang menerima usulan perbaikan serta masukan
  • Sulit dipercaya ada orang yang mau membayar untuk ini
  • Mau dipakai atau tidak, mau diinginkan atau tidak, biayanya tetap ditagihkan
• Di dunia ini sering kali keputusan segelintir orang dipaksakan kepada banyak orang
  Pada 2012, ketika Facebook menambahkan panah putih ke galeri foto, saya terkejut melihat keputusan beberapa PM dipaksakan ke seluruh dunia
  Penghapusan tombol di dashboard mobil, TV 3D, flat design, smartphone raksasa, semuanya berada dalam konteks yang sama
  PM teknologi bertindak seperti diktator dan memberi pengaruh berlebihan pada keseharian kita
  Saya baru-baru ini mencoba Duck.ai, dan rasanya sekarang teknologi juga butuh pendekatan yang lebih konservatif
  • PM seperti ini sendiri sebenarnya perlu lebih banyak pelatihan
    Kita semua perlu melambat dan memperbaiki masalahnya
• Microsoft juga contoh utama dari pemaksaan seperti ini
  Mereka memaksakan fitur yang tidak diinginkan ke dalam OS, lalu menunjukkan angka penggunaan Bing dan Copilot di dashboard internal kepada investor
  Ini nyaris seperti penipuan finansial
  • Belakangan ini di Windows, fitur copy-paste tidak berfungsi dengan benar
    Katanya Microsoft sedang menggantinya dengan sistem berbasis OCR, dan hasilnya benar-benar kacau
  • Karena itu tahun ini saya sepenuhnya meninggalkan Windows dan VSCode
    Berkat Proton, game juga berjalan baik, dan untuk pekerjaan saya memang sudah memakai Linux jadi transisinya mudah
  • Sebenarnya pemaksaan seperti ini sudah berlangsung sejak era Windows 95
• Soal pernyataan “kita tidak membutuhkan AGI”, saya justru merasa ada hasrat untuk memilikinya
  Ini adalah tujuan yang melambangkan kemajuan manusia, seperti fusi nuklir, migrasi antariksa, atau penyembuhan kanker
  Mirip dengan orang-orang pada 1800-an yang menganggap mobil listrik atau bandara tidak diperlukan
  Kepemilikan dan tujuan AGI adalah masalah terpisah; apakah pesawat dipakai mengangkut orang atau untuk perang, itu pilihan manusia
  • Tetapi orang-orang nonteknis di sekitar saya tidak menginginkan AI
    Di luar industri teknologi, hampir tidak ada yang peduli
• Demam AI saat ini mengingatkan saya pada pemaksaan pendaftaran Google+ di masa lalu
  Waktu itu hanya dengan beberapa klik tautan saja orang bisa otomatis terdaftar, dan saat memasang tombol Google+ di situs perusahaan, halaman bisa memuat selama beberapa menit
  Pada akhirnya itu fitur yang tidak berguna, dan AI kali ini juga terasa seperti pemborosan yang tidak perlu
  • Meski begitu, desain Google+ lumayan bagus
    Sebaliknya, produk AI saat ini adalah rangkaian kegagalan perancangan perangkat lunak
    Bahkan Fitbit dan Pixel 7 saja tidak bisa terintegrasi dengan baik, jadi sungguh konyol kalau dalam kondisi seperti ini masih bicara soal AI
  • Warisan dari masa integrasi paksa Google+ pada akhirnya hanya akun YouTube ganda
• Saya sangat setuju dengan pernyataan “jangan memaksakan AI”
  • Tapi kenyataannya kita tidak punya pilihan
    Semua layanan menambahkan fitur AI dan menaikkan harga
    Data kita dianalisis AI, lalu media sosial, berita, gambar, dan video dipenuhi konten buatan AI
    Perusahaan dan kalangan politik membuat keputusan berdasarkan hasil AI
    Pada akhirnya, “AI berjalan bersamamu, atau melalui dirimu”
  • Ini mirip dengan perintah kembali ke kantor (RTO)
    Struktur pemaksaan untuk membenarkan uang yang sudah terlanjur diinvestasikan
• Saya setuju dengan pernyataan “kita tidak butuh AGI, perangkat lunak yang berfungsi saja sudah cukup”
  Tetapi para pemegang saham menginginkan AGI
  Demi mengurangi biaya tenaga kerja dan menaikkan harga saham
  Akan bagus kalau semua orang berpikir ‘saya hanya akan memakai alat yang benar-benar bernilai’, tetapi kenyataannya tidak demikian
  • Pihak eksekutif pun tidak percaya bahwa LLM saat ini adalah jalan menuju AGI
    Ini hanya ilusi untuk pemasaran dan dalih untuk menghilangkan otonomi pekerja
  • Sebaliknya, banyak orang justru memakai AI secara berlebihan karena naluri melindungi diri sendiri
• Saya penasaran apakah Gemini bisa dinonaktifkan permanen di Android
  Ia terus menyela di pesan dan aplikasi lain, dan saya cemas akan aktif tanpa sengaja
  • Hanya karena salah menekan layar, saya seperti sudah memberi persetujuan yang tidak bisa dibatalkan
  • Saya merasa perlu ada regulasi hukum untuk mencegah situasi seperti ini
  • Saya menghapus aplikasi Gemini dan juga menonaktifkan aplikasi Google
    Keduanya terhubung sangat erat, jadi dengan memakai aplikasi pengganti, masalah ini bisa dihindari
• Keluhan perusahaan besar bahwa mereka membeli terlalu banyak GPU bukan urusan saya
  Namun pecahnya gelembung AI akan berdampak buruk bagi banyak orang
  Meski perusahaan besar mungkin bisa bertahan, anjloknya harga saham dapat menimbulkan kerusakan berantai
  • Bailout pemerintah yang memperbesar gelembung akan menjadi skenario terburuk
    Distorsi modal makin parah dan pada akhirnya memicu kehancuran yang lebih besar
    Andai gelembung ini pecah beberapa tahun lalu, mungkin kita tidak akan menghadapi masalah server AI yang mengancam jaringan listrik seperti sekarang
• Salah satu alasan saya tidak suka AI adalah karena ia memaksakan alur pengembangan ala mainframe
  Harus menjadwalkan komputasi, lalu membayar sesuai pemakaian, benar-benar tidak saya sukai
  Saya penasaran apakah AI yang benar-benar berguna dan cukup berjalan secara lokal itu memungkinkan
  • Untuk pengembangan, sebenarnya AI seperti itu tidak dibutuhkan
    Tidak memakainya juga bisa menghemat uang

[tensun]

Saya setuju dengan komentar di bawah bahwa "kenyataannya tidak ada pilihan."
Ini sudah seperti kereta yang melaju kencang sekaligus pesawat yang sedang terbang.