Fantasi AGI menghambat rekayasa nyata

 (tomwphillips.co.uk)
1 poin oleh GN⁺ 2025-11-15 | 3 komentar | Bagikan ke WhatsApp
  • Di Silicon Valley, budaya yang meyakini AGI (kecerdasan umum buatan) sebagai tujuan yang dapat diwujudkan semakin meluas
  • Di dalam OpenAI, terbentuk keyakinan berbasis 'hipotesis bahasa murni', bahwa perluasan model bahasa dapat mengarah ke AGI
  • Keyakinan ini menjadi dasar pembenaran bagi ekspansi pusat data berskala masif serta masalah eksploitasi lingkungan dan tenaga kerja
  • Logika nilai harapan (Expected Value) untuk AGI bergantung pada perkiraan probabilitas dan nilai yang tidak berdasar, sambil mengabaikan kerusakan lingkungan nyata dan biaya sosial
  • Dengan meninggalkan fantasi AGI, dibutuhkan pendekatan rekayasa yang praktis untuk menyelesaikan masalah dengan model kecil yang berorientasi tujuan

Keyakinan terhadap AGI dan budaya OpenAI

  • Orang-orang yang terkait dengan OpenAI benar-benar percaya bahwa AGI dapat membawa kemakmuran atau kehancuran bagi umat manusia
    • Elon Musk menggambarkan Demis Hassabis sebagai “penjahat yang ingin menguasai dunia”, menetapkan OpenAI sebagai “pihak baik” dan DeepMind sebagai “pihak jahat”
    • Ilya Sutskever mengatakan kepada para karyawan, “Rasakan AGI (Feel the AGI)”, dan mengadakan ritual membakar boneka kayu yang melambangkan AGI
  • Tindakan-tindakan ini menunjukkan bahwa imajinasi fiksi ilmiah telah menjadi keyakinan arus utama di Silicon Valley

'Hipotesis bahasa murni' dan ekspansi LLM

  • Menurut buku Karen Hao Empire of AI, GPT-2 didasarkan pada 'hipotesis bahasa murni (pure language hypothesis)'
    • Karena manusia berpikir dan berkomunikasi melalui bahasa, diasumsikan bahwa AGI dapat dicapai hanya dengan data bahasa
    • Sebaliknya, 'hipotesis grounding (grounding hypothesis)' berpendapat bahwa AGI harus mampu mengenali dunia
  • Keberhasilan ekspansi dari GPT ke GPT-2 memperkuat keyakinan di dalam OpenAI bahwa dengan lebih banyak data, parameter model, dan sumber daya komputasi, AGI dapat dicapai
Iklan

Perlombaan ekspansi dan masalah lingkungan serta tenaga kerja

  • Keyakinan terhadap AGI dan capaian LLM membenarkan pembangunan pusat data skala besar
    • Beberapa fasilitas menggunakan ratusan liter air per detik dan mengoperasikan generator gas yang mencemari karena kekurangan listrik
    • Hal ini memicu konsumsi listrik setingkat seluruh kota dan peningkatan emisi CO₂
  • Untuk menghasilkan keluaran ChatGPT yang aman, para pekerja yang melakukan penyensoran dan pemurnian data mengalami eksploitasi dan trauma mental
    • Seiring meningkatnya kebutuhan data, mereka mengumpulkan seluruh internet tanpa pandang bulu dan mengendalikan hasil dengan RLHF (Reinforcement Learning from Human Feedback)

Masalah logika nilai harapan

  • Nilai harapan (Expected Value) sering dikutip sebagai dasar pembenaran pengembangan AGI
    • Logikanya adalah, “bahkan jika peluangnya 0,001% untuk menghasilkan nilai yang luar biasa besar, EV tetap sangat besar”
    Iklan
  • Namun, perhitungan semacam ini bergantung pada probabilitas dan nilai yang arbitrer serta tidak dapat diverifikasi
    • Sebaliknya, kerusakan lingkungan dan biaya sosial hadir sebagai nilai negatif yang pasti dan kerugian yang nyata saat ini

Beralih ke rekayasa nyata

  • Insinyur harus menyelesaikan masalah secara efektif, efisien, dan tanpa menimbulkan bahaya
  • Pendekatan yang menganggap LLM sebagai AGI gagal pada ketiga kriteria tersebut
    • Terjadi pemborosan komputasi berlebihan, eksploitasi tenaga kerja, dan kerusakan lingkungan
  • Dengan melepaskan diri dari fantasi AGI, LLM dan model generatif harus dievaluasi sebagai alat untuk menyelesaikan masalah tertentu
    • Memanfaatkan model generatif kecil yang berorientasi tujuan atau model non-generatif (diskriminatif)
    • Diperlukan pelaksanaan rekayasa yang praktis melalui analisis biaya-manfaat dan trade-off teknis

Bacaan terkait

3 komentar

 
GN⁺ 2025-11-15
Komentar Hacker News

  • Saran untuk para skeptis AI: sebaiknya hindari perdebatan tentang penggunaan air di data center
    Ungkapan seperti “ratusan juta liter per tahun” terdengar menakutkan jika tanpa konteks, tetapi dibandingkan dengan pertanian atau lapangan golf, jumlahnya sangat kecil
    Diskusi tentang penggunaan energi atau emisi CO₂ tidak masalah, tetapi jika hanya menekankan penggunaan air, kredibilitas argumen keseluruhan justru menurun
    Namun kemudian saya mengetahui bahwa data center sering menggunakan air minum yang kadang tidak bisa dipakai untuk pertanian
    Meski begitu, menyajikan angka seperti ‘jutaan galon’ tanpa konteks tetap menurut saya adalah sebuah anti-pattern

    • Menarik juga bahwa orang-orang menggolongkan diri mereka sendiri sebagai “skeptis AI”
      Ini terasa seperti hasil dari pergeseran diskusi teknologi menjadi politik identitas
      Di HN, orang seharusnya meninggalkan posisi politik dan berdiskusi berdasarkan dasar teknis
      Mungkin sikap seperti ini muncul sebagai reaksi terhadap promosi AI yang berlebihan
    • Saya pernah menanyakan isu penggunaan air ini kepada penulis artikel, Andy Masley, dan dalam tulisannya “The AI Water Issue is Fake” ia justru berpendapat bahwa
      jika permintaan skala besar muncul, fasilitas air daerah bisa diperluas sehingga harga air minum justru dapat turun
      Menurut komentar tambahannya, kritik bahwa “AI hanya memakai air yang berharga” justru membalik keadaan yang sebenarnya
    • Awalnya saya punya pandangan yang mirip, tetapi setelah membaca buku Hao, saya berubah pikiran
      Ada kasus di sebuah kota di Chili di mana data center Google memperparah kekeringan setempat,
      dan di wilayah lain kondisinya begitu parah sampai air laut dicampurkan ke air minum
      Menggunakan air setara konsumsi seluruh kota jelas menurut saya merupakan masalah
    • Data center tidak bisa dibebaskan hanya karena “industri lain lebih buruk”
      Baik lapangan golf maupun data center harus membayar biaya eksternal mereka,
      dan jika di wilayah kering itu menjadi tidak ekonomis, saya rasa justru itu lebih baik
    • Menara pendingin data center memang harus memakai air tawar, tetapi tidak jauh berbeda dari air untuk pertanian
      Jika air itu bisa dipakai untuk pertanian, maka bisa juga dipakai untuk pendinginan
      Masalah penggunaan energi juga ada sisi yang dibesar-besarkan — pada akhirnya energi terbarukan murah akan lebih kompetitif

  • Menurut saya keterbatasan LLM adalah masalah hardware
    Neuron di otak manusia memproses ribuan input dan output secara bersamaan, sedangkan neuron LLM hanya memiliki satu input dan output
    Otak manusia bekerja dengan sekitar 20W, tetapi LLM membutuhkan beberapa MW
    Dengan GPU atau TPU, akan sulit mencapai AGI, dan dibutuhkan paradigma hardware yang benar-benar baru

    • Bahkan seekor lebah pun bisa terbang dan bekerja sama secara mandiri, tetapi kita masih belum bisa membuat AI seperti itu
      Ini bukan sekadar masalah kurangnya komputasi
    • Hardware kompleks manusia adalah hasil evolusi demi bertahan hidup
      Dalam lingkungan yang hanya ditujukan untuk aktivitas intelektual, mungkin tidak dibutuhkan neuron sebanyak itu
    • Dari sudut pandang teknologi semikonduktor, pada die 100mm² dengan proses 3nm kita bisa menaruh 1~10 triliun fitur
      Masalahnya bukan skala, melainkan struktur penempatan (Electronic Design Automation)
      Lihat dokumen wiki EDA
    • Ringkasannya luar biasa. Manusia lemah dalam menangani data berdimensi tinggi, tetapi bisa berfungsi dengan beberapa sandwich
    • LLM secara struktural sangat berbeda dari otak
      Otak memiliki banyak jalur input dan beragam cara sinyal, dan kompleksitas desainnya jauh lebih tinggi

  • Wacana AGI terasa seperti perpanjangan dari dorongan religius
    Manusia tetap mendambakan jawaban mutlak yang akan menyelesaikan semua masalah

    • Saya juga ateis, tetapi saya merasa spiritualitas penting bagi manusia
      Jika ditekan, ia akan kembali dalam bentuk yang lebih buruk
      Meditasi, pengendalian diri, dan etika terhadap orang lain adalah ‘agama’ pribadi saya
    • Wacana fusi nuklir seperti “membawa kekuatan matahari ke bumi” juga memakai bahasa religius yang serupa
      Itu adalah upaya mereproduksi sistem alami seperti matahari atau otak lewat teknologi
    • G.K. Chesterton menulis pada 1924 bahwa “abad ke-20 akan mencoba memiliki otoritas religius apa pun”
    • Bubble AI tidak berbeda dari spekulasi yang gila
      Seperti agama, struktur kekuasaan memanfaatkan keyakinan untuk mempertahankan kontrol
      Kepercayaan buta dan penipuan manusia terus berulang di setiap zaman
      Rujukan: Extraordinary Popular Delusions and the Madness of Crowds
    • Konsep “agama zombie” dari Emmanuel Todd terasa mengesankan
      Masyarakat yang kehilangan agama mula-mula melewati tahap cangkang kosong dengan nilai-nilai yang tersisa,
      lalu jatuh ke tahap tanpa agama dan muncul kehampaan moral
      Sebagian orang ingin tunduk pada AI, tetapi “karena AI yang mengatakannya” adalah iman tanpa ilham

  • Sebagai teknisi, saya juga menginginkan pemecahan masalah yang efisien dan tidak berbahaya, tetapi kenyataannya rumit
    Saat mengatur Bluetooth di Raspberry Pi, saya berhasil menyelesaikannya dengan bantuan GPT dan Claude
    Stack Overflow maupun forum tidak lagi seaktif dulu, dan dokumentasi tersebar di mana-mana
    Teknologi menjadi terlalu kompleks sehingga pada akhirnya kita harus bergantung pada LLM

    • Dalam jangka pendek, bantuan genAI memang dibutuhkan,
      tetapi dalam jangka panjang, masyarakat yang tidak bisa dipertahankan tanpa AI tidak akan berkelanjutan
      Teknologi harus kembali ke kesederhanaan
    • Sekarang hampir setiap distro punya manual wiki
      Misalnya lihat ArchWiki Bluetooth atau Debian BluetoothUser
    • Risiko sebenarnya adalah kompleksitas teknologi makin parah karena AI
      Di perusahaan pun sudah muncul struktur di mana agen AI menjalankan tool menggantikan manusia
      Pada akhirnya ada risiko besar manusia tidak lagi memahami logika internalnya
    • LLM sangat bagus sebagai pengganti Google atau Stack Overflow
      Namun untuk sepenuhnya menggantikan manusia, masih ada keterbatasan mendasar
    • Alasan search lebih buruk daripada AI adalah karena enshittification
      Pada akhirnya LLM kemungkinan besar juga akan menempuh jalan yang sama

  • Sebagian industri mengklaim LLM adalah jalan buntu mendasar,
    tetapi karena terikat pada saham dan reputasi, mereka tidak mau mengakui kenyataan

    • Dari sudut pandang AGI, itu mungkin memang jalan buntu, tetapi nilai ekonominya tetap besar
    • Seperti mesin uap yang tidak cocok untuk penerbangan tetapi menjadi dasar perkembangan mesin pembakaran dalam,
      LLM juga bisa menjadi teknologi tahap peralihan menuju AGI
    • Ungkapan “jalan buntu mendasar” terasa berlebihan
      Ini masih bisa menjadi komponen inti dari sistem AGI
    • Sulit memahami mengapa sesuatu yang berkembang secepat ini disebut “ilusi”
    • Pepatah “sulit meyakinkan orang yang gajinya bergantung pada hal itu” terasa sangat tepat

  • Berkat Whisper, pekerjaan membuat subtitle video saya jadi jauh lebih singkat secara revolusioner
    Dulu butuh beberapa jam, sekarang selesai dalam hitungan menit
    Berkat MacWhisper dengan UI yang bagus, aksesibilitasnya juga meningkat

    • Penulis juga setuju. Deep learning dan transformer jelas telah menghasilkan nilai nyata
      Misalnya ada kasus pengacara memakai LLM untuk menemukan materi pembuktian yang membebaskan terdakwa
      Yang penting adalah pemanfaatan praktis, bukan ekspansi berlebihan
    • Bidang computer vision juga tetap penting, tetapi karena aplikasinya berskala industri, publik jadi kurang melihatnya
    • Saya penasaran bagaimana pendapat Anda tentang arah perkembangan AI
    • Seperti Whisper, banyak tool AI pada akhirnya akan menjadi lokal dan gratis
      Dalam beberapa tahun, akan datang masa ketika LLM pribadi berjalan di tingkat laptop

  • Menurut saya ungkapan bahwa moderator konten sedang dieksploitasi itu berlebihan
    Ini adalah pekerjaan moderasi internet yang sudah ada sejak 30 tahun lalu
    Memang bisa tidak menyenangkan, tetapi bukan hal baru atau mengerikan
    Terlepas dari pencarian AGI, ini tetap peran yang diperlukan

  • Senang rasanya melihat diskusi AI yang realistis
    Masalahnya bukan bahwa teknologi transformer itu sendiri tidak berguna,
    melainkan klaim berlebihan bahwa “AGI akan segera datang”
    HN biasanya cukup tahan terhadap sebagian besar tren, tetapi kali ini tampak seperti pengecualian

    • Saya sendiri tidak merasa ada suasana di HN yang percaya AGI akan segera datang

  • Kita harus menantang diri bukan karena itu mudah, tetapi karena itu sulit
    Bahkan jika AGI adalah ilusi, dalam prosesnya kita mungkin tetap menyelesaikan masalah-masalah yang berguna
    Emisi karbon dari data center banyak yang dibesar-besarkan,
    dan dalam jangka panjang data center berbasis energi bersih akan lebih ekonomis

    • Tetapi konsumsi listrik data center AI memang mendorong kenaikan tarif listrik
      Ini menjadi beban langsung bagi masyarakat kecil
    • Sekalipun sesuatu itu sulit, kita harus bertanya apakah itu benar-benar membantu kebahagiaan manusia
      AI saat ini kurang meyakinkan dalam hal tersebut

  • DeepMind dan Demis Hassabis benar-benar menghasilkan pencapaian ilmiah
    Misalnya: AlphaFold, AlphaEvolve, dan lain-lain
    Dengan adanya riset seperti ini, tidak adil jika hanya mengatakan “AI itu ilusi”

    • AlphaFold atau AlphaEvolve bukan ditujukan untuk mengejar AGI
      Inti tulisan ini adalah kritik terhadap obsesi pada AGI
    • DeepMind tampak lebih berfokus pada riset ilmiah dibanding perusahaan lain
      Hassabis terlihat sungguh tertarik pada kemajuan sains
      Sementara beberapa perusahaan lain tampak lebih seperti PR demi cari uang
    • Hao bukan sekadar penulis “buku kritik AI”, melainkan jurnalis tepercaya
    • Jika melihat contoh-contoh yang dikutip, tampaknya ada kebingungan tentang konsep AGI
 
manist67 2025-11-19

Sedang bicara soal AGI, tapi semuanya malah membicarakan apa yang mereka sendiri sudah lakukan.
 
kandk 2025-11-17

Jangan bawa-bawa hal aneh soal engineering seperti isu eksploitasi lingkungan dan tenaga kerja,
mending sekalian bikin laporan bahwa ini bakal ambruk dan tunjukkan tindakan dengan pasang short..