AI sedang melambat
(wheresyoured.at)- Infrastruktur AI generatif harus menghasilkan pendapatan komputasi AI lebih dari US$2 triliun per tahun hingga 2030 untuk membenarkan investasi pusat data dan komitmen komputasi
- Pusat data terencana sebesar 190GW, dengan biaya US$80 miliar hingga US$100 miliar per GW, bernilai US$9,5 triliun hingga US$15 triliun, dan untuk mewujudkannya diperlukan penerbitan utang pusat data tahunan sebesar US$500 miliar hingga US$1 triliun
- OpenAI diperkirakan akan menghabiskan sedikitnya US$852 miliar hingga akhir 2030, dan Anthropic harus mencapai target pendapatan tahunan US$174 miliar pada 2029 agar mampu menanggung komitmen komputasinya
- Setelah beralih ke penagihan berbasis token, perusahaan kesulitan melihat pengeluaran AI dan mengukur ROI, dan Uber, T-Mobile, serta Brex menetapkan batas pengeluaran token per karyawan
- Saat ini 89% pendapatan startup AI terkonsentrasi pada OpenAI dan Anthropic, sehingga untuk membenarkan skala komputasi yang sedang dibangun masih dibutuhkan sedikitnya US$250 miliar tambahan dalam permintaan komputasi AI tahunan
AI tidak punya ruang untuk melambat — perlu pendapatan lebih dari US$3 triliun hingga akhir 2030
- Jika data Sightline Climate diterapkan apa adanya, kapasitas pusat data yang direncanakan mencapai 190GW, dan jika memakai pernyataan Jensen Huang tentang US$80 miliar hingga US$100 miliar per GW, biayanya dihitung menjadi US$9,5 triliun hingga US$15 triliun
- Penyebutan pembangunan pusat data senilai US$3 triliun oleh Bloomberg tidak sesuai dengan perhitungan di atas, dan dana yang dibutuhkan harus dihimpun dari suatu tempat
- Laporan Financial Times menilai bank mungkin tidak mampu menanggung utang pusat data, dan penerbitan yang saat ini sekitar US$250 miliar per tahun harus naik menjadi US$500 miliar hingga US$1 triliun per tahun agar pembangunan benar-benar terlaksana
- NVIDIA memperkirakan pendapatan US$1 triliun pada akhir 2027, dan karena 54% pendapatannya berasal dari tiga pelanggan, pendapatan ke depan bergantung pada sejumlah kecil pelanggan dan kemampuan pihak lawan bertransaksi untuk menghimpun utang
- Penjualan ekuitas Google senilai US$85 miliar dan rencana Meta untuk menjual ekuitas bernilai puluhan miliar dolar terkait dengan makin sulitnya hyperscaler menghimpun utang
Komitmen komputasi OpenAI dan Anthropic
- Komitmen komputasi dan chip Anthropic telah mencapai US$330 miliar di antara Google, Amazon, dan Microsoft, ditambah US$30 miliar dengan CoreWeave dan US$15 miliar dengan SpaceX
- Agar mampu menanggung biaya komputasi ini, Anthropic harus mencapai target pendapatan tahunan US$174 miliar pada 2029
- Anthropic telah menghimpun US$95 miliar pada putaran Februari, April, dan Mei, tetapi dana ini dan arus kasnya saja tidak cukup untuk menutup biaya, sehingga tahun depan perlu menghimpun sedikitnya US$200 miliar tambahan
- OpenAI diperkirakan akan menghabiskan sedikitnya US$852 miliar hingga akhir 2030 dan telah membuat komitmen komputasi lebih dari US$770 miliar dengan Microsoft, Amazon, CoreWeave, Cerebras, dan Oracle
- Penggalangan US$122 miliar oleh OpenAI pada Maret tidak cukup untuk menutup biaya, dan hingga akhir tahun dibutuhkan sedikitnya US$250 miliar dana tambahan
Perhitungan pendapatan pusat data dan risiko Oracle
- AI generatif dan komputasi AI harus menghasilkan pendapatan tahunan lebih dari US$2 triliun hingga 2030; jika tidak, belanja modal pusat data dan pembayaran komitmen Anthropic serta OpenAI tidak akan masuk akal
- Jika PUE 1.35 diterapkan pada pusat data 190GW, beban inti IT sekitar 140GW, dan dengan tarif US$12,5 juta per MW dibutuhkan pendapatan tahunan US$1,75 triliun
- Bahkan jika hanya separuh kapasitas yang direncanakan dibangun, pusat data tetap memerlukan pendapatan US$875 miliar per tahun agar tidak kekurangan dana
- OpenAI dan Anthropic masing-masing memproyeksikan pendapatan US$184 miliar dan US$174 miliar pada 2029, totalnya hanya US$358 miliar
- Jika OpenAI tidak mampu atau tidak ingin menanggung komputasi Oracle, Oracle bisa kehabisan dana, sementara Oracle sedang menghabiskan US$340 miliar hingga US$700 miliar untuk pusat data 7.1GW bagi OpenAI
Pengeluaran AI saat ini belum cukup
- Rencana Salesforce untuk membelanjakan US$300 juta pada Anthropic pada 2026 masih jauh dari skala yang dibutuhkan
- Total permintaan komputasi saat ini dari semua perusahaan AI di dunia belum mencapai US$100 miliar, tetapi pada 2030 dibutuhkan 10 kali lipatnya
- Berdasarkan laporan The Information, konsentrasi pendapatan startup AI pada OpenAI dan Anthropic mencapai 89% seperti {p:89}
- Annual run rate AI Microsoft sebesar US$37 miliar terutama terdiri dari komputasi OpenAI, dan CEO Microsoft AI Mustafa Suleyman mengatakan model Anthropic terlalu mahal dan ingin menurunkan penggunaannya di Microsoft menjadi 0
- Bahkan jika Anthropic dan OpenAI menggunakan komputasi senilai US$500 miliar per tahun, untuk membenarkan pembangunan pusat data masih dibutuhkan tambahan pendapatan komputasi lebih dari US$250 miliar per tahun
Penagihan token dan ketidakpastian ROI
- Biaya dan pengembalian investasi dari tugas AI tertentu tidak dapat diukur, dan perusahaan telah memperluas adopsi AI tanpa mengukur output
- Anthropic dan OpenAI memindahkan pelanggan ke penagihan berbasis token pada kuartal pertama 2026, dan dalam 2 hingga 3 bulan ketidakpastian biaya AI dan ROI menjadi tema berulang di media bisnis utama
- Dalam survei KPMG yang dikutip Wall Street Journal, visibilitas biaya AI terbagi menjadi 26% komprehensif, 50% sebagian, dan 22% tidak ada atau baru diketahui setelah penagihan, seperti
- Satu perusahaan menghabiskan US$500 juta dalam sebulan untuk model Anthropic karena tidak memasang kontrol pengeluaran, dan Uber menghabiskan anggaran token tahunan hanya dalam satu kuartal
- Uber membatasi pengeluaran AI sebesar US$1.500 per pengguna per bulan, T-Mobile sementara sebesar US$2.000 per pengguna per bulan, dan Brex sebesar US$500 per minggu untuk engineer serta US$5 per minggu untuk non-engineer
Agen coding, loop, dan masalah output
- Boris Cherny, penanggung jawab Claude Code, dan Peter Steinberger, evangelist OpenClaw milik OpenAI, meminta pengguna merancang loop untuk agen
- Loop adalah cara yang membuat LLM terus bertindak selama periode yang diinginkan tanpa pengguna perlu menambahkan prompt lagi
- Dalam langganan bersubsidi, biaya kesalahan model tersembunyi di balik US$20, US$100, atau US$200 per bulan, tetapi ketika pengguna membayar biaya sebenarnya, biaya kegagalan terlihat apa adanya
- Ini terkait dengan riset yang menunjukkan bahwa makin banyak LLM bernalar, makin banyak halusinasi yang muncul, sementara pendekatan agen membuat LLM menyusun rencananya sendiri
- Notion memblokir akses ke Anthropic selama beberapa jam setelah gangguan layanan Anthropic, dan banyak aplikasi yang dibuat alat coding AI hanyalah slopware yang tidak berguna dan tidak aman
Analogi laba-laba logam raksasa
- Laba-laba logam raksasa adalah perangkat seharga US$1 juta, dan setiap kali digunakan memerlukan bahan bakar US$40.000, tetapi bisa mengambil barang atau menyiapkan makan malam
- Perangkat yang sama kadang bisa mengambil Diet Coke dari kulkas dengan tepat, dan kadang malah melubangi kulkas, sementara pengguna tetap harus membayar US$40.000 terlepas dari hasilnya
- Berkat subsidi, pengguna umum hanya sesekali mengalami aksi destruktif ini, tetapi perusahaan menanggung biaya sebenarnya, dan pembuatnya kehilangan miliaran dolar setiap tahun untuk pelatihan dan pemeliharaan
- Fitur baru memperluas hal-hal yang diklaim bisa dilakukan, tetapi setiap penambahan fitur menelan ratusan juta dolar, dan kadang tidak jelas apakah benar-benar ada pembelajaran baru
- Meski ada riset yang menunjukkan peningkatan kemampuan menyelesaikan 50% tugas dengan panjang tertentu, laba-laba dalam analogi ini tetap tidak bisa diprediksi kapan akan salah, dan juga melakukan tindakan yang tidak diminta pengguna
Ekonomi sirkular AI dan permintaan produk nyata
- AI generatif memiliki biaya operasional layanan yang tinggi, laboratorium AI utama tidak memiliki jalur menuju profitabilitas, dan biaya serta ROI pekerjaan berbasis LLM juga tidak dapat diukur
- Proyek AI dapat menaikkan biaya operasional dari 10% hingga 100%, dan berlawanan dengan janji bahwa biaya akan turun bagi operator layanan AI maupun pelanggan, biaya justru terus meningkat
- Biaya tinggi mempertahankan struktur di mana laboratorium AI mengirim uang ke mitra komputasi hyperscaler, lalu dana itu berputar kembali ke laboratorium dan permintaan GPU NVIDIA
- Jika OpenAI atau Anthropic mengejar profitabilitas atau keberlanjutan, permintaan komputasi AI akan menurun, begitu pula permintaan untuk Azure, Google Cloud, Amazon Web Services, CoreWeave, Oracle Cloud Infrastructure, dan GPU NVIDIA
- Agar komitmen dan proyeksi saat ini selaras, seluruh stack AI harus tumbuh 10 kali lipat, dan dibutuhkan tambahan permintaan komputasi AI tahunan sebesar US$250 miliar serta sedikitnya dua perusahaan lain seukuran OpenAI atau Anthropic
2 komentar
API tidak pernah tidak menggunakan penagihan berbasis token...
Opini Hacker News
Hari ini Apple meluncurkan fitur AI yang telah dirombak, dan jika berbagai laporan benar, Apple tampaknya hanya membayar sekitar 1 miliar dolar AS per tahun kepada Google untuk menjalankannya
Pada dasarnya ini setara dengan melisensikan kekayaan intelektual, dan Google tampaknya merasa tidak masalah menyerahkan hak untuk menjalankan dan mendistilasi modelnya dengan nilai sebesar itu
Walaupun pendapatan konsumen hanya sebagian dari keseluruhan teka-teki, tetap muncul pertanyaan mengapa pengguna Mac atau iPhone yang tidak puas dengan AI baru Apple masih perlu membayar ChatGPT
Google juga akan menaruh alat serupa di ponsel dan terus menyediakan fitur AI di pencarian, jadi setelah teknologi Apple ini ada, saya tidak melihat bukti bahwa AI konsumen bernilai jauh lebih besar dari 1 miliar dolar AS per tahun bagi Anthropic atau OpenAI
Bahkan jika OpenAI meneken kontrak untuk masuk ke ponsel Samsung dan Samsung 10 kali lebih terdesak daripada Apple, itu pun sekitar 10 miliar dolar AS per tahun; jika proyeksi pendapatan konsumen OpenAI pada 2026 adalah 14~15 miliar dolar AS, maka sekalipun tercapai, tampaknya akan sulit dipertahankan setelah ada fitur bawaan yang berguna bagi pengguna iPhone
Ed Zitron lebih mirip agitator Inggris yang berisik, tapi secara umum tampaknya dia banyak benar
Bahkan dengan tombol Copilot di Windows, orang tetap memakai GPT, Microsoft Edge bukan browser paling populer di Windows, dan Instagram Threads juga tidak terlalu memukul TikTok
Arah pertanyaannya justru terbalik. Orang cenderung memakai hal yang mereka sukai dan terus memakainya
Tidak harus ada moat yang luar biasa besar; masalah muncul ketika pengguna terus tidak puas dengan produk, atau ketika ada produk pesaing yang jauh lebih baik seperti yang dibicarakan orang-orang
Jika fitur Apple tidak memberi keunggulan yang berarti dibanding sekadar memakai GPT, sulit berharap ada keajaiban
Pertanyaan yang tersisa adalah apakah saya akan tetap memakai Kagi karena pencariannya, atau Siri baru akan cukup membawa saya ke mana pun yang saya perlukan secara umum. Saya juga perlu lebih memperhatikan seberapa sering saya benar-benar melihat hasil pencarian, dibanding hanya melihat ringkasan AI
Ada juga bagian yang tidak saya lihat dalam presentasi Apple. Misalnya untuk coding dasar, mereka memang menyebut LLM di Xcode, aplikasi Shortcuts, dan Safari Extensions, tapi saya baru saja menyuruh Kagi membuat halaman web untuk menampilkan data yang saya dapat dari Kagi, dan Gemini juga bisa
Mungkin Siri juga bisa, tapi itu masih harus dilihat, dan pengalaman juga penting. ChatGPT jauh lebih baik menangani proses menulis kode dengan antarmuka coding yang punya editor langsung, sedangkan Kagi terasa seperti ChatGPT beberapa tahun lalu: memuntahkan satu blok kode penuh lalu setiap revisi menghasilkan dump kode baru lagi
Beralih ke Xcode mungkin berlebihan dan Siri bisa jadi kurang memadai, jadi masih bisa ada celah untuk penggunaan AI prosumer yang tidak berhasil diisi Apple
Anthropic tampaknya tidak terlalu peduli pada AI konsumen, dan segmen konsumen kemungkinan adalah pelanggan dengan profitabilitas paling rendah
Apple tampaknya lebih dekat ke arah memperbesar penggunaan AI oleh konsumen umum, dan ini terlihat mirip dengan saat Instagram menambahkan Stories. Itu memang menghambat pertumbuhan Snapchat, tapi saya berhati-hati untuk langsung menyimpulkan bahwa itu juga akan banyak merebut pengguna OpenAI
Jika Anda saat ini membayar ChatGPT, kemungkinan besar Anda memakainya untuk coding sebagai hobi, proyek, atau pembuatan gambar, dan pengguna yang membayar besar hampir pasti memakainya untuk proyek pemrograman pribadi
Pelanggan dengan langganan di atas 100 dolar AS per bulan tidak akan pergi karena ini, dan bahkan pengguna 20 dolar AS per bulan pun sangat sulit dibayangkan akan keluar dalam jumlah berarti
Sebagian besar pengguna di dunia memakai ponsel murah dengan CPU lemah dan RAM kecil, jadi mereka tidak bisa menjalankan model yang layak secara lokal
Dalam kesepakatan Google-Apple, belum jelas apakah Google juga menjual akses komputasi cloud dalam 1 miliar dolar AS itu, atau hanya berbagi bobot model dan kekayaan intelektual
Apple juga mengatakan ada batas pemakaian dan upgrade langganan untuk penggunaan yang lebih tinggi, jadi itu berarti telah terbuka front persaingan langsung dengan lab AI. Meski ada default bawaan, pesaing yang sukses tetap bisa ada seperti Safari dan Chrome, jadi persaingan ini juga mungkin terjadi
Google juga sangat mungkin memberikan modelnya dengan harga diskon dari nilai sebenarnya untuk menghilangkan insentif ekonomi bagi pesaing utamanya yang kaya kas agar ikut masuk ke perlombaan senjata pelatihan model fondasi
Pengguna yang menginginkan fungsi serius di luar peringkasan dan perbaikan gaya bahasa mungkin tetap bisa menemukan nilai pada langganan yang wajar atau paket berbasis iklan untuk model berkualitas lebih tinggi, meskipun hanya dipakai sesekali
Apple juga bisa menawarkan ini, tapi ketika orang mulai membandingkan kemampuan, bagi banyak orang Gemini, Claude, dan ChatGPT mungkin akan terasa lebih cocok
Ada juga risiko yang realistis bahwa Apple kembali berjanji berlebihan dan kualitas model yang benar-benar dirilis rendah, sehingga malah makin mendorong pengguna ke layanan berlangganan
Itu mencakup kehidupan pribadi, minat, rencana, bisnis, hingga informasi keluarga, jadi pindah ke aplikasi AI lain cukup menyakitkan karena harus mulai lagi dari awal
Salah satu tanda yang membantu mengenali penghasut abal-abal adalah ketika mereka berbicara dengan nada emosional seperti, “Kenapa semua orang tidak paham ini?”, tetapi logikanya sendiri sebenarnya tidak tersambung.
Jika argumen Zitron memang sekuat yang ia katakan, pembaca seharusnya bisa memahaminya dan melihat bahwa argumen itu memang kokoh.
Kalau ia memulai dari statistik permintaan AI lalu dengan hati-hati melanjutkan perhitungan ke langkah berikutnya, seperti pendapatan yang dibutuhkan agar perusahaan AI bisa untung, orang masih bisa mengikuti; tetapi ia melompat, meloncat, lalu kembali lagi.
Jika situasinya benar-benar sejelas level “kenapa kalian tidak bisa melihatnya”, maka penjelasannya juga harus jelas, tetapi ternyata tidak. Alasan mengapa tidak jelas adalah karena situasinya sendiri memang tidak sejelas itu.
Secara garis besar, pesannya adalah bahwa industri teknologi sudah sangat rusak secara moral. Sulit membicarakannya tanpa emosi, tetapi rasanya bukan hiperbola tanpa dasar, melainkan lebih dekat pada ketidakpercayaan seperti, “Kenapa kalian masih mau berinvestasi dan bekerja di Meta padahal buktinya sudah sangat banyak bahwa perusahaan itu melakukan hal-hal buruk terhadap orang?”
Meski begitu, pemahamanku terhadap idenya adalah bahwa perusahaan-perusahaan AI telah berjanji membeli komputasi sebesar X, pusat data sedang dibangun untuk memenuhi permintaan itu, pusat data perlu menerima Y, tetapi perusahaan AI tidak punya pendapatan yang cukup untuk membayar Y.
Secara pribadi itu tidak terlalu mengejutkanku. Kasus penggunaan AI yang benar-benar kupandang nyata sejauh ini hanyalah pembuatan kode atau panggilan telepon otomatis untuk penjualan dan penipuan, dan itu tidak terlihat seperti pasar yang cukup besar untuk menanggung jumlah uang raksasa yang sedang beredar sekarang.
Aku penasaran kenapa Ed dianggap meleset begitu jauh. Buatku, tampaknya koreksi besar sedang mendekat untuk AI secara keseluruhan.
Informasi seperti itu bukan sesuatu yang wajar diharapkan untuk disalin dan diulang di setiap tulisan blog rutin.
Memang nadanya terdengar menyindir, tetapi kalau memang benar-benar sempat diklik, aku sungguh penasaran dengan jawabannya.
Itu upaya yang buruk dalam meniru jurnalisme bongkar-bongkar modern; ingin terdengar cerdas, tetapi isinya tipis.
Ini memang sudah sering dibahas, tetapi Ed Zitron adalah orang yang sulit dipercaya.
Menurutku, bahkan pada hal-hal yang sangat jelas dan sepele pun ia sering bias dan salah, jadi sulit menerima mentah-mentah analisis rumit yang melibatkan angka dan tren.
Misalnya, aku ingat beberapa bulan lalu ada cuitannya yang mengejek orang-orang yang membicarakan agen dan coding berbasis agen. “Agen? Agen apa? Mereka tahu tidak sebenarnya mereka sedang bicara soal apa?” kira-kira begitu, dan di balasannya ada ratusan orang yang menjelaskan bahwa mereka benar-benar menggunakan agen.
Ia punya audiens dan target keterlibatan, dan tujuannya bukan memberi tahu, melainkan mendapatkan klik.
Arah besarnya bisa saja benar. Misalnya, mungkin benar bahwa pendapatan yang dibutuhkan untuk menutup pengeluaran terlihat sangat tidak masuk akal, tetapi ia tampak mencampur angka untuk membangun skenario terburuk yang belum tentu sesuai dengan kenyataan.
Ditambah lagi dengan sikapnya yang tidak menunjukkan keterbukaan sedikit pun terhadap apa pun yang berkaitan dengan AI, jadi sulit menanggapinya dengan serius.
Media suka ocehan panjang yang katastrofik dan muram, jadi tampaknya ia membangun karier lewat tulisan anti-AI yang histeris. Itu tidak berarti ia benar.
Bagian paling meyakinkan dari tulisan itu adalah bahwa hanya dengan melihat angkanya saja, skala investasi yang dibutuhkan tampak tidak berkelanjutan dalam ukuran dolar murni.
Bahkan jika tidak setuju dengan penulisnya, alurnya masih bisa diikuti. OpenAI, SpaceX, dan Anthropic harus IPO tahun ini jika ingin menghindari kehabisan uang, dan tidak ada lagi cukup banyak modal privat yang tersedia. IPO adalah putaran pendanaan terakhir.
AI bisa saja sangat berguna dan transformatif, dan perusahaan-perusahaan itu juga bisa tumbuh cepat, tetapi mungkin tidak ada cukup uang untuk menopang pertumbuhan itu.
Bagian tentang perusahaan AI yang bangkrut membatalkan kontrak Oracle membuatku memandang Oracle seperti analogi Nortel. Jika sebagian besar pelanggan tiba-tiba hilang, mereka bisa saja harus melakukan write-down hingga ratusan miliar dolar.
Aku sangat skeptis terhadap para penguasa AI, tetapi terus bersikeras bahwa di sana tidak ada apa-apa sama sekali juga bukan hal yang jujur.
Zitron kini sudah sampai pada level seperti memohon agar terjadi keruntuhan
Memang benar dia berhasil menunjukkan risiko finansial besar lewat analisis makro, tetapi karena pesimismenya yang terus-menerus, dia sepenuhnya melewatkan kegunaan nyata di lapangan berupa peningkatan produktivitas yang besar yang dirasakan banyak orang di HN setiap hari
Untuk saat ini, saya memilih percaya bahwa ada wilayah tengah tempat perluasan kemampuan individu ini menghasilkan penemuan besar
Kalau begitu semua produktivitas itu sebenarnya mengalir ke mana, nilainya ada di mana, di mana statistik pengangguran massal atau jutaan startup baru yang menghasilkan uang besar, saya tidak tahu
Dalam siklus hype yang terlalu panas, suara penyeimbang yang kritis memang perlu sehingga keberadaan suara berlawanan itu sendiri bernilai, tetapi argumennya tidak kokoh bahkan jika Anda setuju dengan premisnya
Keluhan terbesar saya terhadap hitung-hitungan kasarnya adalah bahwa dia memperlakukan margin kotor inferensi sebagai sesuatu yang baru yang tidak bisa dibandingkan dengan margin SaaS biasa
Sebagian memang benar. Pelatihan model, pembangunan infrastruktur terkait, dan komidi putar R&D yang tiada henti berupa biaya-biaya pendukung untuk mempertahankan daya saing memang sedikit mengubah analisisnya
Tetapi mengatakan bahwa hal itu secara struktural berbeda dari margin SaaS biasa sudah terlalu jauh. Model bisnisnya mungkin tidak seperti Dropbox, tetapi cukup mirip dengan AWS awal, CDN, dan operator telekomunikasi
Saya bisa mengatakan ini karena telekomunikasi adalah bidang tempat saya menghabiskan lebih dari separuh karier saya sebagai engineer dan pendiri; bisnis infrastruktur yang sangat padat modal, dengan profitabilitas yang bergantung pada utilisasi, overselling, perencanaan kapasitas puncak, segmentasi, dan pengembalian belanja modal, tetap bisa berjalan
Munculnya segmentasi tugas yang eksplisit untuk menurunkan biaya membuat hitungannya semakin meragukan. Organisasi-organisasi terdepan mulai sadar bahwa tidak semua tugas perlu memakai model terbaik dan termahal
Tugas mudah bisa dirutekan ke model murah, memakai caching, tugas yang tidak mendesak bisa diproses batch, dan model frontier bisa disisakan hanya untuk sebagian tugas yang benar-benar membutuhkan kecerdasan frontier. Ini bertabrakan langsung dengan klaim bahwa penyedia harus selalu mengejar kecerdasan frontier agar dapat mempertahankan permintaan, utilisasi, dan kurva harga saat ini
Anda bisa merasakan peningkatan produktivitas tetapi nilai nyata mungkin tidak tercipta, dan menurut saya justru itulah yang ditunjukkan oleh data paling kuat
https://unessays.substack.com/p/talk-is-cheap
Apakah ada studi peer-review berskala besar atau meta-studi yang mengonfirmasi klaim itu?
Fakta bahwa dia tidak pernah meninjau kembali kegagalan-kegagalan mencolok dalam analisisnya sendiri sudah cukup mengatakan apa yang perlu dikatakan tentang kejujuran intelektualnya
Ada sebagian kebenaran dalam apa yang dia katakan tentang risiko finansial, tetapi jika dia juga tidak bisa mengakui potensi kenaikan, dia juga tidak bisa menilai risiko dengan benar
Karena itu sulit untuk menganggapnya serius
Di thread ini banyak komentar yang langsung menepis, tetapi jarang yang membahas isi substantif tulisannya
Intinya adalah apakah “AI tidak punya ruang untuk melambat — untuk mempertahankan eksistensinya, AI membutuhkan pendapatan lebih dari 3 triliun dolar pada akhir 2030” itu benar
Jika total upah pada 2024 adalah 11,7 triliun dolar [0], dan pada tahun yang sama lapangan kerja nonpertanian berjumlah 158,000 [1], maka hitungan kasar saya bahwa AI harus mengambil alih atau menciptakan setidaknya 1 dari 20 pekerjaan untuk mencapai titik impas masih satu digit lebih kecil dari itu
[0] https://fred.stlouisfed.org/series/BA06RC1A027NBEA
[1] https://fred.stlouisfed.org/series/PAYEMS
Pada 2008 dan 2020~2023, uang dalam jumlah besar masuk ke ekonomi dan orang-orang kaya menjadi sangat, sangat kaya. Kekayaan itu sekarang terikat pada versi 2020-an dari rel kereta/serat optik, dan pada dasarnya kita sedang mencoba menghapus triliunan dolar dari ekonomi dunia untuk meresetnya
Reset memang diperlukan
Sebelum menghabiskan 20 menit membaca tulisan ini, perlu diketahui bahwa penulis ini sudah lebih dari 2 tahun memposting pandangan yang populer tetapi terus-menerus salah, semacam bahwa AI sedang gagal, membuang-buang uang, buruk, dan tidak akan pernah bekerja
Sebagai contoh ada tulisan seperti https://www.wheresyoured.at/peakai/ dari Maret 2024
Selama 2 tahun dia tampak jelas seperti orang gila dan melewatkan lonjakan besar pasar saham, tetapi pada akhirnya dia benar. Tentu saja, saham teknologi kemudian pulih perlahan
Memprediksi timing hal seperti ini memang terkenal sangat sulit, dan salah waktu 2 tahun lalu tidak berarti tidak akan ada koreksi
Ed agak menarik sebagai termometer, tetapi rasanya sulit menganggap serius apa yang dia tulis
Tim Lee juga menunjukkan bahwa ketika Ed memposting detail dari sebagian analisisnya, ada beberapa hal yang cukup aneh: https://x.com/binarybits/status/2034377838883700953
Begitu pop-up langganan newsletter muncul, saya langsung menutup tab
Ed adalah sosok yang menarik
Analisis finansialnya tentang industri AI masuk akal secara logis, tetapi saya tidak cukup tahu untuk menilai apakah itu benar dalam praktik
Namun, dia tampaknya terlalu marah pada AI secara keseluruhan sehingga melewatkan area-area jelas tempat LLM benar-benar mengubah state of the art
Coding tampaknya menjadi salah satu use case inti LLM, seperti yang baru-baru ini ditunjukkan Simon Willison, dan bahkan jika itu satu-satunya use case nyata pun itu tetap sangat berguna
Kegunaan dan profitabilitas adalah dua hal berbeda, dan menurut saya di situlah Ed menyoroti poin penting. Perusahaan-perusahaan ini tidak akan bisa menghasilkan keuntungan sampai inferensi menjadi jauh lebih murah, dan meskipun beberapa pemain superbesar akan membayar harga token API, kebanyakan tidak akan melakukannya
Jika perusahaan AI membutuhkan pendapatan puluhan miliar dolar agar bisa bertahan, maka apakah 0,5%, 5%, atau 50% dari pendapatan itu berasal dari perubahan state of the art sama sekali tidak relevan
Yang penting bukan apakah ini transformatif atau tidak, melainkan bahwa perusahaan-perusahaan ini tidak akan punya pemasukan untuk membayar tagihan mereka, dan jika mereka tidak bisa membayar, banyak perusahaan lain juga tidak akan bisa
Jadi, ada transformasi atau tidak, ini tetap rumah kartu yang tinggal menunggu runtuh. Untuk mengubah itu, yang dibutuhkan bukan lebih banyak “transformasi”, melainkan paket fitur yang bisa melipatgandakan basis pengguna saat ini beberapa kali atau menaikkan harga beberapa kali lipat
Dalam beberapa hal, itu cukup menyegarkan. Banyak orang mengkritik sisi ini dan itu dari AI, tetapi di akhir selalu menambahkan disclaimer seperti, “tetapi sebenarnya saya sangat suka AI dan memakainya setiap hari”
Mungkin itu cara praktis untuk menghindari para builder pragmatis yang membanjiri kolom komentar untuk mengirimkan nuansa dengan tenang, atau dalam istilah zaman sekarang, didatangi para pejuang keyboard marah dengan chip di pundak mereka, dan melewati sikap dua-sisi seperti itu melelahkan
Sulit melontarkan kritik seperti itu kepada Zitron. Apa pun yang dia katakan, dia tidak tampak takut terlihat seperti memihak
Ketiganya adalah posisi yang sepenuhnya terpisah. Seseorang bisa menganggap AI sangat berguna tetapi tetap membencinya karena bisa menurunkan status sosialnya, atau bisa menyukai teknologinya tetapi menganggap Sam Altman tidak jujur
Namun banyak komentator anti-AI tampaknya anehnya merasa harus mengajukan ketiga klaim itu sekaligus
Yang lebih lucu, kalau memang benar-benar tidak berguna, tidak perlu peduli. Pasar pada akhirnya akan mengetahui bahwa itu tidak berguna, semuanya akan kembali normal, dan orang-orang yang mereka benci akan kehilangan uang
Tentu saja, saya tidak menganggap mereka sungguh percaya bahwa itu tidak berguna. Saya rasa mereka lebih khawatir tentang dampaknya terhadap prestise mereka sendiri, dan sangat berharap suatu hari semua orang akan “tersadar” lalu berbagi keyakinan bahwa LLM hanyalah burung beo stokastik tanpa kegunaan. Tetapi orang-orang memakainya setiap hari dan melihat perbaikannya secara real time
Argumennya adalah bahwa agar perusahaan-perusahaan ini bisa untung, hal-hal yang sangat besar dan belum pernah terjadi sebelum 2022 harus terjadi. Secara umum saya setuju, tetapi saya pikir hal-hal seperti itu sudah terjadi selama beberapa tahun, jadi akan terus terjadi juga di masa depan
Tidak ada dasar sama sekali, selain suasana, untuk percaya bahwa inferensi itu mahal. Dari data dan intuisi, marginnya tinggi
Cara berpikir ini memperkuat keyakinan saya bahwa orang-orang, tanpa benar-benar paham, memakai kalimat “AI tidak menguntungkan dan terlalu mahal” sebagai semacam katarsis untuk merespons kemajuan besar
Zitron adalah pelaku bisnis yang bergerak di pembuatan konten, bukan keberhasilan prediksi
Tidak masalah berapa kali dia dan orang-orang sejenisnya berkata bahwa akhirnya sudah tiba; mereka hanya perlu benar satu kali
Namun untuk saat ini, soal keekonomian memang ada bagian yang jelas benar. Masih belum ada cara untuk mendapatkan kembali investasi raksasa ini
Menurut saya, AI akan mengubah dunia secara radikal
Bisa menjadi lebih buruk, bisa menjadi lebih baik, atau campuran keduanya, tetapi saya tidak meragukan hal itu sendiri
Lompatan bernama LLM baru dimulai sekitar 5~6 tahun lalu. Sebagai perbandingan, gelombang radio ditemukan pada 1886, Marconi menggunakannya untuk komunikasi pada 1895, dan telepon serta radio hidup berdampingan selama beberapa dekade, tetapi ponsel dan teknologi nirkabel benar-benar berkembang pada 1995
Alasannya memakan waktu lama bukan karena fisika gelombang radio perlu waktu untuk matang, melainkan karena semua hal lain yang dibutuhkan untuk menghasilkan keuntungan darinya juga memerlukan waktu
Bagi saya, LLM lebih dekat ke building block daripada AI itu sendiri. Bisa jadi setara dengan gelombang radio atau transistor
Kita sudah melihat bahwa LLM bisa dihubungkan untuk dijadikan agen. Saat ini, harga adalah faktor pembatas yang ketat untuk coding dan agen
Jika yang Anda inginkan hanya Claude Code atau Codex, itu masih lumayan masuk akal, tetapi ada banyak kombinasi LLM yang bahkan tidak berani dicoba oleh kebanyakan orang. Misalnya, menjalankan dialog NPC dan mekanisme dunia dalam game dengan LLM masih belum praktis karena biayanya
Jika harga hardware inferensi turun dan algoritme inferensi terus membaik, saya yakin sekaligus takut bahwa kita akan melihat hal-hal yang sulit dibayangkan hari ini
Biaya bukan masalahnya. Respons dan skenario yang konsisten secara kontekstual jumlahnya terbatas, jadi tidak perlu LLM menghasilkan teks secara real-time di dalam game
Sebagai gantinya, Anda bisa memakai LLM untuk membuat korpus besar berisi “atom” seperti pesan dialog, fragmen, dan petunjuk, lalu menyambungnya secara deterministik berdasarkan input pemain. Ini juga memungkinkan peninjauan lebih dulu dan berbagai pengujian sebelum implementasi
Bagi pemain yang berinteraksi dalam game, sistem seperti ini kemungkinan akan sulit dibedakan secara fungsional dari teks generatif selama masih berada dalam rentang interaksi yang memang dirancang
Keuntungannya juga besar. Jika pemain keluar dari peran dan sengaja menusuk-nusuk batasnya, sambungannya mungkin terlihat, tetapi sistem ini tidak bisa dieksploitasi seperti LLM
Betapa tajamnya wawasan itu, meragukan bahwa sesuatu bisa membuat keadaan lebih baik, lebih buruk, atau keduanya
Pernyataan “kita masih terlalu dini” juga aneh. Sudah ada beberapa iklan Super Bowl, perusahaan-perusahaan yang praktis menguasai berita teknologi membuat jurnalis mengulang begitu saja omong kosong para CEO mereka, dan ketika mereka bilang valuasinya lebih dari 1 triliun dolar, orang-orang yang punya wewenang untuk membantah sisi keuangannya tampaknya hanya mengangguk setuju
Mereka telah membangun data center seluas ratusan acre, menandatangani kontrak data center yang bahkan tidak akan terwujud, dan meminta miliaran dolar setiap bulan
Mereka melahap silikon sampai orang-orang melihat sendiri harga hardware naik dua kali, tiga kali lipat atau lebih
Tempat kerja memaksa karyawan memakai AI, lalu mundur ketika subsidi menghilang dan biaya nyatanya terlihat sehingga semuanya jadi tidak menarik lagi
Namun tetap saja mereka bilang butuh lebih banyak waktu, lebih banyak perhatian, lebih banyak orang yang melihat. Saya tidak tahu kapan hal seperti ini pernah terjadi dalam sejarah radio
Simulasi itu membosankan
Dasar Ed melihat bahwa “AI sedang melambat” adalah batas atas pengeluaran perusahaan, khususnya batas Uber sebesar US$1.500 per bulan per engineer per tool
Saya menafsirkan bukti yang sama dengan cara yang sepenuhnya berlawanan. Bahkan 1 tahun lalu pun gagasan bahwa perusahaan akan menghabiskan US$1.500 per bulan per karyawan untuk tool AI terdengar tidak masuk akal, dan orang akan bertanya sebenarnya AI dipakai untuk apa sampai biayanya sebesar itu
Namun dengan hadirnya agen coding dan agen yang makin serbaguna, permintaan dari karyawan menjadi begitu tinggi sehingga perusahaan harus memasang batas
Total pasar potensial bagi perusahaan-perusahaan AI ini melonjak menjadi US$1.500 per bulan per pekerja pengetahuan, dan saya tidak mengerti bagaimana ini bisa disebut melambat
Tetapi untuk mencapai ROI, tingkat pengeluaran sebesar itu atau lebih tinggi harus terjadi secara global, dan dalam jangka panjang tidak mungkin anggaran seperti itu akan lolos
Perusahaan suka menghemat biaya, dan begitu mereka menilai ada jalan lain yang memberi nilai yang sama atau lebih baik seperti halnya mereka memangkas karyawan sesuka hati, anggaran seperti itu juga akan cepat hilang
Atau bisa saja hilang hanya karena tuntutan pemegang saham atas nilai jangka pendek
Artinya, hanya dengan memakai Claude Code dan Cursor saja Anda dengan mudah mencapai US$3.000 per bulan, dan jika Codex juga menjadi opsi, itu bisa menjadi US$4.500
Dan seperti yang Anda tulis di blog, ini adalah soft cap yang bisa dilewati jika dapat dibenarkan