CEO IBM: “Investasi pusat data AI kemungkinan tidak akan pernah menghasilkan keuntungan”

• Menanggapi lonjakan investasi pusat data oleh perusahaan AI global, CEO IBM Arvind Krishna menyampaikan keraguan besar terhadap profitabilitasnya
• Ia menyebut bahwa berdasarkan biaya saat ini, membangun pusat data 1 gigawatt membutuhkan sekitar 80 miliar dolar AS, dan perusahaan-perusahaan besar sedang mendorong proyek 20~30 gigawatt
• Secara global, investasi infrastruktur AI skala sekitar 100 gigawatt sedang berlangsung, yang ia hitung bernilai total 8 triliun dolar AS
• Krishna menilai bahwa dengan mempertimbangkan depresiasi 5 tahun untuk chip AI dan biaya modal yang sangat besar, dibutuhkan laba tahunan 800 miliar dolar AS, yang secara realistis mustahil
• Ia menilai peluang tercapainya AGI (kecerdasan umum buatan) dengan teknologi saat ini hanya 0~1%, dan menekankan bahwa LLM saja memiliki keterbatasan

---

Lonjakan investasi pusat data AI dan kontroversi profitabilitas

• Perusahaan-perusahaan AI besar sedang menggelontorkan miliaran dolar ke pusat data di tengah persaingan menuju AGI
  • Meta berulang kali menyebut “capacity” dan “AI infrastructure” dalam laporan kinerjanya baru-baru ini
  • Google mengumumkan rencana jangka panjang untuk membangun pusat data berbasis luar angkasa
• Krishna mengatakan bahwa “hampir tidak ada kemungkinan investasi seperti ini akan kembali sebagai keuntungan”
  • Ia menambahkan bahwa ini adalah “perhitungan berdasarkan kondisi hari ini”, dengan asumsi biaya masa depan masih belum pasti

Perhitungan biaya Krishna dan analisis profitabilitas

• Ia menjelaskan bahwa membangun pusat data 1 gigawatt membutuhkan sekitar 80 miliar dolar AS
  • Jika satu perusahaan mendorong 20~30 gigawatt, maka akan muncul belanja modal (capex) sebesar 1,5 triliun dolar AS
• Secara global, investasi skala sekitar 100 gigawatt sedang berlangsung, dengan total nilai sekitar 8 triliun dolar AS
  • Dalam kondisi ini, dibutuhkan laba tahunan 800 miliar dolar AS hanya untuk menanggung bunga
• Ia menegaskan bahwa “tidak ada cara untuk menghasilkan keuntungan sebesar itu”

Depresiasi dan risiko investasi

• Ia menunjuk depresiasi 5 tahun untuk chip AI sebagai risiko utama
  • Ia mengatakan, “setelah 5 tahun, chip harus dibuang dan diisi ulang lagi”
• Investor Michael Burry juga menyoroti masalah depresiasi Nvidia, yang memicu penurunan saham AI
• Krishna menilai struktur depresiasi seperti ini akan semakin memperburuk ROI (tingkat pengembalian investasi)

Keraguan terhadap kemungkinan tercapainya AGI

• Krishna memperkirakan peluang tercapainya AGI dengan teknologi saat ini hanya 0~1%
  • Ia mengatakan hal itu “tidak mungkin tanpa terobosan teknologi tambahan”
• Ia mengusulkan bahwa LLM (large language model) saja memiliki batasan, dan diperlukan integrasi dengan ‘pengetahuan keras’
• Ilya Sutskever dari OpenAI juga menekankan pergeseran ke riset, dengan mengatakan bahwa “era scaling telah berakhir”

Sudut pandang skeptis lain di industri

• Marc Benioff menyebut dorongan menuju AGI sebagai “seperti hipnosis”, menunjukkan sikap skeptis
• Andrew Ng mengatakan bahwa AGI “terlalu dibesar-besarkan”
• Arthur Mensch, CEO Mistral, menyebut AGI sebagai “strategi pemasaran”

Penilaian akhir CEO IBM

• Krishna menilai alat AI saat ini akan menciptakan nilai bernilai triliunan dolar dalam produktivitas perusahaan
• Namun, ia menekankan bahwa untuk mencapai AGI, dibutuhkan kemajuan teknologi yang melampaui jalur LLM saat ini
• Ia tetap berhati-hati dengan mengatakan bahwa bahkan dalam kondisi demikian pun kemungkinannya hanya berada di tingkat “maybe”

[un0haep337]

Saya setuju bahwa skala dan rencana investasi pusat data AI saat ini berlebihan, tetapi rencana tetaplah rencana, dan dalam situasi ketika tidak seorang pun bisa memprediksi kecepatan serta arah perkembangan teknologi, membuat penilaian yang terlalu tegas itu berisiko dan tampaknya bukan keputusan yang baik bagi seorang CEO.

[halfenif]

(Dalam sebuah wawancara) pertanyaan kepada Ketua SKT Chey Tae-won tentang apakah ia menganggap AI sebagai gelembung, dan jawabannya, terasa mengesankan.

Nuansa yang saya ingat adalah, "Bahkan jika itu memang gelembung, semua orang melakukannya, jadi kita tidak bisa tidak ikut melakukannya."

[aer0700]

Jujur sekali ya.

[mhj5730]

Kalau melihat uang yang masuk, rasanya efisiensi akan diterapkan di semua bidang yang bisa dibuat lebih efisien.
[biaya listrik, efisiensi parameter LLM, caching, dan sebagainya] pada akhirnya bukankah hal-hal seperti ini akan membuat biaya yang dibutuhkan jadi lebih kecil dari perkiraan? Hmm hmm.. sikap pesimistis terhadap kecerdasan buatan (~~ sama sekali tidak akan berhasil) selalu terpatahkan.

Bahkan hanya melihat LLM saja, bagi saya itu terasa seperti keajaiban.

[bus710]

Secara angka memang begitu, tapi...
Selain LLM dan data center, rasanya memang tidak ada lagi yang cukup kuat untuk mendorong ekonomi AS.

[love7peace]

Hampir sama dengan pikiranku juga... kami sih cukup jual banyak memori saja, itu sudah beres

[GN⁺]

Komentar Hacker News

• Mengutip perkataan Steve Jobs bahwa pada 1958 IBM melewatkan teknologi xerography, 10 tahun kemudian mengabaikan minicomputer, dan 10 tahun setelah itu meremehkan Apple II
  Melihat CEO IBM sekarang berkata bahwa “investasi pusat data AI tidak akan menghasilkan keuntungan”, rasanya IBM masih belum pandai membaca masa depan
  Referensi terkait: Steve Jobs 1983 Keynote, sejarah penemuan Xerox

  • IBM sebenarnya sudah merilis komputer pribadi bernama IBM 5100 pada 1975. Masalahnya, harganya terlalu mahal
    Setelah itu IBM PC (5150) menurunkan harga dengan memakai komponen komersial, dan itulah kunci keberhasilannya
    Wiki IBM 5100
  • Saya tidak paham apa kaitan contoh-contoh masa lalu itu dengan penilaian CEO saat ini
  • Menurut saya tidak ada gunanya berfokus pada pembawa pesan alih-alih pesannya. Xerox sudah lama lewat masa jayanya, sementara IBM masih perusahaan bernilai 300 miliar dolar
    Apple II juga nyaris tidak berpengaruh di pasar perusahaan. Lagi pula ini cerita 50 tahun lalu, terpisah dari diskusi ROI investasi AI saat ini
  • DEC sudah lenyap, dan Xerox hanya bernilai 1/1000 kapitalisasi pasar IBM. Keterbukaan arsitektur PC IBM justru menjadi faktor yang membuatnya mendominasi pasar

• CEO IBM mengatakan bahwa “chip AI harus dibuang setelah 5 tahun”, tetapi itu terasa seperti asumsi yang terlalu pasti
  Jika perangkat keras masih stabil setelah 5 tahun, masih ada peluang menghasilkan uang dengan menjalankan model lama berbiaya rendah

  • Michael Burry justru berpendapat bahwa 5 tahun adalah periode depresiasi yang terlalu longgar. Menurutnya, 2~3 tahun lebih tepat
    Tweet Burry
  • Periode depresiasi standar untuk perangkat keras server memang 5 tahun, jadi ini bukan masalah GPU semata
  • Server lama tetap berfungsi dengan baik, tetapi dari sisi efisiensi daya kalah ekonomis dibanding teknologi terbaru
  • Seperti pada kasus penambangan kripto, permintaan GPU bisa membuat siklus penggantian lebih cepat saat ASIC muncul.
    Pada akhirnya siklus 5 tahun akan sangat memengaruhi keputusan investasi
  • Jika pesaing memakai chip yang lebih efisien, pada akhirnya perangkat keras lama harus dibuang dan di-upgrade

• Saya rasa tidak semua investasi pusat data AI bisa terealisasi. Hanya dari permintaan listrik saja sudah ada batasnya

  • Negara-negara Barat memiliki cadangan listrik yang rendah, tetapi Tiongkok mempertahankan cadangan 100% sehingga mampu merespons lonjakan permintaan
  • Namun para CEO tentu sudah menelitinya dengan cukup, jadi sulit mengatakan bahwa kita lebih tahu daripada mereka

• Gartner memprediksi pengeluaran AI global pada 2025 akan mencapai 1,5 triliun dolar
  Dibandingkan dengan GDP dunia (111 triliun dolar per 2024), saya rasa itu tidak terlalu berlebihan
  Umur investasi AI diperkirakan sekitar 6~8 tahun, dan jika tidak terlalu pesimistis, skalanya masih masuk akal
  Laporan Gartner
  Data GDP Bank Dunia

  • Tetapi apakah manfaat tambahan terhadap GDP itu benar-benar bisa diambil investor adalah persoalan lain
  • GPU menjadi usang jauh lebih cepat daripada 6~8 tahun, sehingga periode balik modal bisa lebih singkat

• Jika layanan LLM pada dasarnya memakai mode respons singkat (di bawah 200 token), serta menerapkan prompt caching dan routing model kecil,
  saya rasa penggunaan energi bisa ditekan lebih dari 70%
  Pada skala ChatGPT, biaya listrik tahunan 50~100 juta dolar bisa turun menjadi 5~10 juta dolar dengan cara ini
  Jika EU atau California mewajibkan mode seperti ini, ekonomi pusat data juga akan berubah besar

  • Kalau begitu, saya penasaran mengapa optimasi penghematan 90% seperti ini belum diterapkan

• Sepuluh tahun lalu IBM membanjiri iklan seperti “Cognitive Finance” dengan membawa nama “Watson”, tetapi sekarang tidak ada yang membicarakannya
  Mungkin mereka hanya tidak suka melihat ledakan AI saat ini dipimpin oleh pihak lain

  • IBM juga dulu masuk lebih awal ke AI dan cloud, tetapi gagal merebut pangsa pasar
    Demo teknologinya memang mengesankan, tetapi tidak ada model bisnis nyata
  • Konsultan eksternal mendorong Watson seolah itu solusi untuk semua masalah, padahal kenyataannya mahal dan tidak berguna
    Saya ingat harus membuat PoC sendiri untuk membuktikan bahwa itu tidak akan berhasil
  • Karena IBM pernah mengalami kegagalan seperti itu, bisa jadi sekarang mereka punya pandangan yang lebih skeptis
    Meski begitu, mengingat posisinya di pasar, pendapat mereka juga tidak sepenuhnya bisa diabaikan
  • Kegagalan Watson tidak otomatis membatalkan penilaian CEO saat ini
  • Bisa jadi IBM hanya membuat penilaian realistis bahwa “investasi bernilai miliaran dolar tidak menghasilkan ROI”

• Ada benarnya juga pernyataan CEO IBM bahwa AI sulit menghasilkan keuntungan
  Menurut hitungan berbasis NVIDIA, dengan daya 1GW bisa dihasilkan 6.29×10^16 token per tahun,
  dan jika seluruh teks internet hanya berada di kisaran 10^14 token, datanya sendiri mungkin akan mencapai batas

  • Namun angka itu tampaknya terlalu kecil. Jika memasukkan data gambar dan video, selisihnya akan mencapai lebih dari beberapa orde magnitudo
  • Jika memasukkan token gambar, saya kira selisihnya setidaknya lebih dari 5 orde magnitudo
  • Tapi saya tetap tidak paham mengapa perhitungan seperti ini mengarah pada kesimpulan bahwa “AI tidak bisa menghasilkan keuntungan”

• Dalam diskusi AI saat ini ada tiga faktor ketakutan

  1. takut ini mungkin gelembung
  2. takut revolusi yang sesungguhnya mungkin benar-benar datang
  3. takut ketinggalan revolusi itu (FOMO)
     IBM tampaknya bukan punya wawasan khusus, melainkan hanya mencerminkan sebagian dari ketakutan itu

• Saya rasa investasi infrastruktur AI mirip dengan investasi berlebihan kabel serat optik pada masa gelembung dot-com
  Dalam jangka panjang memang bernilai, tetapi tiap perusahaan bisa gagal besar
  Tingkat utilisasi dan model pendapatan lebih penting daripada jumlah GPU

  • Sebagai pandangan yang berlawanan, diperkenalkan tulisan blog yang membahas topik serupa
  • Namun kabel serat optik memiliki nilai jangka panjang yang jelas, sedangkan GPU punya penggunaan terbatas di luar AI, sehingga lebih berisiko

• IBM adalah perusahaan yang melewatkan peluang di perangkat keras konsumen, sistem operasi, dan cloud
  Ucapan CEO mungkin benar, tetapi tidak cocok dijadikan patokan prediksi masa depan