OpenAI dan NVIDIA umumkan kemitraan strategis untuk membangun sistem NVIDIA berskala 10GW

• OpenAI mengumumkan rencana untuk membangun pusat data AI berskala setidaknya 10GW berbasis sistem NVIDIA guna menyiapkan infrastruktur AI generasi berikutnya
• Dalam proses ini, NVIDIA berkomitmen untuk secara bertahap berinvestasi hingga 100 miliar dolar AS pada setiap deployment berskala gigawatt
• Sistem pertama berskala 1GW dijadwalkan mulai beroperasi pada paruh kedua 2026 di platform Vera Rubin
• Kolaborasi ini mencakup optimisasi bersama perangkat keras dan perangkat lunak antara OpenAI dan NVIDIA, sekaligus melengkapi kerja sama yang sudah ada dengan para mitra seperti Microsoft, Oracle, SoftBank, dan Stargate
• Ini diperkirakan menjadi pijakan penting bagi OpenAI untuk melangkah menuju AGI dengan dukungan lebih dari 700 juta pengguna mingguan dan adopsi bisnis global

---

Gambaran umum kemitraan

• OpenAI dan NVIDIA mengumumkan letter of intent (LOI) untuk menjalin kemitraan strategis dalam menghadirkan sistem berskala minimal 10GW
  • Bertujuan mengamankan infrastruktur untuk pelatihan dan operasional model generasi berikutnya milik OpenAI
  • Diperkenalkan sebagai bagian dari kemajuan bertahap menuju superintelligence
• NVIDIA menyatakan rencana investasi hingga 100 miliar dolar AS seiring proses deployment, termasuk perluasan pusat data dan pasokan daya
• Tahap pertama dijadwalkan online pada paruh kedua 2026 di platform NVIDIA Vera Rubin

Pernyataan utama

• Jensen Huang (CEO NVIDIA)
  • Menyebut sejarah kolaborasi 10 tahun dengan OpenAI dan menekankan perjalanan hingga terobosan ChatGPT
  • Mengatakan, “Deployment infrastruktur 10GW adalah lompatan yang akan membuka era generasi berikutnya dari kecerdasan.”
• Sam Altman (CEO OpenAI)
  • Menekankan bahwa “semuanya dimulai dari compute” dan akan menjadi fondasi ekonomi masa depan
  • Menjelaskan bahwa bersama NVIDIA, mereka akan mendorong terobosan AI baru serta pemanfaatan berskala besar bagi manusia dan bisnis
• Greg Brockman (President OpenAI)
  • Menyebut bahwa mereka telah membangun AI yang digunakan ratusan juta orang di atas platform NVIDIA
  • Menyatakan harapan bahwa deployment 10GW akan memperluas batas kecerdasan dan menyebarkan manfaat teknologi

Cakupan kerja sama

• NVIDIA ditunjuk sebagai mitra strategis compute dan jaringan bagi OpenAI
• Kedua perusahaan akan mengoptimalkan bersama model dan perangkat lunak infrastruktur OpenAI dengan perangkat keras dan perangkat lunak NVIDIA
• Sinergi dengan jaringan kemitraan yang sudah ada seperti Microsoft, Oracle, SoftBank, dan Stargate juga akan diperluas

Kondisi OpenAI saat ini dan maknanya

• OpenAI saat ini mencatat lebih dari 700 juta pengguna aktif mingguan dan telah diadopsi secara luas oleh perusahaan global, UKM, dan para pengembang
• Kemitraan ini dinilai sebagai fondasi untuk mempercepat misi membangun AGI yang memberi manfaat bagi seluruh umat manusia
• Rincian syarat kemitraan direncanakan akan difinalkan dalam beberapa minggu ke depan

[GN⁺]

Opini Hacker News

• Sangat menarik bahwa skalanya dinyatakan dalam gigawatt. Selama 3 tahun terakhir, ada kontroversi soal lonjakan tagihan listrik rumah tangga dan usaha kecil akibat pertumbuhan AI yang didorong pusat data. Jika 10GW setara dengan gabungan konsumsi Chicago dan New York, maka di tengah kondisi jaringan listrik dan infrastruktur AS yang memprihatinkan, perlu ada pembahasan serius soal dari mana listrik itu akan diperoleh. Biaya sudah dibebankan ke rumah tangga demi memasok listrik murah ke pusat data, jadi ketimpangan ini juga masalah. Kenaikan tarif listrik rumah tangga AS dari 13 sen menjadi 19 sen dalam 5 tahun, atau naik 46%, sama sekali tidak adil dan tidak berkelanjutan. Yang membuat penasaran: sebenarnya 10GW ini akan disuplai dari mana, dan siapa yang akan menanggung biayanya? Sebagai catatan, ketika membicarakan skala pusat data, memang lazim menggunakan acuan daya (watt), tetapi kali ini angkanya datang dari sudut pandang pemasok komputasi seperti Nvidia, bukan pemilik atau operator pusat data murni. Itu menunjukkan bahwa konsumsi daya, perluasan jaringan listrik, dan pembagian beban biaya adalah isu utamanya
  • Saya bekerja di industri pusat data. Menyebut skala pusat data berdasarkan konsumsi daya, misalnya 200MW, memang standar. Perangkat komputasi bisa di-upgrade tiap 5 tahun, tetapi kebutuhan dayanya hampir tetap. Pada akhirnya, AI adalah proses memurnikan energi, dan satuan ini menunjukkan hal itu dengan sangat jelas
  • Menanggapi klaim “tidak adil dan tidak berkelanjutan”, dibanding Italia, tarif listrik di AS hanya setengahnya. Di negara sekaya AS, rasanya ini bukan sesuatu yang mustahil diatasi
  • Infrastruktur pusat data selalu dialokasikan berdasarkan watt. Dari angka itu diturunkan semua perhitungan untuk beban IT, pendinginan, dan sebagainya
  • Perusahaan utilitas wajib memberikan dasar kepada regulator saat menaikkan tarif. Penyebab utama kenaikan biaya adalah transisi ke energi terbarukan. Tidak sulit untuk membuat pusat data besar menanggung sendiri biaya yang mereka perlukan. Namun memproduksi listriknya sendiri adalah persoalan yang lebih rumit. Dulu mereka bisa mengambil listrik murah dari PLTA Sungai Columbia, tetapi sekarang mulai bersaing langsung dengan konsumsi perumahan. Meski begitu, biaya pembangkitan hanya bagian yang sangat kecil dari total tagihan
  • Kenaikan 8% per tahun memang besar, tetapi perlu diingat ada gejolak bahan bakar global pada 2022. Misalnya di Australia, tarif listrik tahun itu naik dua kali lipat. Secara rata-rata dalam jangka panjang, kenaikannya sekitar 6% per tahun, sedikit di atas pertumbuhan upah 4%. Tagihan listrik tetap merupakan porsi kecil dari pendapatan rumah tangga. Kenaikan upah menyerap sebagian besar dampaknya. Tentu bagi kelompok berpendapatan rendah ini bisa menjadi pukulan, tetapi bagi mayoritas orang dampaknya tidak terlalu besar
• Semua ungkapan dalam siaran pers soal “landmark strategic partnership” terasa terlalu kabur dan seperti bahasa promosi perusahaan. Praktiknya, ini tampak seperti pengumuman “suatu hari nanti kami akan melakukan sesuatu yang hebat”
  • Saham Nvidia naik $6 hari ini, jadi efek pengumumannya jelas berhasil. Pada dasarnya ini seperti menagih investor dengan pesan “kami akan melakukan sesuatu yang besar, jadi tolong tambah modal”, dan tampaknya banyak investor meresponsnya
• Saya penasaran apa tepatnya yang dimaksud dengan skala gigawatt untuk sistem Nvidia. Berdasarkan perkiraan sendiri, dibantu GPT, jumlahnya mungkin mendekati 10 juta unit. Skalanya benar-benar luar biasa besar
  • Angka sebesar ini jelas sangat gila. Di level sistem, satu H100 mengonsumsi sekitar 1~2kW, jadi dengan asumsi 2kW hasilnya sekitar 5 juta unit. Misalnya rak NVL72 memiliki 72 chip dengan 120kW, atau total 2kW per chip termasuk pendinginan
  • Menyebutnya “jutaan unit” juga tidak masalah. Jumlah pastinya berbeda tergantung lingkungan infrastruktur, dan pada praktiknya akselerator hanya mencakup sebagian dari total daya, tetapi skalanya jelas berada di kisaran jutaan
  • Sebelum melihat komentar lain saya sempat hitung cepat, dan jika satu GPU dianggap 600W maka 10,000,000,000/600=16,6 juta unit. Dengan mempertimbangkan berbagai faktor hasil sebenarnya tentu bisa berbeda jauh, tetapi ini titik awal yang kasar. Overhead, panas, efisiensi konversi, dan sebagainya belum dihitung
  • Jika dihitung 3MW per 1000 GPU, maka 10GW kira-kira setara 3,33 juta unit
  • Saya juga penasaran jenis dan panjang kabel yang dibutuhkan untuk menghubungkan semua GPU ini. Saya kira cuma tinggal dipasang di rak logam, tetapi setelah melihat foto pusat data ternyata ada sangat banyak kabel biru yang saling terhubung
• Saya merasa teknologi LLM (model bahasa besar) sudah melewati puncaknya. Sekarang kesannya seperti iklan pemanas ruangan: seolah ada kemajuan besar, padahal teknologinya mandek. Yang dibuat hanya kuda yang lebih cepat. Pasar seharusnya bisa mengendalikan situasi ini secara lebih rasional
  • Sangat mungkin gelembung AI suatu saat pecah secara spectacular. Tetapi mengatakan sekarang adalah puncak LLM sama seperti bilang internet mencapai puncaknya pada 99~01. Faktanya sesudah itu masih muncul banyak inovasi seperti smartphone, dan LLM berbasis teks pun belum mandek. AI bukan cuma teks, AI dunia nyata seperti mobil otonom juga masih berkembang secara eksponensial
  • Saat gelembung dot-com pun ada overheating besar lalu crash besar, dan perusahaan yang bertahan seperti Amazon kemudian menjadi raksasa. Saya berharap ledakan AI kali ini juga meninggalkan hasil yang bermakna
  • Saya pikir koreksi pasar akan segera datang. Namun seperti internet yang tetap bernilai setelah kejatuhan dot-com, saya berharap nilai jangka panjangnya tetap ada
  • Sudut pandangnya adalah bahwa semua ekspektasi positif kini sudah sepenuhnya tercermin dalam harga, sehingga dianggap “sudah kelewatan”
• Air adalah sumber daya esensial yang langka di banyak wilayah. Sudah beberapa kali ada kasus pusat data menyedot air saat musim kering. Saya penasaran apakah EPA AS masih bisa bersuara soal pengelolaan penggunaan air untuk proyek seperti ini
  • Air tanah di Midwest lebih banyak dipakai untuk produksi etanol, dan di California untuk pertanian almond. Dampak dua industri itu terhadap sumber daya air jauh lebih besar, sementara kegunaan nyatanya justru lebih rendah dibanding pusat data. Saya berharap perhatian lebih difokuskan pada isu yang benar-benar serius
  • Isu air pusat data tidak sepenting yang diberitakan media. Di beberapa wilayah memang ada masalah lokal, tetapi justru masalah listrik jauh lebih utama
  • Saya penasaran apakah konsumsi air pusat data sebenarnya tidak sebesar itu karena menggunakan sistem pendinginan sirkulasi, jadi airnya bukan benar-benar habis dipakai melainkan hanya dipompa berputar
• Tidak ada yang benar-benar membicarakan kebutuhan listrik dari fasilitas sebesar ini. Tagihan listrik yang saya bayar di New Jersey juga naik lebih dari 50% menurut tarif PSEG. Mereka bilang permintaan melonjak akibat pusat data, tetapi kenyataannya pusat data tidak dikenai tarif yang lebih tinggi artikel terkait
  • Kenaikan tarif seperti ini menunjukkan realitas politik New Jersey yang mengabaikan konsumen. Pada akhirnya pusat data akan berkumpul di wilayah yang memiliki tarif listrik kompetitif
  • Yang membiarkan ini terjadi adalah pemerintah negara bagian. Sebenarnya mereka bisa saja menolak, tetapi justru mengizinkannya
• Google memakai 15TWh per tahun (sekitar 1,7GW), sementara rencana baru OpenAI dan Nvidia akan mengonsumsi listrik 5,8 kali lebih besar dari itu, atau 5,8 Googles. Pada skala seperti ini, akan muncul peluang besar untuk chip komputasi AI ultra-hemat daya dibanding GPU saat ini. Sudah ada berbagai upaya teknis ke arah itu, jadi menarik untuk dinantikan
  • Saya penasaran contoh konkret chip AI ultra-hemat daya seperti apa. Akan bagus jika ada angka tentang seberapa besar penghematan dayanya
  • Bahkan satu pusat data ini saja bisa mengumpulkan daya komputasi yang cukup untuk melakukan serangan 51% terhadap mata uang kripto besar. Jika pasar AI akhirnya surut setelah puncak gelembung, itu bisa menjadi semacam asuransi yang menarik
• Saya hanya diam-diam menunggu artikel analisis isu dari Ed Zitron
  • Jika eksekutif tidak bisa mengukur kinerja dari output, mereka akan mengukurnya dari input, dan efisiensi pun menurun. Perintah kembali ke kantor untuk karyawan juga bagian dari pola itu. Kini bagi OpenAI dan Nvidia, gigawatt yang dimasukkan tampaknya menjadi ukuran kesuksesan yang lebih penting daripada hasil AI yang nyata
  • Tulisan langsung dari Ed Zitron
  • Banyak orang juga pernah rugi besar gara-gara satu prediksi pesimistis dari Ed Zitron
• Ada asumsi bahwa pusat data ini membutuhkan lahan seukuran Monaco (740 acre), dengan patokan 80kW/rak
  • Monaco itu sangat kecil, kira-kira cukup dimasukkan ke taman Tempelhofer di pusat Berlin
  • Pada dasarnya bisa juga dijelaskan sebagai kira-kira seukuran satu pabrik BYD
  • Monaco luasnya 2 kilometer persegi. Jika satu rak dianggap 1 meter persegi, maka luas aktual yang dibutuhkan adalah 12 hektare, atau sekitar 17 lapangan sepak bola, dengan asumsi instalasi satu lantai. Saya jadi berpikir pusat data bisa saja ditumpuk secara vertikal. Apakah cuma saya yang langsung mencari ukuran Monaco? Wiki Monaco Perhitungan luas langsung
  • Seluruh wilayah AS bisa memuat 4,8 juta Monaco
• Reaktor kapal selam Angkatan Laut AS pada 1960-an memiliki daya 78MW, jadi 10GW setara dengan 128 kapal selam bertenaga reaktor
  • Agar lebih mudah dibayangkan, ini setara dengan 2% dari rata-rata konsumsi listrik seluruh AS, atau kurang lebih seperti satu negara Belanda dengan populasi 18 juta orang
  • Satu pembangkit listrik biasanya sekitar 1GW, dan PLTN umumnya maksimal 2GW, sementara ladang angin lepas pantai 1,5GW juga sudah mendekati batas. Bahkan sistem transmisi DC 525kV skala besar pun maksimal hanya bisa menyalurkan 2GW per kabel. Tambahan beban 10GW saja sudah memberi guncangan besar ke jaringan listrik dan membutuhkan investasi fasilitas yang sangat besar. Bahkan jika perusahaan besar meminta kabel 525kV sekarang, kemungkinan baru akan mendapatkannya setelah 2030
  • Di sisi lain, jika otak manusia mengonsumsi sekitar 20W, maka 10GW setara dengan 500 juta otak manusia. Dibanding serangga seperti lalat yang memproses informasi dengan energi sangat kecil, AI saat ini seperti LLM mungkin sepenuhnya bergerak ke arah yang tidak efisien. Kalau suatu hari muncul pendekatan yang jauh lebih efisien dan membalik keadaan, fasilitas saat ini bisa saja kehilangan nilainya, haha
  • Sepuluh reaktor РБМК 1GW yang sangat aman berarti 10GW (tanpa risiko meledak)
  • Satu pembangkit biasanya sekitar 1GW, dan karena PLTN lambat dibangun, pada akhirnya pembangkit gas alam tampaknya yang paling mungkin dipilih