Google untuk pertama kalinya mengungkap konsumsi energi prompt AI
(technologyreview.com)- Google mengungkap konsumsi listrik, air, dan emisi karbon saat aplikasi Gemini miliknya memproses prompt, menghadirkan data konkret pertama tentang penggunaan energi AI
- Prompt teks rata-rata mengonsumsi 0.24Wh listrik, setara dengan penggunaan microwave selama 1 detik, serta menghasilkan 0.26ml air dan 0.03g karbon dioksida
- Angka ini merupakan hasil analisis komprehensif yang mencakup seluruh infrastruktur, termasuk chip AI (58%), CPU·memori (25%), perangkat cadangan (10%), dan operasional pusat data (8%)
- Dibandingkan Mei 2024, pada Mei 2025 efisiensi energi meningkat 33 kali lipat, yang menurut Google didorong oleh optimisasi perangkat lunak dan peningkatan model
- Pengumuman ini penting karena memperluas transparansi perusahaan AI besar, tetapi karena informasi kunci seperti total jumlah kueri masih belum diungkap, muncul kebutuhan akan kerangka evaluasi energi AI yang terstandarisasi
Google mengungkap penggunaan energi prompt Gemini
- Google menjadi perusahaan AI besar pertama yang mengungkap konsumsi listrik, emisi karbon, dan penggunaan air saat model Gemini memproses prompt teks
- Satu prompt rata-rata menghasilkan 0.24Wh listrik, 0.26ml air, dan 0.03g CO₂, yang kira-kira setara dengan menyalakan microwave selama 1 detik atau lima tetes air
- Pengumuman ini menjelaskan data rinci dan metode perhitungannya melalui wawancara dengan MIT Technology Review
Rincian struktur penggunaan energi
- Dari total konsumsi listrik, chip AI (TPU) menyumbang 58%, CPU·memori 25%, perangkat cadangan 10%, dan operasional pusat data (pendinginan·konversi daya) 8%
- Google menjelaskan bahwa analisis dilakukan dengan pendekatan komprehensif yang mencakup seluruh infrastruktur perangkat keras
- Ini dinilai sebagai kontribusi riset bagi industri, karena membuka data internal yang sulit diakses para peneliti
Perbedaan antar-prompt dan keterbatasan
- Angka yang diungkap adalah nilai tengah (median), sehingga beberapa kueri bisa mengonsumsi energi jauh lebih besar
- Contoh: merangkum puluhan buku atau komputasi kompleks dengan model reasoning
- Laporan ini hanya mencakup prompt teks, dan pembuatan gambar·video tidak disertakan
- Karena itu, masih ada keterbatasan untuk memahami total konsumsi nyata dari keseluruhan penggunaan Gemini
Peningkatan efisiensi dan estimasi emisi karbon
- Google mengumumkan bahwa pada Mei 2025, dibandingkan Mei 2024, konsumsi energi per prompt turun 33 kali lipat
- Hal ini dijelaskan sebagai hasil dari perbaikan arsitektur model dan optimisasi perangkat lunak
- Estimasi emisi dihitung dengan pendekatan berbasis pasar yang mencerminkan porsi energi bersih yang dibeli Google, bukan rata-rata jaringan listrik AS, sehingga nilainya diperkirakan sekitar 1/3 dari jaringan listrik umum
Respons peneliti dan industri
- Pihak terkait proyek ML.Energy dari University of Michigan menilai pengumuman ini sebagai analisis yang paling komprehensif dan penting
- Peneliti dari Hugging Face menekankan perlunya sistem peringkat energi AI yang terstandarisasi, dan menunjukkan bahwa saat ini pengungkapan masih bergantung pada pilihan masing-masing perusahaan
- Laporan ini memperluas pemahaman tentang konsumsi sumber daya nyata dalam penggunaan AI, tetapi ketiadaan data kunci seperti total jumlah kueri masih menjadi keterbatasan besar
1 komentar
Komentar Hacker News
Saya tidak bisa menemukan tautan ke siaran pers dan laporan terkait di artikel aslinya, jadi saya lampirkan sendiri.
Kalau melihat laporan soal beban berlebih pada infrastruktur listrik, rasanya seperti strategi
dog whistleyang menonjolkan nuansa bahwa perusahaan teknologi merusak lingkungan.Mereka mempermasalahkan penggunaan air dan listrik, tetapi cenderung membesar-besarkannya secara terlalu sensasional.
Kritik terhadap konsumsi air pusat data di Dalles adalah contoh yang representatif.
Gedung-gedung itu berada di tepi Sungai Columbia, dan di dekatnya ada Bendungan Dalles yang rata-rata menghasilkan 700 megawatt.
Air sungai dipakai untuk pendinginan, lalu setelah suhunya sedikit naik dikembalikan lagi ke sungai.
Karena panas yang akan terbawa air saat mengalir ke hilir itu dikembalikan, ini bukan pemborosan total.
Artikel terkait, Info Bendungan Dalles
PDF laporan teknis resmi Google bisa dilihat di sini.
Saya penasaran kenapa yang diumumkan adalah konsumsi energi prompt median, bukan nilai rata-rata.
Nilai rata-rata akan menunjukkan konsumsi rata-rata yang sebenarnya dengan lebih intuitif.
Untuk EV, ekspektasi bahwa mobil listrik akan menjadi arus utama pada 2030 memang tidak realistis.
Baik ekspansi produksi baterai maupun infrastrukturnya sama sekali belum siap.
Pusat data bisa tiba-tiba membutuhkan listrik dalam jumlah besar di suatu wilayah kecil tertentu.
Sementara item lain seperti mobil listrik dan heat pump diadopsi secara bertahap, sehingga kenaikan kapasitas tahunan yang kecil masih cukup untuk menanganinya.
Karena pusat data sulit didistribusikan, bebannya terhadap infrastruktur lebih besar.
Saya baru-baru ini kaget mendengar Gen Z mengatakan AI sedang “menghancurkan” air.
Saya pernah bekerja di pusat data jadi tahu bahwa air dipakai untuk pendinginan, tetapi saya tidak pernah merasa bahwa air dihancurkan dalam skala besar.
Ternyata persepsi tentang GenAI dan air cukup dalam.
Ada juga yang berbicara seolah-olah “karena AI, kita akan hidup di neraka kekeringan nanti”.
Saya justru penasaran berapa konsumsi energi satu video TikTok, tetapi perbandingan seperti itu tampaknya dianggap di luar pokok bahasan.
Saat saya bertanya lewat jalur apa sebenarnya air itu hilang, apakah menjadi uap air, saya heran karena banyak orang menganggap bahwa jika sudah menguap berarti “hilang selamanya”.
Molekul airnya memang tidak “dihancurkan”, tetapi sering kali benar-benar hilang dari tempat yang tadinya bisa memanfaatkannya.
Laut Aral adalah contoh paling representatif yang hilang akibat irigasi pertanian.
Video YouTube
Masalah kekurangan air adalah fenomena yang sangat lokal.
Misalnya, jika menjalankan pusat data di Arizona, memang bisa menghadapi masalah air yang nyata, tetapi hal itu bisa dikurangi lewat daur ulang air limbah dan sebagainya.
Pembangkit Palo Verde juga memakai air limbah untuk heat exchanger.
Saya sendiri juga kaget karena baru-baru ini ditanya tentang konsumsi air AI.
Setelah saya cari sebentar, ternyata pusat data memang mengonsumsi air cukup banyak, lebih dari yang saya bayangkan. Sekitar 1 liter per 1kWh listrik.
Saya pernah mendengar bahwa para hyperscaler mencatat kinerja lebih baik dari angka ini dan menargetkan net-positive, tetapi hampir tidak ada data yang benar-benar menunjukkan bahwa nilai ini sendiri fiktif.
“1 liter/kWh” sulit dibayangkan, tetapi untuk pusat data besar itu berarti 278L/s. Debit shower 0.16L/s, dan seluruh industri almond California rata-rata tahunan 200 ribu L/s.
Itu setara dengan perkebunan almond seluas 4 mil persegi, tetapi secara nyata rasanya tidak se-ekstrem itu, dan data hyperscaler mungkin lebih baik.
Pusat data memakai pendinginan evaporatif.
Jadi bukan sekadar memanaskan air lalu mengembalikannya, tetapi benar-benar menguapkannya ke atmosfer.
(Molekul airnya tetap ada, tetapi uap air di atmosfer adalah bentuk yang sulit didaur ulang untuk penggunaan praktis.)
Klaim bahwa AI menghancurkan air bermula dari argumen NIMBY, lalu kemudian diserap sebagai logika anti-AI oleh kelompok Gen Z yang cenderung antikapitalis.
Pada 2011 Google mengumumkan bahwa satu kueri pencarian menghabiskan 0.3Wh, dan awal tahun ini Sam Altman juga mengatakan bahwa kueri OpenAI rata-rata 0.3Wh.
Mengejutkan bahwa dua angkanya mirip.
Saya mengira kueri LLM akan jauh lebih intensif energi daripada pencarian Google biasa, tetapi ini membuat saya sadar bahwa pencarian Google sendiri adalah infrastruktur yang luar biasa besar.
Misalnya, untuk pertanyaan sederhana seperti arti sebuah kata, jika small LLM berjalan di iPhone, maka 0.03Wh saja sudah cukup, jadi 10 kali lebih hemat daripada pencarian Google.
(Dengan asumsi chip A16 berjalan pada 5 watt selama 20 detik, hasilnya 0.03Wh.)
Yang saya penasaran di sini adalah apakah biaya training, terutama training run yang gagal, juga dimasukkan ke estimasi seperti ini.
Posting blog resmi Google
Perlu dicatat juga bahwa perkembangan efisiensi energi selama 14 tahun pasti berpengaruh besar.
Sekitar tahun 2008, proses inti pencarian dilakukan dengan cara meng-
grepsemua dokumen.Dokumen-dokumen dimuat ke RAM secara terdistribusi, lalu
grepdijalankan di 1000 mesin.Inverted index jarang dipakai karena tidak cocok untuk “kueri yang urutan katanya penting”.
Proses ranking dan sebagainya tentu lebih kompleks.
0.3Wh adalah 1080 joule. Karena 1 liter bensin mengandung lebih dari 30 juta joule, maka secara riil itu setara dengan 0.034 mililiter bensin.
Namun listrik jauh lebih efisien daripada mesin pembakaran dalam.
Setiap kali saya mengirim kueri ke LLM lokal saya, lampu kantor terasa berkedip dan rasanya malah butuh energi lebih banyak daripada menyalakan oven selama 1 detik.
Sekitar 2008, saya penasaran apakah Google sudah memakai pencarian berbasis deep learning.
Rasanya konsumsi daya per kueri pasti berubah-ubah ketika fitur-fitur baru ditambahkan.
Sayang sekali, di seluruh laporan itu tidak dijelaskan prompt seperti apa yang dianggap sebagai “median”.
Saya juga penasaran berapa jumlah token prompt-nya, seperti apa distribusi panjangnya, dan apakah hal itu bisa sama dari tahun ke tahun.
Tanpa informasi seperti itu, hanya menyebut median saja rasanya kurang bermakna secara praktis.
Kalau yang diberikan adalah nilai rata-rata, setidaknya kita bisa mengalikannya dengan jumlah kueri untuk memperkirakan total penggunaan.
Sam Altman juga baru-baru ini mengungkap konsumsi listrik rata-rata per kueri ChatGPT di blognya.
Rata-rata 0.34Wh per kueri ChatGPT, setara 1.5 detik oven, dan penggunaan air setara sebagian kecil penggunaan bohlam hemat energi selama beberapa menit.
Konsumsi airnya 0.000085 galon per kueri (seperlimabelas sendok teh).
Blog Altman
Secara pribadi saya merasa yang benar-benar penting bukan inferensi, melainkan training, fine-tuning, dan scraping data.
Logika bahwa “prompt merusak lingkungan” terasa terlalu sensasional.
Saya senang bahwa pengecekan fakta makin membaik.
Tetapi secara realistis, dampak pusat data baru terhadap jaringan transmisi dan distribusi listrik juga tidak bisa diabaikan.
Kalau teknologinya pada dasarnya sangat efisien energi, perusahaan-perusahaan besar tidak akan sampai berinvestasi di pembangkit nuklir swasta atau bersaing memperebutkan energi seperti sekarang.
Untuk menetapkan tolok ukur yang tepat, kita perlu membandingkan bukan sekadar total konsumsi air dan energi, tetapi apakah sumber daya air dan energi di wilayah tersebut memang cukup.
Google secara resmi melaporkan total penggunaan air seluruh pusat datanya.
Per 2024 sekitar 10 miliar galon (sekitar 0.03% dari total penggunaan di AS, dengan mempertimbangkan bahwa tidak semua pusat data berada di AS).
Angkanya sendiri tidak tampak sangat besar, tetapi hanya di Council Bluffs, IA saja sudah lebih dari 1 miliar galon, jadi perlu dipastikan apakah ekosistem wilayah seperti itu bisa menanggungnya dan apakah dikelola secara bertanggung jawab.
Google mengakui bahwa 28% dipakai di “wilayah dengan risiko penipisan atau kelangkaan air sedang ke atas”.
Laporan lingkungan Google 2025
Bahkan hanya dengan mengakses sebuah situs web, prompt bisa terkirim ke server tanpa disengaja.
Disayangkan bahwa semakin murah suatu layanan disediakan dalam skala besar, semakin cenderung layanan itu dipakai secara berlebihan.
Saya tidak setuju dengan argumen bahwa kalau konsumsi energinya benar-benar rendah, persaingan membangun pusat data baru dan infrastruktur energi tidak akan seintens ini.
Jaringan listrik AS sudah lama tidak punya kapasitas cadangan tambahan.
Itu akibat perbaikan efisiensi energi dan perlambatan industri.
Masalah yang lebih besar bukan pusat datanya sendiri, melainkan infrastruktur distribusi listrik.
Pembangkitnya mungkin ada, tetapi ada banyak masalah dalam menyalurkannya ke lokasi yang dibutuhkan.
Kontroversi soal pembangkit swasta juga lebih banyak terkait distribusi daripada pembangkitan.
Jika prompt median adalah 0.24Wh, maka itu setara energi untuk:
Kalau hitungan saya benar, 1kWh cukup untuk sekitar 4 ribu kueri.
Jika tarif listrik industri diasumsikan $0.04/kWh, maka dengan $1 bisa menjalankan 100 ribu kueri.
Jika memperhitungkan biaya pembangunan pusat data dan sebagainya, langganan $20 per bulan tampaknya tidak terlalu mahal.
Apakah hitungan saya benar?
Ya, hitungannya benar.
Kesalahan mendasar dalam pesimisme soal energi dan air AI adalah bahwa listrik, air, dan lahan semuanya pada akhirnya menjadi biaya, sementara AI tetap ditawarkan sebagai layanan yang tampak murah.
Kalau AI benar-benar menghabiskan seluruh listrik dan air, perusahaan-perusahaan tidak mungkin terus menjalankannya sambil merugi.
Tapi bukankah biaya training harus dihitung terpisah?
Jika ingin melewati artikel pihak ketiga,
Anda bisa langsung melihat posting blog Google dan
PDF makalah resminya.
Saya lebih penasaran dengan total volume, seperti jumlah total kueri Gemini per hari.
Hanya dengan angka prompt median, mustahil memperkirakan total kebutuhan energi.
Tanpa angka total kueri, median itu sendiri tidak terlalu berarti.
Mungkin rata-ratanya memang lebih tinggi sehingga sengaja tidak dipublikasikan.