問一次Gemini的耗電相當看9秒電視！Google首度公開GenAI服務的真實碳排和能耗數據

生成式AI是龐大算力和海量資料堆砌而成的技術，也代表了必須消耗龐大的算力，不只是模型訓練，就連模型推論時，都需要算力來支持。但過去沒有任何一家GenAI技術領先者揭露自己的能源消耗數據，只有學術圈透過不同的間接數據來推算，直到現在，Google是第一家公布了自家Gemini的查詢碳排放數據和能耗。

《自然》（Nature）曾在2024年發表過一篇論文， 加州大學研究者比較用AI寫作和人類寫作的碳排放量，在論文中推估，一次的Chatgpt查詢，大約會產生0.382克二氧化碳當量，但也沒有得到官方證實。各界一直對於GenAI可能帶來龐大的耗能和碳排量感到擔心。

LLM模型的參數規模幾乎年年翻倍增加，對算力需求也同樣持續暴增。 Google副總裁暨工程院士 Partha Ranganathan直言，生成式AI的算力需求每三個月就翻倍，一年幾乎成長了10倍之多。「擁有越龐大的算力，也伴隨了巨大的環境責任。」他強調。

Google率先公布了Gemini模型的能源消耗數據，「透過我們完整的估算方式，一次平均長度文字提示，Gemini要消耗約0.24瓦小時的能源，相當於觀看9秒電視的功耗。排放0.03克的二氧化碳。」Google先進能源實驗室首席Savannah Goodman表示。

Savannah Goodman強調，這個數據遠低於外界的預估，不只如此，AI越來越有效率，用同樣的Gemini模型處理同樣的文字提示，能源消耗比12個月前降低了33倍，碳排也減少了44倍。

因為Google針對整體AI架構進行優化，發展出了一套可以量測到Google規模的完整AI碳足跡量測方法，不只是靠理論推估的效能數據，而能取得真實營運的效能數據。這些數據來自Google AI伺服器叢集的實際數據。

Savannah Goodman進一步解釋，現行做法大多只考慮到活躍機器的消耗，這是系統優化的痛點，但不是全貌。Google這個碳足跡量測方法，參考溫室氣體協議常見的碳排放計算方法，追蹤範圍涵蓋了所有關鍵因素，包括了完整的系統和電力動態，甚至考量待命主機的CPU與記憶體耗電，也包括了資料中心的冷卻和配電消耗，可以提供完整的AI碳足跡。這套碳計算方法也涵蓋了Google購買的乾淨能源，「這套做法可以來評估和改善Google效能優化結果。」

不只碳排放量，Google也將水消耗量加入了AI碳足跡的追蹤項目之中。Google基礎架構永續性主管Ben Townsend表示，根據Google估算，每一次Gemini文字提示查詢，約消耗了0.26毫升的水，大約是5滴水。Google在不少地方的資料中心採取了水冷式的資料中心，可以比氣冷式資料中心，減少1成能源消耗，也意味著可以減少10％碳排。Google也有超過25%的資料中心，使用再生水或非飲用水來進行冷卻。

不過， 像深度研究這類需要大量推理工作的提示指令，比一般文字性提示指令，需要消耗更多的算力， Google這次揭露的Gemini模型碳排數據是一種平均值的估算方式。 Partha Ranganathan表示，因為Gemini提示的查詢組合非常多樣化，平均值更能了解人們如何使用Gemini的樣貌。這次公開的碳排數據，涵蓋了各式各樣的提示，也包括了深度研究的提示，但沒有特別針對特定類型的數據。