揭開人工智慧查詢的真實能耗

近年來，人工智慧（Artificial Intelligence, AI）技術的發展迅速，各大科技公司如谷歌（Google）和 OpenAI 都推出了自己的 AI 服務。但是，人工智慧查詢的能耗問題一直是大家關注的焦點。根據 氣候科學家 Zeke Hausfather 的研究，人工智慧查詢的能耗可能遠超過之前的估計。

背景分析

谷歌和 OpenAI 曾經宣稱，人工智慧查詢的能耗非常低。例如，谷歌表示，一個中位數的 Gemini 文字提示只需要 0.24 瓦時（Wh）的能耗，而 OpenAI 的 CEO Sam Altman 則估計，一個 ChatGPT 查詢的能耗約為 0.34 Wh。然而，這些數據並不全面，沒有考慮到 推理模型（Reasoning Models）和 多模態處理（Multimodal Processing）等因素的能耗。

研究發現

Zeke Hausfather 進行了一項研究，追蹤了自己使用 Claude Code 的能耗。他發現，自己的 1,138 個文字提示觸發了超過 14,000 次模型調用，每個提示處理了約 2.9 百萬個 token。而在這些 token 中，96% 是緩存讀取，因為每次調用都需要重新讀取累積的上下文。Hausfather 的研究表明，人工智慧查詢的能耗可能遠超過之前的估計，他的最佳估計是約 170 千瓦時（kWh）的能耗。

影響和展望

Hausfather 的研究結果顯示，人工智慧查詢的能耗可能是之前估計的 600 倍左右。這個發現對於雲端（Cloud）服務提供商和 資料中心（Data Center）運營商來說，是一個警示。隨著 人工智慧 技術的發展，能耗問題將成為一個越來越重要的挑戰。未來，科技公司 需要更加注重能耗的問題，開發更加節能的 人工智慧 技術。

結論

人工智慧查詢的能耗問題是一個複雜的問題，需要 科技公司、研究機構 和政府共同努力來解決。通過 Zeke Hausfather 的研究，我們可以看到人工智慧查詢的能耗可能遠超過之前的估計。因此，未來我們需要更加注重能耗的問題，開發更加節能的 人工智慧 技術，減少 資料中心 的能耗，創造一個更加 可持續 的科技未來。