從 Token 角度，測算 AI 算力需求

本報告分析了 AI 推理算力需求的增長趨勢，指出推理算力需求的增長速度快於單位算力成本的下降。隨着 AI 應用用户數量的增加，推理端算力需求持續上升。報告提到，Google 和微軟的 Token 調用量顯著增長，預計未來推理端算力支出將加速增長。