AI時代的算力競賽：夢想與成本的博弈

大廠追逐AI夢想不停歇

本週微軟、谷歌、Meta等科技巨頭財報出爐。除Meta外,微軟和谷歌財報表現亮眼,股價受到提振。這些公司正在通過"收入-支出-再收入"的正循環邏輯,不斷提升雲收入增速和整體利潤率。AI正推動廣告、搜索等業務規模快速增長。同時,頭部雲廠商的算力"軍備競賽"也在如火如荼地進行,短期內資本開支降速的可能性幾乎爲零。在AI時代早期,頭部廠商只有通過持續投入,才可能在激烈競爭中存活。據算力服務商CoreWeave預測,AI算力供需平衡點可能要到2030年才能到來。

AI應用有待開花結果

市場期待看到能真正提升生產力或便利生活的"接地氣"AI應用。今年已經見證了OpenAI Sora的驚豔表現和國產大模型Kimi的崛起。未來還有望看到GPT、Gemini、Llama等大模型的持續更新,以及微軟、蘋果等巨頭將大模型引入PC、手機等端側。通向AGI的道路曲折漫長,可能還需較長時間才能孵化出真正改變社會的AI應用。

關注"高性價比算力"

回顧4G和5G時代,移動流量成本下降帶來了移動APP黃金時代。同理,單位算力成本下降將是人類進入AGI時代的必要條件。便宜、易得、穩定的AI算力是誕生重大AI應用的基礎。以Sora爲例,其向公衆開放還需數月時間,一個重要原因是需要優化推理所需算力。頭部雲廠商有實力巨額投入以維持競爭力,但無法代表整個市場需求。廣大中小企業真正需要的是高性價比算力。

將算力成本拆解,除10%左右的電力運營成本外,其餘幾乎都是固定資產投資,包括GPU、網路設備、散熱等。GPU方面,臺積電正在擴張AI算力所需的CoWoS產能,預計年底月產能將逼近4萬片,較2023年總產能提升150%以上。網路設備方面,英偉達GB200採用大量銅纜短距離連接,顯示其不僅追求超高性能,也要爲客戶考慮成本控制。光模塊廠商也在積極推動LPO等高性價比光連接方案。散熱方面,隨單機櫃功率密度提高,液冷方案的性價比將超越風冷。