您所在的位置:紅商網(wǎng) >> 天下匯頻道 >> 正文
AI迅速推高數(shù)據(jù)中心價格:硅谷空置率接近歷史低點,云計算成本也飛漲

  生成式AI工作負載需要更多的計算,勢必更廣泛地影響數(shù)據(jù)中心的能源效率和冷卻系統(tǒng),即影響會遍及行業(yè)的方方面面。有分析稱,到2028年數(shù)據(jù)中心功耗將比今年增加212倍,數(shù)據(jù)中心基礎(chǔ)設(shè)施加上運營成本總額或超760億美元,堪稱“生成式AI顛覆數(shù)據(jù)中心”。

  伴隨年初微軟支持的ChatGPT大火,以及谷歌、Meta等一眾競爭對手快速推出大語言模型(LLM)和生成式人工智能競品,AI儼然正在快速推進至人類生活的更多方面,相關(guān)需求也水漲船高。

  鮮為人知的是,AI大火還帶動了數(shù)據(jù)中心成本飆升,最新報道便點明:“與運行人工智能數(shù)字運算相關(guān)的能源使用,正迅速成為數(shù)據(jù)中心費用上漲的關(guān)鍵驅(qū)動因素。”

  對人工智能的需求飆升,令一些數(shù)據(jù)中心的運營商們趁機提高商業(yè)租賃價格,以應(yīng)對為運行日益能源密集型工作負載的計算機服務(wù)器組群(stack)供電和散熱而產(chǎn)生的額外成本。

  據(jù)全球最大商業(yè)房地產(chǎn)服務(wù)公司之一的世邦魏理仕(CBRE Group)統(tǒng)計,數(shù)據(jù)中心客戶囊括了小型企業(yè)到大型云服務(wù)供應(yīng)商,目前消耗電力的速度快于數(shù)據(jù)中心運營商擴展容量的速度。由于人工智能用例的增加,供應(yīng)限制日益嚴重,這為數(shù)據(jù)中心收取的價格帶來了上行壓力。

  例如,在擁有超過275個設(shè)施的全球最大數(shù)據(jù)中心市場——美國北弗吉尼亞州,今年可供租賃的電量從一年前的46.6兆瓦減少至38.4兆瓦,降幅高達17.6%,而總體電量庫存實際同比增長了19.5%至2132兆瓦,主要由于用于訓(xùn)練生成式AI模型的GPU功耗很大且在快速增加。

  此外,與AI需求相關(guān)的額外功率還需要輔以更先進的硬件冷卻系統(tǒng),這些制冷系統(tǒng)不僅能耗很高,往往比傳統(tǒng)的空氣冷卻器更昂貴且占地面積更大,均屬于人工智能推高數(shù)據(jù)中心價格的動因之一。

  同時,在AI需求旺盛的當下,數(shù)據(jù)中心客戶支付的電費也更為高昂。市場研究公司Synergy Research Group的首席分析師John Dinsdale坦言,數(shù)據(jù)中心運營商正將運行AI應(yīng)用程序產(chǎn)生的額外成本直接轉(zhuǎn)嫁到客戶身上。

  據(jù)世邦魏理仕統(tǒng)計,今年前三個月,美國北弗吉尼亞州的數(shù)據(jù)中心客戶每月每千瓦電力支付的費用高達140美元,比一年前的130美元增長了7.7%。在硅谷,數(shù)據(jù)中心的空置率目前處于接近歷史低點的2.9%,客戶每千瓦每月最高電價攀升至250美元,較去年的175美元猛增了43%。

  據(jù)介紹,人工智能應(yīng)用程序比傳統(tǒng)軟件消耗更多的能量,因為它們旨在讀取更大量的數(shù)據(jù)。幾天之內(nèi),單個人工智能模型可能會消耗數(shù)萬千瓦時的電力,而生成式AI模型可比標準AI工具再大100倍。市場研究公司Enterprise Technology Research今年對約500名企業(yè)IT決策者進行了調(diào)查,其中有一半以上都表示,計劃評估、部署或投入更多資源用于類似ChatGPT的生成式AI技術(shù)。

  還有分析指出,由于許多云供應(yīng)商也租賃數(shù)據(jù)中心的空間,隨著越來越多的公司采用生成式人工智能,不斷上漲的數(shù)據(jù)中心成本可能會導(dǎo)致更高的云計算費用。鑒于生成式AI工作負載需要更多的計算,勢必更廣泛地影響數(shù)據(jù)中心的能源效率和冷卻系統(tǒng),即影響會遍及行業(yè)的方方面面。

  據(jù)蘭洋科技的科普文章,業(yè)內(nèi)普遍認為,數(shù)據(jù)中心能耗高、能耗增長快,占我國能源消費比重逐年提高。數(shù)據(jù)中心的能耗消費特點是較為集中,除IT設(shè)備外,制冷系統(tǒng)等輔助設(shè)施能耗比例高:

  “IT設(shè)備使用的電力最終會轉(zhuǎn)化為熱量,數(shù)據(jù)中心必須通過使用同樣消耗能源的冷卻設(shè)備去除熱量。平均而言,冷卻系統(tǒng)和服務(wù)器占數(shù)據(jù)中心能耗的大部分,其次是網(wǎng)絡(luò)設(shè)備和存儲驅(qū)動器。”

  而能耗也直接與運營成本相關(guān)。據(jù)咨詢機構(gòu)Tirias Research建模預(yù)測,到2028年數(shù)據(jù)中心功耗將接近4250兆瓦,比2023年增加212倍,數(shù)據(jù)中心基礎(chǔ)設(shè)施加上運營成本總額或超760億美元。

  這堪稱“生成式AI顛覆數(shù)據(jù)中心”,其增長對新興服務(wù)(例如搜索、內(nèi)容創(chuàng)建和結(jié)合生成式AI的業(yè)務(wù)自動化)的商業(yè)模式和盈利能力都提出了挑戰(zhàn),成本更是亞馬遜AWS年運營成本的兩倍多。

  該機構(gòu)稱,生成式AI帶來的種種創(chuàng)新功能,都是以處理性能和功耗方面的高昂成本為代價。因此,雖然人工智能的潛力可能是無限的,但物理和成本最終可能是界限。

  為了降低成本,該機構(gòu)建議,可使用高度優(yōu)化、甚至是更簡單、更專業(yè)的小型神經(jīng)網(wǎng)絡(luò)模型來降低數(shù)據(jù)中心成本,方法是減少云端的模型規(guī)模,將海量參數(shù)網(wǎng)絡(luò)用于快速訓(xùn)練較小的模型,并將工作負載完全移出云端,從而將生成式AI應(yīng)用程序更加經(jīng)濟高效地分發(fā)給智能手機、PC、車輛和移動XR產(chǎn)品等分布式平臺上運行:

  “五年前,各公司在年度Hot Chips半導(dǎo)體技術(shù)會議上開始對數(shù)據(jù)中心功耗敲響警鐘,當時預(yù)測全球計算需求可能在十年內(nèi)超過全球發(fā)電總量。那還是在生成式AI迅速采用之前,而生成式AI有可能以更快的速度增加計算需求。

  天下沒有免費的午餐——消費者會要求更好的生成式AI輸出,而這將抵消效率和性能的提升。隨著消費者使用量的增加,成本將不可避免地攀升。將計算轉(zhuǎn)移到邊緣,并將其分配給PC、智能手機和XR設(shè)備等客戶端是降低資本和運營成本的關(guān)鍵途徑。”

  來源:華爾街見聞

    東治書院2024級易學(xué)文士班(第二屆)報名者必讀
    『獨賈參考』:獨特視角,洞悉商業(yè)世相。
    【耕菑草堂】巴山雜花土蜂蜜,愛家人,送親友,助養(yǎng)生
    解惑 | “格物致知”的“格”到底是什么意思?
    ❤❤❤【拙話】儒學(xué)之流變❤❤❤
    易經(jīng) | 艮卦究竟在講什么?兼斥《翦商》之荒謬
    大風(fēng)水,小風(fēng)水,風(fēng)水人
    ❤❤❤人的一生拜一位好老師太重要了❤❤❤
    如何成為一個受人尊敬的易學(xué)家?
    成功一定有道,跟著成功的人,學(xué)習(xí)成功之道。
    關(guān)注『書仙笙』:結(jié)茅深山讀仙經(jīng),擅闖人間迷煙火。
    研究報告、榜單收錄、高管收錄、品牌收錄、企業(yè)通稿、行業(yè)會務(wù)
    ★★★你有買點,我有流量,勢必點石成金!★★★