（電子發(fā)燒友網(wǎng)報道 文/章鷹）2023年，以 ChatGPT 為代表的生成式 AI 應(yīng)用引發(fā)新一輪算力需求。根據(jù) IDC 數(shù)據(jù)，2023年全球高性能 AI 服務(wù)器市場規(guī)模預(yù)計達 248 億美元，年增率預(yù)計高達 27%。

近日，據(jù)英國《金融時報》引述知情人士報道，中國網(wǎng)絡(luò)巨頭百度、字節(jié)跳動、騰訊和阿里巴巴向英偉達下單10億美元，約10萬片A800處理器芯片，預(yù)定今年交貨。據(jù)悉，這些網(wǎng)絡(luò)公司進一步采購價值40億美元的GPU，預(yù)計2024年交貨。

英偉達對報道不予置評，但是表示消費性網(wǎng)絡(luò)公司和云端服務(wù)商，每年都為數(shù)據(jù)中心零組件投資數(shù)十億美元，通常都是提前好幾個月下訂單。美國政府自去年10月宣布針對中國的出口管制，試圖凍結(jié)中國半導(dǎo)體的發(fā)展，英偉達因為美國禁令停止出口兩款A(yù)I芯片，改而針對中國市場推出符合管制的A800芯片。

外媒報道，云端基礎(chǔ)設(shè)施供應(yīng)新創(chuàng)商 CoreWeave 透露，英偉達等級最高的人工智能（AI）芯片今年恐怕都會缺貨。CoreWeave共同創(chuàng)辦人兼技術(shù)長Brian Venturo受訪時表示，從4月初開始，繪圖處理器（GPU）市場變得異常吃緊，原本合理的前置時間，在短短一周內(nèi)大幅延長至今年底。需求不只來自云端服務(wù)供貨商（CSP），大型企業(yè)、AI實驗室也都加入搶貨行列。

客戶究竟何時才能買到英偉達最高階AI芯片“H100”時，Venturo響應(yīng)說，對物流、資源有合理規(guī)劃的人，目前預(yù)測的到貨時間點落在明年第1~2季。他表示，CoreWeave已開始為明年Q2、Q3的部署進行采購。

圖：英偉達 GH200 Grace Hopper 超級芯片 圖片來自英偉達官方微信

日前在全球知名的計算機圖形大會上，英偉達CEO黃仁勛宣布推出新一代GH200 Grace Hopper 超級芯片，它能夠連接多個GPU，以實現(xiàn)卓越的性能和易于擴展的服務(wù)器設(shè)計，與上一代產(chǎn)品相比，雙配置的內(nèi)存容量增加了3.5倍，帶寬增加了3倍，包括一臺具有144個Arm Neoverse核心、8 petaflops的AI性能和282GB最新HBM3e內(nèi)存技術(shù)的單服務(wù)器。領(lǐng)先的系統(tǒng)制造商預(yù)計將在2024年第二季度交付基于該平臺的系統(tǒng)。

新平臺采用了 Grace Hopper 超級芯片，可以通過 NVIDIA NVLink? 與其他超級芯片連接，使它們能夠協(xié)同工作，從而部署當(dāng)下大型生成式 AI 模型。這種高速、一致性技術(shù)使 GPU 可以完全訪問 CPU 內(nèi)存，在雙配置中可提供總計 1.2TB 的快速內(nèi)存。

HBM3e 內(nèi)存比當(dāng)前 HBM3 快 50%，可提供總計 10TB/s 的帶寬。這使得新平臺能夠運行比上一版本大 3.5 倍的模型，同時憑借快 3 倍的內(nèi)存帶寬提升性能。

本文由電子發(fā)燒友原創(chuàng)，轉(zhuǎn)載請注明以上來源。微信號zy1052625525。需入群交流，請?zhí)砑游⑿舉lecfans999，投稿爆料采訪需求，請發(fā)郵箱zhangying@huaqiu.com。