哈哈哈哈哈操欧洲电影,久草网在线,亚洲久久熟女熟妇视频,麻豆精品色,久久福利在线视频,日韩中文字幕的,淫乱毛视频一区,亚洲成人一二三,中文人妻日韩精品电影

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

2024年,GPU還會維持天價(jià)嗎?

AI芯天下 ? 來源:AI芯天下 ? 2024-01-14 11:28 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

前言: 錯(cuò)過了GPU,也就錯(cuò)過了第四次工業(yè)革命的入場券? ChatGPT橫空出世,大模型風(fēng)起云涌,在算力激增的背景下,英偉達(dá)的GPU100/H100成為“搶手貨”。 GPU成為新的王者

云廠商作為AI算力需求的主要承載方,一場由GPU主導(dǎo)的變革正在悄然興起,這場變革的突出表現(xiàn)在云廠商紛紛下場造芯,結(jié)合GPU的短缺、高昂成本、應(yīng)對云服務(wù)更加智能化、自主化、靈活化和可擴(kuò)展化的需求和廣闊前景。

微軟、Meta、Google、亞馬遜、特斯拉以及國內(nèi)的阿里、百度、騰訊等都在投入更多資源研發(fā)AI芯片,甚至OpenAI都開始籌備芯片項(xiàng)目。

從時(shí)間節(jié)點(diǎn)來看,谷歌TPU v5e于2023年8月發(fā)布,成為人工智能硬件領(lǐng)域的強(qiáng)大力量,專為大型語言模型和生成式人工智能量身定制。

11月初,微軟也采取了類似的思路,首款人工智能芯片Maia 100問世。隨后亞馬遜宣布推出最新的Trainium2,其性能是其前一代的四倍,能源效率是其兩倍。

國內(nèi)華為、阿里、百度等云巨頭在自研AI芯片方面也在傾力押注,逐級迭代。

英偉達(dá)GPU全球貨源緊張

據(jù)Verified Market Research數(shù)據(jù)統(tǒng)計(jì),2027年全球GPU市場規(guī)模有望達(dá)到1853.1億美元,年平均增速高達(dá)32.82%,千億級賽道風(fēng)口已至。

據(jù)行業(yè)曝料,2023年第四季度,NVIDIA GPU供應(yīng)量在全球范圍內(nèi)都被嚴(yán)格限制,導(dǎo)致全球市場都出現(xiàn)了明顯的供不應(yīng)求。

在這種情況下,無論是歐美還是中國,廠商和銷售渠道都在拼命搶貨。

對于中國市場來說,情況更加不樂觀,尤其是1月份屬于季度末期,2月份又有春節(jié)假期。

因此,預(yù)計(jì)近期NVIDIA GPU和顯卡的供應(yīng)量都會非常有限,不排除部分產(chǎn)品價(jià)格上漲。

至于NVIDIA為何會控制供應(yīng)量,確切原因不得而知,猜測很大可能是優(yōu)先將產(chǎn)能供給加速計(jì)算卡所用的高性能GPU。

畢竟,計(jì)算GPU的利潤要比游戲GPU豐厚得多,尤其是眼下AI需求一浪高過一浪,而計(jì)算GPU規(guī)模龐大、技術(shù)復(fù)雜,對于產(chǎn)能的要求也更高。

2024年英偉達(dá)市場

在AIGC浪潮爆發(fā)下,英偉達(dá)可以說是2023年半導(dǎo)體市場最大贏家,該公司營收也躍居全球最大半導(dǎo)體公司。

據(jù)媒體猜測,GPT-4至少需要8192張H100芯片,以每小時(shí)2美元的價(jià)格,在約55天內(nèi)可以完成預(yù)訓(xùn)練,成本約為1.5億元人民幣。

而且 ,ChatGPT所需要的AI芯片并不是固定的,而是逐次遞增。ChatGPT越聰明,背后的代價(jià)是所需算力越來越多。

據(jù)摩根士丹利預(yù)測,到了GPT-5大概需要使用2.5萬個(gè)GPU,約是GPT-4的三倍之多。

英偉達(dá)正在經(jīng)歷一場比“挖礦時(shí)代”更瘋狂的市場浪潮,一方面英偉達(dá)產(chǎn)能受限于臺積電、HBM、CoWos封裝等產(chǎn)能,H100的“嚴(yán)重缺貨問題”至少會持續(xù)到2024年底。

另一方面,巨大缺口也導(dǎo)致英偉達(dá)H100暴漲,有報(bào)道稱,英偉達(dá)的H100 AI加速卡的物料成本約為3000美元,而在年中售價(jià)已經(jīng)達(dá)到了3.5萬美元左右,甚至在eBay上賣出了超過4w美元的價(jià)格。

研究機(jī)構(gòu)Omdia披露,英偉達(dá)在2023年第二季度的H100出貨量為900噸。按照單片H100GPU的重量約為3千克,那么英偉達(dá)在二季度售出了約30萬片H100。

到了三季度,英偉達(dá)大約賣出了50萬臺H100和A100 GPU。每家能夠分到的GPU數(shù)量有限,Meta和微軟各自采購了15萬個(gè)H100GPU,谷歌、亞馬遜、甲骨文和騰訊則各采購了5萬片。

如此龐大的GPU需求量,導(dǎo)致基于H100的服務(wù)器需要36~52周的時(shí)間才能交付。按照英偉達(dá)官方的說法,2024年一季度之前的GPU芯片早已全部售罄。業(yè)內(nèi)預(yù)估,明年英偉達(dá)的出貨量將達(dá)到150萬-200萬顆。

735503ae-b210-11ee-8b88-92fbcf53809c.png

國產(chǎn)GPU2024年表現(xiàn)

國產(chǎn)GPU正迅速走過進(jìn)入“從可用到好用”的迭代階段。華為海思、燧原科技、壁仞、天數(shù)智芯、沐曦、珠海芯動力、摩爾線程、海光等廠商在GPU產(chǎn)品、集群、生態(tài)和應(yīng)用層面全面發(fā)力,表現(xiàn)可圈可點(diǎn)。

深存科技創(chuàng)始人&CEO袁靜豐總結(jié),2023年國產(chǎn)GPU廠商面對國內(nèi)市場,在更加務(wù)實(shí)地在做產(chǎn)品、建生態(tài)、推應(yīng)用,在這些層面各家都有一定的優(yōu)勢,而準(zhǔn)確定位是關(guān)鍵。

去年9月28日,燧原科技宣布完成D輪融資,總額為20 億元,超過15家機(jī)構(gòu)參與,成為AI芯片領(lǐng)域最大規(guī)模的融資事件之一。

摩爾線程首個(gè)全國產(chǎn)千卡千億模型訓(xùn)練平臺——摩爾線程KUAE智算中心揭幕儀式舉辦,宣告國內(nèi)首個(gè)以國產(chǎn)全功能GPU為底座的大規(guī)模算力集群正式落地。

展望2024年,無論是禁運(yùn)以及供應(yīng)缺口等問題,國產(chǎn)GPU的機(jī)遇依舊“在線”。

結(jié)尾:

總而言之,2024年的GPU還充滿變數(shù)。

從市場的角度看,無論是當(dāng)下多先進(jìn)的技術(shù),到最后終將會越來越普世,就看在2024年如何進(jìn)攻戰(zhàn)場了。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    5258

    瀏覽量

    136032
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    2161

    瀏覽量

    36858
  • 摩爾線程
    +關(guān)注

    關(guān)注

    2

    文章

    285

    瀏覽量

    6631

原文標(biāo)題:趨勢丨2024年,GPU還會維持天價(jià)嗎?

文章出處:【微信號:World_2078,微信公眾號:AI芯天下】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    如何在 VisionFive v2 上使用外部 GPU?

    如果舊的 amd gpu 在 VisionFive V2 上運(yùn)行,我想使用帶有開源 amd 驅(qū)動程序的 amd gpu。我需要什么以及如何將 GPU 連接到 VisionFive v2?
    發(fā)表于 03-13 06:38

    又一家GPU廠商IPO!

    GPU芯片量產(chǎn)的公司,也是首家采用先進(jìn)7nm工藝技術(shù)達(dá)成該等里程碑的公司。 ? 營收方面,天數(shù)智芯于2022、2023、2024及截至
    的頭像 發(fā)表于 12-20 07:35 ?1.1w次閱讀
    又一家<b class='flag-5'>GPU</b>廠商IPO!

    沐曦GPU與龍蜥操作系統(tǒng)完成適配

    沐曦集成電路(上海)股份有限公司(以下簡稱"沐曦")于 2020 9 月成立于上海,其擁有技術(shù)完備、設(shè)計(jì)和產(chǎn)業(yè)化經(jīng)驗(yàn)豐富的團(tuán)隊(duì),曾主導(dǎo)過十多款世界主流高性能 GPU 產(chǎn)品研發(fā)
    的頭像 發(fā)表于 10-17 15:06 ?1361次閱讀

    商湯科技位居2024中國大模型平臺市場份額第三

    近日,國際數(shù)據(jù)公司(IDC)發(fā)布《中國大模型平臺市場份額,2024》報(bào)告。
    的頭像 發(fā)表于 08-22 14:00 ?1334次閱讀

    航盛電子榮獲廣汽豐田2024度品質(zhì)改善先鋒獎(jiǎng)

    廣汽豐田2024度整體納入品質(zhì)提升顯著,經(jīng)過廣汽豐田評選審核,航盛憑借持續(xù)的質(zhì)量體系建設(shè)與卓越的質(zhì)量改善成果,榮獲廣汽豐田“2024度品質(zhì)改善先鋒”獎(jiǎng),這也是航盛連續(xù)兩
    的頭像 發(fā)表于 08-12 18:12 ?1801次閱讀

    aicube的n卡gpu索引該如何添加?

    請問有人知道aicube怎樣才能讀取n卡的gpu索引呢,我已經(jīng)安裝了cuda和cudnn,在全局的py里添加了torch,能夠調(diào)用gpu,當(dāng)還是只能看到默認(rèn)的gpu0,顯示不了gpu1
    發(fā)表于 07-25 08:18

    TLE9893最高可以維持多少電壓?

    TLE989x 數(shù)據(jù)表中提到 VS 引腳可以維持 40v 的負(fù)載轉(zhuǎn)儲 400mSec。 我們有以下問題: 1.根據(jù)標(biāo)準(zhǔn) 16750-2:2023,電壓可根據(jù)嚴(yán)重程度在 27V 至 35V 之間
    發(fā)表于 07-21 08:09

    Claroty-2024全球CPS安全狀況:中斷對業(yè)務(wù)的影響

    2024 全球 CPS 安全狀況: 中斷對業(yè)務(wù)的影響?網(wǎng)絡(luò)攻擊影響關(guān)鍵任務(wù)型基礎(chǔ)設(shè)施,分析其造成的財(cái)務(wù)損失和運(yùn)營后果
    發(fā)表于 06-17 17:29 ?9次下載

    廣汽埃安2024年年度股東會順利召開

    近日,廣汽埃安新能源汽車股份有限公司2024年年度股東會在廣州順利召開,60家股東單位代表出席會議,會議回顧了廣汽埃安2024的經(jīng)營情況,并提出了2025
    的頭像 發(fā)表于 06-04 14:37 ?1219次閱讀

    光峰科技發(fā)布2024ESG報(bào)告

    近日,科創(chuàng)板首批上市企業(yè)光峰科技正式發(fā)布了2024ESG報(bào)告。報(bào)告全面且深入地展示了公司在環(huán)境、社會和公司治理三大核心領(lǐng)域的具體實(shí)踐與創(chuàng)新成果,并從科創(chuàng)企業(yè)的獨(dú)特視角,重點(diǎn)介紹了公司在AI融合與科技創(chuàng)新方面的突破進(jìn)展。
    的頭像 發(fā)表于 05-09 11:41 ?1397次閱讀

    提升AI訓(xùn)練性能:GPU資源優(yōu)化的12個(gè)實(shí)戰(zhàn)技巧

    在人工智能與機(jī)器學(xué)習(xí)技術(shù)迅速發(fā)展的背景下,GPU計(jì)算資源的高效利用已成為關(guān)鍵技術(shù)指標(biāo)。優(yōu)化的GPU資源分配不僅能顯著提升模型訓(xùn)練速度,還能實(shí)現(xiàn)計(jì)算成本的有效控制。根據(jù)AI基礎(chǔ)設(shè)施聯(lián)盟2024
    的頭像 發(fā)表于 05-06 11:17 ?1667次閱讀
    提升AI訓(xùn)練性能:<b class='flag-5'>GPU</b>資源優(yōu)化的12個(gè)實(shí)戰(zhàn)技巧

    恩智浦發(fā)布2024企業(yè)可持續(xù)發(fā)展報(bào)告

    恩智浦《2024企業(yè)可持續(xù)發(fā)展報(bào)告》新鮮出爐,全面總結(jié)了2024恩智浦在可持續(xù)發(fā)展方面取得的進(jìn)展和主要成就。
    的頭像 發(fā)表于 04-28 11:24 ?3005次閱讀

    軟通動力發(fā)布2024年年度報(bào)告

    近日,軟通動力信息技術(shù)(集團(tuán))股份有限公司(301236.SZ)發(fā)布2024年年度報(bào)告。2024,外部環(huán)境復(fù)雜多變,信創(chuàng)與人工智能帶來巨大市場機(jī)遇。軟通動力圍繞智能化、自主化、綠色化
    的頭像 發(fā)表于 04-28 09:54 ?1060次閱讀

    一圖讀懂德明利2024度報(bào)告

    一圖讀懂德明利2024度報(bào)告
    的頭像 發(fā)表于 04-25 22:42 ?780次閱讀
    一圖讀懂德明利<b class='flag-5'>2024</b><b class='flag-5'>年</b>度報(bào)告
    甘谷县| 河源市| 永川市| 赤水市| 南涧| 清水县| 苍梧县| 金乡县| 连山| 广安市| 永定县| 塔城市| 桂平市| 穆棱市| 靖远县| 石门县| 环江| 孝昌县| 岢岚县| 阳东县| 和顺县| 乐昌市| 平定县| 滕州市| 德令哈市| 太康县| 新竹市| 龙泉市| 封开县| 台南市| 台安县| 江油市| 紫阳县| 翼城县| 铜陵市| 渝中区| 竹北市| 平遥县| 慈溪市| 黄梅县| 都江堰市|