Ampere Computing以自有IP打造的192核云原生CPU——AmpereOne系列處理器的技術(shù)細(xì)節(jié)陸續(xù)曝光。其中一個(gè)大亮點(diǎn)，是與上一代128核Ampere Altra對比，AmpereOne系列處理器中首度采用Chiplet設(shè)計(jì)。

半導(dǎo)體制程不斷演進(jìn)下，要實(shí)現(xiàn)復(fù)雜的芯片設(shè)計(jì)流程的門檻其實(shí)越來越高，芯片全流程設(shè)計(jì)的成本也大幅增加，這是摩爾定律放緩后出現(xiàn)的問題。因應(yīng)方式是Chiplet小芯片設(shè)計(jì)的興起，已經(jīng)開始被AMD、英特爾等處理器大芯片公司大舉采用。

Chiplet是一種模塊化芯片的技術(shù)，將傳統(tǒng)片上系統(tǒng)（SoC）所需的微處理器、模擬IP核、數(shù)字IP核和存儲(chǔ)器等模塊分開制造，并在后道工藝中集成為一個(gè)芯片模組，可實(shí)現(xiàn)不同模塊的混用、復(fù)用，且各模塊不需要在同一制程節(jié)點(diǎn)制造，因此另一個(gè)優(yōu)勢是能確保芯片的良率。

在AMD、英特爾陸續(xù)導(dǎo)入Chiplet設(shè)計(jì)后，Ampere Computing也在最新的AmpereOne系列處理器中實(shí)現(xiàn)Chiplet。

Ampere Computing首席產(chǎn)品官Jeff Wittich指出，Ampere開始大量采用小芯片的設(shè)計(jì)帶來了許多的優(yōu)勢，像是提升靈活度，以及加快了整個(gè)芯片設(shè)計(jì)周期。再者，采用Chiplet的設(shè)計(jì)也實(shí)現(xiàn)了特定的拓?fù)浣Y(jié)構(gòu)，以及單一的計(jì)算裸片（里邊分布著全部的內(nèi)核），同時(shí)還有單一大網(wǎng)格結(jié)構(gòu)，助力為客戶提供平衡的高性能。反之，其他設(shè)計(jì)則要求數(shù)據(jù)從一個(gè)計(jì)算的小芯片傳輸?shù)搅硪粋€(gè)小芯片，這種設(shè)計(jì)會(huì)帶來延遲問題。

Jeff Wittich強(qiáng)調(diào)，在實(shí)現(xiàn)了最佳的Chiplet架構(gòu)之后，產(chǎn)品上市的速度就會(huì)更快，且可以提供芯片的可擴(kuò)展性。

過去幾年間，Ampere Computing已經(jīng)陸續(xù)實(shí)現(xiàn)的128核的Ampere Altra系列處理器，在云環(huán)境的關(guān)鍵指標(biāo)——每機(jī)架性能方面超越其他競品像是英特爾和AMD等。這次全新的AmpereOne系列處理器是采用臺(tái)積電的5nm制程技術(shù)，現(xiàn)在已投產(chǎn)并交付給客戶。

Jeff Wittich指出，AmpereOne能夠?yàn)樵乒ぷ髫?fù)載提供更高的性能、更高的可擴(kuò)展性以及更高的密度，也是第一款基于Ampere新自研核的產(chǎn)品，由Ampere自有IP全新打造，擁有多達(dá)192個(gè)單線程Ampere核。

192 核是一個(gè)非常大的數(shù)字，比英特爾和 AMD 的核心數(shù)還要多。 Ampere用一個(gè)具體的場景來說明，比如在云環(huán)境中運(yùn)行虛擬機(jī)（VM），用192核的AmpereOne對比96核的AMD Genoa，或者60核的英特爾Sapphire Rapids，AmpereOne每機(jī)架運(yùn)行的虛擬機(jī)數(shù)量是AMD Genoa的2.9倍，是英特爾Sapphire Rapids的4.3倍。

AmpereOne推出后，與之前推出的Ampere Altra、Ampere Altra Max未來發(fā)展的差異性如何？

Jeff Wittich指出，這兩個(gè)系列服務(wù)于不同的客戶需求。目前已經(jīng)在市場上持續(xù)交付的Ampere Altra系列，里面包含了幾款不同的產(chǎn)品，核數(shù)從32核到128核不等。而全新推出的AmpereOne系列并不是要取代Ampere Altra系列，而是在它的原本的基礎(chǔ)之上，進(jìn)行持續(xù)的擴(kuò)張。

在未來很長一段時(shí)間里，Ampere Altra 系列處理器還會(huì)繼續(xù)銷售，而最新的AmpereOne是在Ampere Altra Max 128核的基礎(chǔ)上，將核數(shù)進(jìn)一步提升到了最高可達(dá)192核。

客戶如何決定要采用AmpereOne？還是Ampere Altra？

他分析，完全是看場景應(yīng)用。在邊緣計(jì)算的場景下，可能只需要部署32核、功耗40瓦的Ampere Altra處理器就夠用了，但對于一些有更大算力需求的客戶，譬如大規(guī)模的數(shù)據(jù)中心，這時(shí)候更高的核數(shù)可以提供更好的性能，所以可能需要192核的AmpereOne系列處理器。

在AI方面，Ampere也提供了幾個(gè)參考的基準(zhǔn)，一是在生成式AI方面，相比AMD Genoa，AmpereOne可每秒多提供2.3倍的幀數(shù)（圖像），在運(yùn)行穩(wěn)定的擴(kuò)散模型中勝出。此外，在運(yùn)行DLRM模型的推薦系統(tǒng)中，通過AmpereOne響應(yīng)的查詢數(shù)量是AMD Genoa的每秒查詢數(shù)量的兩倍多。

此外，通過DDR5內(nèi)存技術(shù)，以及128通道的PCIe 5.0的設(shè)計(jì)，AmpereOne系列處理器不僅實(shí)現(xiàn)了性能的擴(kuò)展，也為云服務(wù)提供商和云工作負(fù)載提供價(jià)值。

由于新款的AmpereOne系列處理器是自研IP，是否會(huì)與上一代Ampere Altra系列有不相容的問題？ Jeff Wittich表示，不會(huì)存在兼容性的問題，因?yàn)閮煽钐幚砥鞫际腔?a target="_blank">ARM ISA的。所有能夠在Ampere Altra系列處理器上運(yùn)行的代碼，在AmpereOne上運(yùn)行也沒有問題，不需要任何改動(dòng)。

針對進(jìn)行火爆的生成式AI對數(shù)據(jù)中心CPU市場的影響？ Jeff Wittich表示，生成式AI進(jìn)一步加速了市場對算力的需求。

他分析，針對AI工作負(fù)載最常見的有兩大場景，第一是AI訓(xùn)練工作負(fù)載，即處理器在大量數(shù)據(jù)的基礎(chǔ)上建立模型，對于某些大模型來說，過程有時(shí)候不只需要幾個(gè)小時(shí)、幾天，甚至可能要花上數(shù)周甚至數(shù)月的時(shí)間。第二個(gè)場景就是AI推理，即在完成AI訓(xùn)練的基礎(chǔ)上，在應(yīng)用上去運(yùn)行模型。

雖然可能訓(xùn)練AI模型只需要一次，但是運(yùn)行模型還需要進(jìn)行上百萬次甚至數(shù)十億次，這些工作負(fù)載需要進(jìn)行非常快速的運(yùn)行，以盡可能快的速度向用戶交付數(shù)據(jù)和資源。

AI訓(xùn)練和AI推理的工作負(fù)載是非常不一樣的。 AI訓(xùn)練發(fā)生在服務(wù)器上的CPU、GPU，但是AI推理不一樣，它擴(kuò)展在整個(gè)云的部署中。這就意味著它對云的基礎(chǔ)建設(shè)提出了更高的要求。

所以AI訓(xùn)練和AI推理有三個(gè)主要不同，一個(gè)是就規(guī)模而言，AI推理需要更大的規(guī)模；第二，AI推理很有可能在通用服務(wù)器上和其他工作負(fù)載同時(shí)運(yùn)行；第三，AI推理對速度的要求更高，而且還需要不斷地進(jìn)行大量重復(fù)，以向用戶快速交付結(jié)果。

Jeff Wittich表示，無論是Ampere Altra還是AmpereOne系列處理器都非常適用于AI推理，特別是大規(guī)模的云場景。目前，已經(jīng)有許多客戶都在使用Ampere Altra系列處理器進(jìn)行AI推理，并且得到我們Library中很多軟件工具的支持，包括TensorFlow、PyTorch、ONNX常用的主流框架。

審核編輯：劉清