英特爾憑借高性能CPU和先進的半導(dǎo)體工藝被大部分人所熟知，不過如今火熱的AI正讓越來越多的人意識到軟件以及軟硬更好結(jié)合的重要性。作為一家以硬件見長的公司，英特爾在8個月前發(fā)表聲明表示，對于全新硬件架構(gòu)的每一個數(shù)量級的性能提升潛力，軟件能帶來超過兩個數(shù)量級的性能提升。這是一個非常值得關(guān)注的聲明和轉(zhuǎn)變。

在本周的2019英特爾開源技術(shù)峰會（OSTS）上，英特爾公司高級副總裁兼架構(gòu)、圖形與軟件部門總經(jīng)理Raja Koduri第一次對投資者談?wù)撚⑻貭柕能浖?，這也被他成為英特爾另一個不為人知的秘密。

英特爾公司高級副總裁兼架構(gòu)、圖形與軟件部門總經(jīng)理Raja Koduri

英特爾OSTS源自2004年英特爾內(nèi)部的一次會議，當(dāng)時只有幾十個英特爾的工程師參加，2019年的峰會的規(guī)模擴大到了500人，也是最開放的一屆，阿里、亞馬遜、谷歌、華為、微軟、京東、AT&T等巨頭的高管都參與其中。

Raja Koduri是如何談?wù)撚⑻貭柫硪粋€不為人知的秘密？

AI時代軟硬件結(jié)合為何更加重要？

在談?wù)撚⑻貭柕能浖?，我們先聊聊軟硬件的結(jié)合?；仡欉^去35年到40年的計算發(fā)展歷程，計算力在以驚人的速度增長。這期間我們也經(jīng)歷了一些基礎(chǔ)性的變化，比如萬物數(shù)字化、萬物互聯(lián)、萬物移動化、萬物云化。并且，每一個基礎(chǔ)性轉(zhuǎn)變背后也伴隨著軟硬件結(jié)合的變遷。

互聯(lián)網(wǎng)時代PC作為主要的硬件載體，其軟硬件結(jié)合的典型就是x86架構(gòu)和Windows系統(tǒng)。從PC時代的10億用戶增長到移動互聯(lián)網(wǎng)時代的100億用戶，移動時代的主導(dǎo)又變?yōu)榱?a target="_blank">Arm架構(gòu)和iOS及Android操作系統(tǒng)的結(jié)合，當(dāng)然Linux系統(tǒng)和x86平臺也占據(jù)一部分市場。

如今，大家在談?wù)撘?guī)模將達1000億臺設(shè)備的下一個時代，很難預(yù)測什么樣的架構(gòu)和軟件的結(jié)合會成為主流。但可以明確的是在軟硬件的結(jié)合中，軟件正在發(fā)揮越來越重要的價值。

這其中很重要的原因就是摩爾定律的放緩，靠工藝制程帶來硬件性能的大幅提升正變得越來越難。但前線的架構(gòu)師可能會說：“我們需要更多的晶體管。如果不作出改變，我們是無法使所有工作負載都快速運行的?！?/p>

Raja Koduri在2019英特爾開源技術(shù)峰會上的演講中指出，計算速度的增加想有指數(shù)級的增長，那就必須要硬件和軟件來共同創(chuàng)新。軟件社區(qū)和硬件社區(qū)相互交流，并真正去思考彼此的問題，這比以往任何時候都更重要。

強調(diào)AI時代軟件將發(fā)揮更重要作用的不止是英特爾。Arm機器學(xué)習(xí)部門商業(yè)與市場副總裁Dennis Laudick去年11月接受雷鋒網(wǎng)專訪時指出：“軟件才是AI處理器中更關(guān)鍵的部分，軟件生態(tài)系統(tǒng)是Arm成功的關(guān)鍵所在，這也是Arm過去20年已經(jīng)做的事情。近兩年的AI熱潮會對軟件行業(yè)帶來革命性的變化，因為傳統(tǒng)的軟件在概率判斷，評估猜測方面有一些局限性，AI對概率判斷的準確度和猜測的準確度上有其特點，AI將讓軟件進入2.0的時代?！?/p>

CEVA營銷副總裁Moshe Sheier去年也對雷鋒網(wǎng)表示，AI還處于一個早期的階段，現(xiàn)在各家的AI處理器IP在SoC中所占的面積都不小，而人工智能還在不斷演進中，未來算法和設(shè)計的改進會持續(xù)帶來AI技術(shù)的更新。如何延長產(chǎn)品的周期更好地適應(yīng)OEM廠商不斷變化的需求非常關(guān)鍵，這時軟件的作用尤為明顯，能夠通過軟硬結(jié)合不斷適應(yīng)技術(shù)變化和提高效率的AI方案對產(chǎn)品落地非常重要。

軟件到底能帶來多大幅度提升？

那么軟件到底能帶來多大程度的提升？Raja Koduri舉了三個例子。第一個例子是從JDK8到JDK9， Java生態(tài)系統(tǒng)中實現(xiàn)了巨大的性能提升。英特爾的工程師們?yōu)榭蛻艉?a target="_blank">開發(fā)者將現(xiàn)有硬件的性能提升了6倍。如果從硬件的角度來看，這相當(dāng)于是在一次軟件發(fā)布中就實現(xiàn)了數(shù)代的硬件性能提升。

第二個例子是內(nèi)存方面，原始硬件本身極具局限性，但如果將其與英特爾的內(nèi)存層級架構(gòu)相結(jié)合，再加上他們在軟件棧方面的領(lǐng)先技術(shù)，就能將工作負載的性能提升8倍。同樣，這也相當(dāng)于數(shù)代的硬件性能提升。

第三個例子是深度學(xué)習(xí)方面，利用DL Boost等架構(gòu)擴展，在過去12至18個月釋放了英特爾CPU潛能。從Skylake升級至Cascade Lake，相比上一代硬件提速28倍。

Arm同樣憑借軟件帶來了非常顯著的提升，Dennis Laudick表示：“Arm的AI處理器是一個異構(gòu)的系統(tǒng)，其中包含CPU、GPU、NPU等，但作為IP核想要實現(xiàn)更好的可配置性軟件體系非常重要。在硬件之上有我們特別優(yōu)化的Compute Library，它會把底層的硬件和驅(qū)動進行充分優(yōu)化，根據(jù)算子的不同需求驅(qū)動硬件，可以提升幾倍到十幾倍的效率?！?/p>

硬件霸主的軟件秘密

Raja Koduri演講時表示：“在為這個演講做準備時，我與英特爾負責(zé)軟件的主管們進行了座談，聽取他們對我本次演講內(nèi)容的反饋。有趣的是，他們的第一反應(yīng)是，這好像是我們第一次對投資者談?wù)撥浖?，其中有些人已?jīng)在英特爾工作了25年以上?！?/p>

他也認為，軟件給英特爾帶來的獨特競爭優(yōu)勢是一個不為人知的秘密。

“英特爾產(chǎn)品帶來的軟硬件結(jié)合的差異化優(yōu)勢常常被低估。其他公司的產(chǎn)品性能哪怕僅提高了10%，也會被拿來大做文章，而我們在每個核心的性能提高了10倍，網(wǎng)絡(luò)性能提高了2倍，Java提高了2倍?！?Raja Koduri表示。

一個值得關(guān)注的數(shù)字是，硬件巨頭英特爾擁有超過15000名軟件工程師，并且是多個軟件開源社區(qū)最重要的貢獻者。據(jù)介紹，英特爾是Linux Kernel的最大貢獻者，每年會修改或編寫50萬行代碼，優(yōu)化了超過100個操作系統(tǒng)；也是Chromium OS的三大貢獻者之一，在軟件方面擁有超過10000個高度定制化客戶部署；還是OpenStack的十大貢獻者之一。

另外，英特爾擁有一個超過1200萬開發(fā)者的生態(tài)系統(tǒng)。Raja Koduri說：“英特爾的軟件生態(tài)規(guī)模很大，橫跨開發(fā)者、基礎(chǔ)設(shè)施客戶、網(wǎng)絡(luò)、操作系統(tǒng)開發(fā)者、英特爾開發(fā)的工具和SDK，影響了大量標(biāo)準組織，高度定制化客戶，以及我們在物聯(lián)網(wǎng)和邊緣計算上的布局等，這簡直不可思議?！?/p>

英特爾正在從晶體管為中心到數(shù)據(jù)為中心轉(zhuǎn)型，也在去年提出了英特爾的六大技術(shù)支柱——制程、架構(gòu)、內(nèi)存、互連、安全、軟件。這六個技術(shù)支柱環(huán)環(huán)嵌套，通過超異構(gòu)計算，英特爾可以集成不同架構(gòu)、不同制程、3D封裝、互連和OneAPI等技術(shù)創(chuàng)新，能夠為客戶提供更多的靈活性和更快的產(chǎn)品上市時間，全方位推動計算創(chuàng)新發(fā)展。

當(dāng)然，這也是英特爾未來創(chuàng)新的驅(qū)動力。

英特爾GPU以及AI的軟件策略

Raja Koduri表示：“去年我們公布了自己的愿景，未來將是標(biāo)量、矢量、矩陣和空間的多種架構(gòu)組合，部署在CPU、GPU、FPGA和加速器套件之中。我們正在如期執(zhí)行這一計劃。我們擁有多個架構(gòu)，多個內(nèi)存層級架構(gòu)和互連層級架構(gòu)。架構(gòu)路線圖已經(jīng)準備好，這樣就可以在硬件產(chǎn)品路線圖中覆蓋到GPU和AI開發(fā)者。”

從架構(gòu)與開發(fā)者生態(tài)與競爭對手對比。英偉達的開發(fā)者生態(tài)系統(tǒng)規(guī)模適中，但是僅圍繞著一個單一架構(gòu)。并且他們沒有內(nèi)存策略，看起來英偉達正在嘗試建立互聯(lián)策略，英偉達在今年3月宣布以69億美元收購Mellanox。

AMD有兩個架構(gòu)，但也沒有內(nèi)存或互連策略，而且AMD的開發(fā)者生態(tài)系統(tǒng)的規(guī)模也不大。

Raja Koduri指出，中間這個圓圈里的策略和潛力只能讓你走這么遠。他引用了Murthy的話，真正的挑戰(zhàn)是如何將我們的軟件策略從一個架構(gòu)擴展到四個架構(gòu)。

為此，英特爾給自己設(shè)定了三個目標(biāo)。第一個目標(biāo)是簡便和可擴展的，英特爾希望他們的軟件讓開發(fā)者易于使用，而且不僅可以擴展到所有的架構(gòu)，更可以擴展到所有的操作系統(tǒng)。第二個目標(biāo)是開放性，致力于向所有人開放標(biāo)準。第三個目標(biāo)是必須提供統(tǒng)一的開發(fā)體驗，有時跟英特爾合作像是在與十家不同的公司合作，他們要解決這個問題。

為了實現(xiàn)這些目標(biāo)，英特爾已經(jīng)投入了一年多，在內(nèi)部稱為oneAPI項目。Raja Koduri高興地宣布，oneAPI項目將在2019年第四季度之前如期交付給開發(fā)者。

英特爾在開源技術(shù)峰會上還公布了一系列最新進展，包括適應(yīng)英特爾架構(gòu)的核心基礎(chǔ)設(shè)施現(xiàn)代化、為開發(fā)者和合作伙伴提升英特爾基于Linux的解決方案、在汽車和工業(yè)自動化領(lǐng)域?qū)崿F(xiàn)新應(yīng)用。

PC時代和移動互聯(lián)網(wǎng)時代的主流架構(gòu)無疑是x86和Arm，無論是英特爾和Arm都公開地表示軟件是他們獨特的競爭優(yōu)勢。對于英特爾這家以硬件著稱的公司，公開地談?wù)撟约涸谲浖I(lǐng)域的實力確實也讓我們能夠更清楚地看到他們在摩爾定律放緩之下能夠繼續(xù)保持競爭力和創(chuàng)新的關(guān)鍵所在。相信也有不少人此前沒有意識到英特爾在軟件和開發(fā)者生態(tài)方面的實力。

硬件架構(gòu)的完善以及軟件oneAPI能力，決定著英特爾在AI和數(shù)據(jù)時代競爭力。