DeepSeek 開源周

今日，DeepSeek正式啟動"開源周"計劃，首發(fā)代碼庫FlashMLA一經(jīng)開源即引發(fā)全網(wǎng)關(guān)注。截至發(fā)稿，該項目已在GitHub斬獲超7.2K Star!

沐曦技術(shù)團隊在FlashMLA開源后迅速響應(yīng)，僅用2小時即完成與沐曦GPU的適配工作，并于當(dāng)日將代碼提交至開源社區(qū)。本次適配成功后，MXMACA平臺也可完美運行FlashMLA，這充分驗證了沐曦GPGPU架構(gòu)與MXMACA軟件平臺在生態(tài)兼容性方面的先天優(yōu)勢!

FlashMLA通過MLA解碼優(yōu)化與分頁KV緩存技術(shù)等顯著提升硬件利用率，可加速大語言模型解碼過程，有效提升響應(yīng)速度與吞吐量，尤其適用于聊天機器人等實時生成場景。沐曦在適配中應(yīng)用矩陣吸收算法將低秩投影融入Flash Attention 2核函數(shù)，在保證計算效率的同時顯著降低顯存占用。同步構(gòu)建了MXMACA自動化測試體系覆蓋常規(guī)及邊界場景，確保功能準(zhǔn)確性與數(shù)值穩(wěn)定性，為長文本生成等顯存敏感場景提供顯著性能增益。沐曦本次提交的代碼不僅突破了官方實現(xiàn)中對Hopper架構(gòu)的依賴，還新增支持64以外的多樣化page size配置，大幅提升框架適用性，為開源社區(qū)帶來實質(zhì)性技術(shù)貢獻(xiàn)。

明天，DeepSeek開源計劃第二彈即將揭曉，敬請期待后續(xù)動態(tài)!

關(guān)于沐曦

沐曦致力于為異構(gòu)計算提供安全可靠的GPU芯片及解決方案，打造全棧GPU芯片產(chǎn)品，推出曦思N系列GPU用于智算推理，曦云C系列GPU用于通用計算，以及曦彩G系列GPU用于圖形渲染，滿足“高能效”及“高通用性”的算力需求。沐曦產(chǎn)品均采用完全自主研發(fā)的GPU IP，擁有完全自主的指令集和架構(gòu)，配以兼容主流GPU生態(tài)的完整軟件棧(MXMACA)，具備高能效和高通用性的天然優(yōu)勢，能夠為客戶構(gòu)建軟硬件一體的全面生態(tài)解決方案，是“雙碳”背景下推動數(shù)字經(jīng)濟建設(shè)和產(chǎn)業(yè)數(shù)字化、智能化轉(zhuǎn)型升級的算力基石。