近日，阿里云團(tuán)隊(duì)正式開源全新推理模型——通義千問(wèn)QwQ-32B。摩爾線程在該模型發(fā)布后2小時(shí)內(nèi)，迅速且高效完成了對(duì)千問(wèn)QwQ-32B的支持。基于大語(yǔ)言模型高速推理框架vLLM以及MT Transformer推理引擎部署的QwQ-32B，在實(shí)際運(yùn)行中展現(xiàn)出了卓越的推理性能與穩(wěn)定性，充分印證了MUSA架構(gòu)和全功能GPU在生態(tài)兼容與快速支持方面的強(qiáng)大優(yōu)勢(shì)。

摩爾線程將這一成果開放上線至模型廣場(chǎng)“夸娥工場(chǎng)”。夸娥工場(chǎng)是摩爾線程傾力打造的模型展示中心，旨在為用戶提供基于摩爾線程夸娥(KUAE)智算集群支持的模型能力體驗(yàn)。

千問(wèn)QwQ-32B是阿里探索推理模型的最新成果。在一系列權(quán)威基準(zhǔn)測(cè)試中，千問(wèn)QwQ-32B 模型表現(xiàn)異常出色，幾乎完全超越了OpenAI-o1-mini，比肩最強(qiáng)開源推理模型DeepSeek-R1。盡管該模型僅包含32B參數(shù)，但通過(guò)大規(guī)模強(qiáng)化學(xué)習(xí)訓(xùn)練，其在數(shù)學(xué)、編程及通用能力等領(lǐng)域?qū)崿F(xiàn)了顯著突破，展現(xiàn)了卓越的智能化水平。

圖注：官方發(fā)布的benchmark測(cè)試對(duì)比圖

從官方發(fā)布的benchmark測(cè)試對(duì)比圖中可以清晰地看到，QwQ-32B在各項(xiàng)測(cè)試中成績(jī)顯著高于OpenAI-o1-mini及Deepseek的各個(gè)蒸餾版本。在LiveBench與BFCL測(cè)試中甚至擊敗了滿血版的Deepseek-R1-671B。

從DeepSeek一系列模型的問(wèn)世，到阿里云通義千問(wèn)QwQ-32B的發(fā)布，這些開源大模型降低了開發(fā)門檻，激發(fā)了開源社區(qū)創(chuàng)新活力，極大地推動(dòng)了AI技術(shù)的普及與發(fā)展。它們用實(shí)打?qū)嵉谋憩F(xiàn)證明，開源大模型憑借其強(qiáng)大的性能和靈活性，正在突破傳統(tǒng)技術(shù)局限，成為不可阻擋的發(fā)展趨勢(shì)。

摩爾線程積極響應(yīng)開源社區(qū)的號(hào)召，旨在賦能更多開發(fā)者基于國(guó)產(chǎn)全功能GPU進(jìn)行AI應(yīng)用創(chuàng)新。摩爾線程僅用一周時(shí)間就火速支持了DeepSeek開源周“全家桶”，對(duì)千問(wèn)QwQ-32B更實(shí)現(xiàn)了Day0級(jí)支持，充分驗(yàn)證了摩爾線程先進(jìn)MUSA架構(gòu)和全功能GPU的技術(shù)成熟度。

我們誠(chéng)摯歡迎廣大開發(fā)者與用戶來(lái)摩爾線程夸娥工場(chǎng)進(jìn)行體驗(yàn)。與此同時(shí)，開發(fā)者可以在GitHub摩爾線程賬號(hào)或者開發(fā)者社區(qū)了解更多：

摩爾線程始終致力于推動(dòng)開源生態(tài)的發(fā)展，通過(guò)技術(shù)開放與生態(tài)共建，加速國(guó)產(chǎn)全功能GPU在AI計(jì)算領(lǐng)域的規(guī)?；瘧?yīng)用，為更多用戶提供更智能、高效的解決方案。

關(guān)于摩爾線程

摩爾線程成立于2020年10月，以全功能GPU為核心，致力于向全球提供加速計(jì)算的基礎(chǔ)設(shè)施和一站式解決方案，為各行各業(yè)的數(shù)智化轉(zhuǎn)型提供強(qiáng)大的AI計(jì)算支持。

我們的目標(biāo)是成為具備國(guó)際競(jìng)爭(zhēng)力的GPU領(lǐng)軍企業(yè)，為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進(jìn)的加速計(jì)算平臺(tái)。我們的愿景是為美好世界加速。