?作者：算力魔方創(chuàng)始人/英特爾邊緣計(jì)算創(chuàng)新大使 劉力

前面我們分享了《Meta重磅發(fā)布Llama 3.3 70B：開源AI模型的新里程碑》，Llama 3.3 70B模型的發(fā)布，標(biāo)志著開源AI模型在智能水平上的一大飛躍。它不僅達(dá)到了之前只有Llama 3.1 405B模型才具備的智能水平，而且還超越了11月發(fā)布的GPT-4o模型。

本文我們將分享微軟剛剛發(fā)布的Phi-4模型，其模型參數(shù)只有14B，是Llama3.3 70B的五分之一，但性能卻跟Llama 3.3 70B模型差不多，甚至在GPQA和MATH兩項(xiàng)上還超越了Llama3.3 70B！

參考鏈接：https://arxiv.org/pdf/2412.08905

本文將分享Phi-4 14B模型在算力魔方4060版上的部署過(guò)程。

一，算力魔方?簡(jiǎn)介

算力魔方?是一款可以DIY的迷你主機(jī)，采用了抽屜式設(shè)計(jì)，后續(xù)組裝、升級(jí)、維護(hù)只需要拔插模塊。通過(guò)選擇不同算力的計(jì)算模塊，再搭配不同的 IO 模塊可以組成豐富的配置，適應(yīng)不同場(chǎng)景。

性能不夠時(shí)，可以升級(jí)計(jì)算模塊提升算力；IO 接口不匹配時(shí)，可以更換 IO 模塊調(diào)整功能，而無(wú)需重構(gòu)整個(gè)系統(tǒng)。

本文以下所有步驟將在帶有英特爾i7-1265U處理器的算力魔方?上完成驗(yàn)證。

二，安裝Ollama

請(qǐng)按照《Gemma 2+Ollama在算力魔方上幫你在LeetCode解題》安裝Ollama。

三，運(yùn)行Phi-4

使用下面的命令完成運(yùn)行Phi-4：

ollama run phi4

四，測(cè)試Phi-4數(shù)學(xué)能力

輸入下面的數(shù)學(xué)問(wèn)題，測(cè)試Phi-4的數(shù)學(xué)能力：

A farmer has a rectangular field with a length of 2x + 5 meters and a width of x - 3 meters.

Part A: Find the area of the field in terms of x.

Part B: If the area of the field is 150 square meters, determine the value of x.

Part C: Calculate the perimeter of the field.

五，總結(jié)

使用Ollama可以方便快捷的將Phi-4模型本地化部署在算力魔方?上。

如果你有更好的文章，歡迎投稿！

稿件接收郵箱：nami.liu@pasuntech.com

更多精彩內(nèi)容請(qǐng)關(guān)注“算力魔方?”！

?審核編輯 黃宇