【AIBOX】裝在小盒子的AI足夠強嗎？
Firefly推出大語言模型本地部署的產(chǎn)品：AIBOX-1684X，目前已適配主流的大語言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的實機演示：ChatGLM3-6B采用更多元的訓(xùn)練數(shù)據(jù)和策略，在不同角度的數(shù)據(jù)集，采用了全新設(shè)計的Prompt格式，支持工具調(diào)用(Function Call)、代碼執(zhí)行(Code Interpreter)和Agent任務(wù)等復(fù)雜場景
性能實測結(jié)果
更強大的基礎(chǔ)模型
ChatGLM3-6B (Base) 在選取的8個中英文典型數(shù)據(jù)集中進行性能測試：
在語義、數(shù)學(xué)、推理、代碼、知識等不同角度的數(shù)據(jù)集上測評顯示，ChatGLM3-6B-Base具有在10B以下的基礎(chǔ)模型中最強的性能
更全面的開源序列
除了對話模型ChatGLM3-6B外，還開源了基礎(chǔ)模型ChatGLM3-6B-Base、長文本對話模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench評測集上對模型進行測試：
在多個長文本應(yīng)用場景下的估測試中，與二代模型相比，其效果平均提升程度大于50%。在論文閱讀、文檔摘要和財報分析等應(yīng)用中，提升尤為顯著
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
AI
+關(guān)注
關(guān)注
91文章
40982瀏覽量
302536 -
語言模型
+關(guān)注
關(guān)注
0文章
573瀏覽量
11341 -
Firefly
+關(guān)注
關(guān)注
2文章
549瀏覽量
9156
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
AIBOX + JishuShell：一鍵部署端側(cè) AI，把本地龍蝦“裝”進小盒子
近期AI技術(shù)生態(tài)中有個耳熟能詳?shù)脑~：OpenClaw，也就是所謂的“龍蝦”，而為了將龍蝦本地化，許多平臺和廠商都在投入研發(fā)相關(guān)變體和工具，其中安謀科技(ArmChina)旗下的極術(shù)社區(qū)發(fā)布了
AI 主機盒在智慧安防中的 5 大應(yīng)用場景：以視美泰 AIBOX-3576M/AIBOX-3588M 為例
傳統(tǒng)安防正加速向智慧安防轉(zhuǎn)型，核心驅(qū)動力之一便是AI主機盒應(yīng)用的普及。作為邊緣計算的核心載體，AI主機盒無需依賴云端，即可在本地完成視頻解碼、AI算法推理與實時告警，讓普通監(jiān)控攝像頭瞬間具備“智能
RK3588 vs RK3576 AI主機盒全方面對比：視美泰AIBOX-3588M與AIBOX-3576M深度解析
前言在AI邊緣計算領(lǐng)域，瑞芯微（Rockchip）旗下的RK3588和RK3576兩款芯片備受關(guān)注。作為國內(nèi)領(lǐng)先的商顯主板方案商，視美泰基于這兩款芯片分別推出了AIBOX
千億安防市場選型不踩坑！視美泰 AIBOX-3576M，整機廠商智慧監(jiān)控爆款底座
視美泰 AIBOX-3576M 智慧監(jiān)控方案，憑借強算力、全算法、真國產(chǎn)、易集成四大優(yōu)勢，成為整機廠商打造智慧監(jiān)控產(chǎn)品的首選核心底座。
做社區(qū)安防、工廠安監(jiān)、園區(qū)管理、商業(yè)連鎖監(jiān)控，選 AIBOX-3576M，一次選型、長期受
視美泰 AIBOX-3588M 性能測評：6T 算力 AI 主機盒應(yīng)用解析
在邊緣計算與工業(yè)智能化快速發(fā)展的背景下，AI?主機盒已成為設(shè)備廠商實現(xiàn)?AI?落地的核心硬件。本文對視美泰?AIBOX-3588M進行全面性能測評，解析其?6TOPS?算力、RK3588?平臺、工業(yè)級設(shè)計與多場景應(yīng)用能力，為行業(yè)
龍芯中科3B6000M芯片成功部署OpenClaw開源AI智能體
3B6000M 芯片的“小盒子”，成功完成了 OpenClaw 的本地化部署。這不僅意味著國產(chǎn)芯片在 AI 算力適配上的重大突破，更讓“低成本、高安全”的本地 AI 數(shù)字員工成為觸手可及的現(xiàn)實。
華陽通用AIBOX車載AI計算平臺獲得國內(nèi)頭部自主品牌車企項目定點
近日，由ADAYO華陽集團旗下全資子公司華陽通用推出的華陽AIBOX高性能車載AI計算平臺，獲得國內(nèi)頭部自主品牌車企的核心智能化項目定點。該項目的落地，標(biāo)志著端側(cè)大模型在前裝量產(chǎn)場景中的應(yīng)用邁出關(guān)鍵一步，也為獨立車載AI
中科創(chuàng)達量產(chǎn)版AIBOX-N1亮相CES 2026
在2026國際消費電子展（CES）現(xiàn)場，中科創(chuàng)達圍繞“AI定義汽車”核心趨勢，正式亮相基于NVIDIA Drive AGX Orin打造的量產(chǎn)版AIBOX-N1。當(dāng)前，該產(chǎn)品已具備向主機廠批量供貨的能力，這也標(biāo)志著智能汽車AI大
如何用FCU3501 AI邊緣計算盒子，打造智慧工廠的視覺分析核心？
飛凌嵌入式FCU3501 AI邊緣計算盒子，憑借“高可靠架構(gòu)、強算力支撐、零門檻部署”的多重優(yōu)勢，能夠為深陷轉(zhuǎn)型困境的行業(yè)打造智慧工廠視覺質(zhì)檢與安全生產(chǎn)一體化系統(tǒng)，成為突破困局的關(guān)鍵動能。
國產(chǎn)超新星｜EA500I PRO智能工作站：小盒子大能量，千元級解鎖大模型
隨著AI從小模型向大模型的加速滲透，算力已成為企業(yè)構(gòu)建智算能力的核心關(guān)鍵。對于渴望切入AI賽道的中小企業(yè)，既具備成本優(yōu)勢又能快速部署的邊緣計算盒子，無疑是理想的選擇；但市場上超100T算力的邊緣計算
一文了解ai計算盒子（邊緣計算盒子）是到底是什么產(chǎn)品？
在物聯(lián)網(wǎng)與人工智能深度融合的當(dāng)下，數(shù)據(jù)處理的效率和實時性成為各行業(yè)數(shù)字化轉(zhuǎn)型的關(guān)鍵。ai計算盒子（又稱邊緣計算盒子、ai邊緣計算盒子）作為連
產(chǎn)品案例 | 遛“狗”新方式，盒子來幫忙
當(dāng)一只機器狗被一個巴掌大的小盒子操控，躲避障礙、跟隨指令完成轉(zhuǎn)身、停止等動作時，圍觀人群紛紛發(fā)出驚嘆：“這么小的盒子，居然能‘溜’機器狗？”。這個“小盒子”，正是機器狗的“智慧大腦”，它憑借強大
邊緣AI盒子技術(shù)解析：ASIC/FPGA/GPU芯片及邊緣-云端協(xié)同與自適應(yīng)推理
? 電子發(fā)燒友網(wǎng)綜合報道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數(shù)據(jù)處理能力的硬件設(shè)備，部署在數(shù)據(jù)源的邊緣側(cè)，如工廠、商場、交通路口等，能在本地進行數(shù)據(jù)采集、預(yù)處理、分析和決策，無需將所有
AIBOX 產(chǎn)品矩陣：支持主流大模型的私有化部署，滿足個性化 AI 應(yīng)用需求
AIBOX系列產(chǎn)品具備高性能、低功耗、環(huán)境適應(yīng)性強等特點，算力覆蓋6-157TOPS，通過搭配多樣化深度學(xué)習(xí)算法，體積小巧，能夠支持主流大模型的私有化部署，為多個智慧行業(yè)進行數(shù)字化賦能。目前
傳統(tǒng)攝像頭為什么需要升級為AI盒子？多場景痛點解析
在安防監(jiān)控、智慧零售、工業(yè)檢測等領(lǐng)域，傳統(tǒng)攝像頭長期以來承擔(dān)著視頻采集的任務(wù)，但隨著AI技術(shù)的快速發(fā)展，單純依賴“看得見”的攝像頭已無法滿足智能化需求。AI盒子（智能視頻分析終端）的出現(xiàn)，讓傳統(tǒng)監(jiān)控
評論