英國AI安全研究所推出AI模型安全評(píng)估平臺(tái)
據(jù)報(bào)道，英國人工智能安全研究院近日發(fā)布了名為“Inspect”的AI模型安全評(píng)估平臺(tái)，此平臺(tái)采用開源技術(shù)且對全球AI工程師免費(fèi)開放，旨在提升模型性能與安全測評(píng)效率。
Inspect平臺(tái)包括“數(shù)據(jù)集”、“求解器（Solver）”、“評(píng)分器”三大模塊，用于評(píng)估AI模型在核心知識(shí)儲(chǔ)備、推理能力和自主能力等方面的表現(xiàn)。
根據(jù)模型測試結(jié)果，這些模塊會(huì)對各項(xiàng)指標(biāo)進(jìn)行評(píng)分。此外，Inspect平臺(tái)還支持Python外掛其他測試框架。
英國AI安全研究院院長Ian Hogarth表示，他們推出Inspect平臺(tái)的初衷在于“堅(jiān)信開源的力量”，希望通過該平臺(tái)激發(fā)更多人參與貢獻(xiàn)，提高AI模型透明度和可重復(fù)性，并降低工程師的研發(fā)成本。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報(bào)投訴
-
人工智能
+關(guān)注
關(guān)注
1819文章
50298瀏覽量
266844 -
模型
+關(guān)注
關(guān)注
1文章
3811瀏覽量
52257 -
開源技術(shù)
+關(guān)注
關(guān)注
0文章
389瀏覽量
8764
發(fā)布評(píng)論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
AI大模型微調(diào)企業(yè)項(xiàng)目實(shí)戰(zhàn)課
的附加參數(shù)，就能達(dá)到甚至超越全量微調(diào)的效果，讓單卡微調(diào)百億參數(shù)大模型成為現(xiàn)實(shí)。
第三步：對齊與評(píng)估——確保輸出安全可控
微調(diào)后的模型可能會(huì)產(chǎn)生價(jià)值觀偏移或越界回答。因此，實(shí)戰(zhàn)的最后一步
發(fā)表于 04-16 18:48
華為聯(lián)合發(fā)布2026年行業(yè)數(shù)智化AI安全實(shí)踐研究報(bào)告
近日，華為聯(lián)合中國信息通信研究院人工智能研究所、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）安全治理委員會(huì)共同編制《行業(yè)數(shù)智化AI安全實(shí)踐
商湯大裝置SenseCore原生AI云平臺(tái)榮獲軟件供應(yīng)鏈安全能力評(píng)估認(rèn)證
近期，商湯大裝置SenseCore原生AI云平臺(tái)通過工業(yè)和信息化部電子工業(yè)標(biāo)準(zhǔn)化研究院組織的軟件供應(yīng)鏈安全能力評(píng)估，獲評(píng)優(yōu)秀級(jí)，成為全國首批
使用NORDIC AI的好處
，時(shí)延更低，系統(tǒng)在網(wǎng)絡(luò)不穩(wěn)定甚至離線時(shí)也能繼續(xù)工作。[Edge AI 概述]
提升隱私與可靠性
原始傳感器數(shù)據(jù)（如運(yùn)動(dòng)、生理信號(hào)等）可以留在本地，只上傳推理結(jié)果，有利于隱私與數(shù)據(jù)安全。
本地決策
發(fā)表于 01-31 23:16
嵌入式軟件單元測試中AI自動(dòng)化與人工檢查的協(xié)同機(jī)制研究：基于專業(yè)工具的實(shí)證分析
分析、工具評(píng)估、實(shí)證研究與標(biāo)準(zhǔn)解讀，得出以下結(jié)論：
?嵌入式軟件因安全關(guān)鍵性、實(shí)時(shí)性與硬件耦合性，對單元測試的要求遠(yuǎn)高于通用軟件?，必須使用專業(yè)工具如winAMS；
?AI自動(dòng)化測試顯
發(fā)表于 12-31 11:22
過程×框架×平臺(tái)：安全“三支柱”護(hù)航AI應(yīng)用量產(chǎn)落地
經(jīng)緯恒潤汽車電子產(chǎn)品事業(yè)部高級(jí)總監(jiān)邵亮受邀參加“AI+智能汽車:融合創(chuàng)新與生態(tài)共建”論壇并發(fā)表題為《從“可用”到“可信”：道路車輛AI系統(tǒng)安全實(shí)踐探索》主題演講，剖析了當(dāng)前AI技術(shù)在車
【「AI芯片：科技探索與AGI愿景」閱讀體驗(yàn)】+AI的科學(xué)應(yīng)用
流體芯片
⑤AI計(jì)算平臺(tái)
⑥基于AI的自主決策系統(tǒng)
⑦基于AI的自主學(xué)習(xí)系統(tǒng)
2、面臨的挑戰(zhàn)
①需要造就一個(gè)跨學(xué)科、全面性覆蓋的知識(shí)庫和科學(xué)基礎(chǔ)模型
發(fā)表于 09-17 11:45
【「AI芯片：科技探索與AGI愿景」閱讀體驗(yàn)】+可期之變：從AI硬件到AI濕件
保持停滯的情況下，依照目前計(jì)算機(jī)的能耗效率，至少還需要30年的努力才接近其水準(zhǔn)，見圖1所示。
圖1 大腦與計(jì)算機(jī)的能量效率對比
圖2 類腦芯片的前瞻性研究領(lǐng)域AI濕件
為此，一些想法超前的科學(xué)家
發(fā)表于 09-06 19:12
【「AI芯片：科技探索與AGI愿景」閱讀體驗(yàn)】+內(nèi)容總覽
《AI芯片：科技探索與AGI愿景》這本書是張臣雄所著，由人民郵電出版社出版，它與《AI芯片：前沿技術(shù)與創(chuàng)新未來》一書是姊妹篇，由此可見作者在AI芯片領(lǐng)域的功力和造詣。
作者畢業(yè)于上海交
發(fā)表于 09-05 15:10
DXC與7AI攜手推出革命性的AI驅(qū)動(dòng)安全運(yùn)營服務(wù)
基于智能體的新型安全服務(wù)通過自主AI智能體降低運(yùn)營成本，同時(shí)加快響應(yīng)并擴(kuò)大覆蓋范圍 2025年，7AI平臺(tái)已為各安全團(tuán)隊(duì)節(jié)省22.4萬個(gè)分析
AI應(yīng)用的“安全鎖”：安全閃存技術(shù)在滿足行業(yè)認(rèn)證中的作用
全面審視并應(yīng)對網(wǎng)絡(luò)攻擊威脅，在確保AI應(yīng)用持續(xù)穩(wěn)定運(yùn)行的同時(shí)保障其安全性。數(shù)據(jù)投毒、分類模型篡改、后門注入攻擊以及AI模型逆向工程，這些僅僅
發(fā)表于 07-15 10:51
?1509次閱讀
關(guān)于鴻蒙App上架中“AI文本生成模塊的資質(zhì)證明文件”的情況說明
的應(yīng)用缺少AI文本生成模塊的資質(zhì)證明文件，不符合相關(guān)法律法規(guī)要求。
修改建議：AI文本生成模塊需補(bǔ)充提供《安全評(píng)估報(bào)告》并加手寫簽名、《安全
發(fā)表于 06-30 18:37
威盛電子推出天車安全AI監(jiān)控方案
近日，威盛電子宣布推出”威盛天車安全AI監(jiān)控方案”。該方案基于自主研發(fā)的AI技術(shù)，集成行人姿態(tài)識(shí)別、精準(zhǔn)防撞預(yù)警和智能分區(qū)警示等功能，大幅提升橋式起重機(jī)(天車)的
萬里紅入選安全大模型及Agentic AI賦能網(wǎng)絡(luò)安全代表性廠商
近日，專注于網(wǎng)絡(luò)安全和數(shù)字風(fēng)險(xiǎn)管理的第三方研究機(jī)構(gòu)安全牛，正式發(fā)布了《Agentic AI安全技術(shù)應(yīng)用報(bào)告》(以下簡稱“報(bào)告”)。報(bào)告依托多
評(píng)論