人工智能的火爆，也帶旺了許多新名詞，比如“機器學習”。

與讓機器按照既定的程序執(zhí)行指令的傳統(tǒng)工作方式不同，基于人工智能神經(jīng)網(wǎng)絡（ANN）的機器學習，其核心是讓機器能夠在沒有人工輸入和干預的情況下自動學習和改進其操作或功能，這讓機器看上去具有了自我學習和進化的能力，表現(xiàn)得更為“智能”。這對于應付一些復雜、無法提前預知情況下的判斷和決策尤為關鍵，比如讓車輛在無人駕駛的狀態(tài)針對路況環(huán)境做出正確的反應。

機器學習的興起

讓機器進行“學習”的模式，也像極了人類大腦進行學習和認知的過程。首先，需要用一組數(shù)據(jù)對于ANN進行“訓練”，讓ANN具備某一類“知識”；之后，機器就可以從過去的訓練中汲取知識和經(jīng)驗，在新情況出現(xiàn)時基于訓練有素的ANN進行“推理”，做出準確的判斷。

實際上機器學習并不是一個新概念，之所以這兩年火起來，自有其原因。從人工智能的ABC（A：算法；B：大數(shù)據(jù)；C：算力）三要素來看，算法雖然很“網(wǎng)紅”，但實質(zhì)上突破性的進步有限，很多現(xiàn)在用的算法不過是將塵封多年的成果拿出來換個臉而已，而后兩者的發(fā)展才是機器學習興起的決定性作用。

過去20年間隨著數(shù)字化和互聯(lián)網(wǎng)的發(fā)展，人類積累了大量的數(shù)據(jù)，而前幾年大數(shù)據(jù)概念的興起和應用，更是為機器學習做了良好的鋪墊，讓人們可以獲取大量可用于機器學習“訓練”的數(shù)據(jù)。而算力方面，不斷提升的處理器技術為機器學習提供了堅固的基石，可以禁得起更復雜和更深層次的ANN的考驗。比如針對計算資源消費大戶的“訓練”階段，人們就發(fā)展出了GPU、FPGA、TPU、異構處理器等多種計算平臺，去應對算力挑戰(zhàn)。

機器學習所需的算力的提升，除了得益于底層硬件處理器平臺的進步，還有一個不可忽視的重要因素，就是云計算的發(fā)展。以云計算為核心的集中式的大數(shù)據(jù)處理模式，將以前分散的計算資源集中到了云端，也讓以前看來不可能完成的計算任務成為可能。所以云計算也成為整個人工智能發(fā)展的一個重要基礎性支撐技術。

圖1，機器學習催生了很多創(chuàng)新的人工智能應用，比如無人駕駛（圖片來源：網(wǎng)絡）

從云到邊緣

不過時至今日，集中式的云計算模式也遇到了挑戰(zhàn)。大家逐漸發(fā)現(xiàn)，大量的人工智能應用和機器學習場景是發(fā)生在更為靠近用戶的網(wǎng)絡邊緣節(jié)點端的，如果凡事都要上傳到云端進行分析判斷，然后再將指令下發(fā)到邊緣節(jié)點進行處理，這么“漫長”的數(shù)據(jù)通信鏈路會受制于網(wǎng)絡傳輸帶寬的影響，產(chǎn)生不能接受的延時，同時還有諸如安全、功耗等方面的挑戰(zhàn)。

這一云計算的瓶頸必然促使人們重新考慮合理配置計算資源，提供一個更為合理和高效的計算體系架構，于是“邊緣計算”應運而生了。與集中式的云計算不同，邊緣計算要做的是，不必再將數(shù)據(jù)傳到遙遠的云端進行處理，而是在邊緣側就地解決，讓邊緣端的嵌入式設備去完成實時性的數(shù)據(jù)分析和智能化處理。這實際上遵循的是一個“在正確的時間將正確的數(shù)據(jù)放在正確的位置處理”的策略，由此而形成的“云+邊緣端”的混合計算模式對于未來的物聯(lián)網(wǎng)架構影響深遠。

具體到基于機器學習的人工智能應用場景，在部署其計算體系時也自然會考慮到上述“從云計算向邊緣計算”的發(fā)展趨勢，合理配置計算資源，令數(shù)據(jù)處理的效能最大化。對此，目前大家普遍的共識就是：充分利用云端算力，在云端去完成ANN的“訓練”工作，而將“推理”放在網(wǎng)絡邊緣節(jié)點設備中進行，進而形成一個完整高效的機器學習系統(tǒng)。這有助于降低網(wǎng)絡擁塞風險，提升處理實時性，增強用戶隱私保護，甚至在無法聯(lián)網(wǎng)的情況下也能啟用“推理”功能。

舉個例子，比如一個人臉識別系統(tǒng)，可以將在云端受過“訓練”的ANN部署到本地用戶端，當攝像頭捕捉到人臉信息后，會利用本地嵌入式設備的處理器去完成“推理”工作，將其與本地數(shù)據(jù)庫中存儲的人臉信息庫進行比對，完成人臉識別的工作。這就是一個典型的“訓練在云端、推理在邊緣”的例子。

圖2，邊緣計算架構（圖片來源：網(wǎng)絡）

嵌入式系統(tǒng)上的機器學習

當然，雖然上面這種“云端一體”的計算架構看上去很美，但在實施過程中還是會面臨諸多問題。一個最直接的問題是——在網(wǎng)絡邊緣端工作的嵌入式設備，通常都是處于資源受限的狀態(tài)，功耗、成本、外形尺寸等方面的制約使其無法具備像云端系統(tǒng)那樣“奢侈”的計算能力。因此想要實現(xiàn)“在嵌入式系統(tǒng)上跑機器學習”，就需要從硬件設計到軟件部署，做出特殊化的安排。不過從另一個角度來看，這恰恰是給嵌入式系統(tǒng)設計帶來了新的機遇，使其雖然身處網(wǎng)絡“邊緣”，但實則成為了大家關注的“中心”。

在嵌入式機器學習方面，整個產(chǎn)業(yè)鏈已經(jīng)積極行動起來了。比如作為產(chǎn)業(yè)鏈上游的嵌入式處理器技術供應商，ARM就宣布推出了機器學習處理器，以及神經(jīng)網(wǎng)絡機器學習軟件ARM NN。ARM NN可以在現(xiàn)有神經(jīng)網(wǎng)絡框架（如TensorFlow或Caffe）與在嵌入式Linux平臺上運行的底層硬件處理器之間實現(xiàn)橋接，讓開發(fā)人員方便地將機器學習框架和工具，無縫地在底層嵌入式平臺上運行。

ARM推出的ARM NN軟件實現(xiàn)了機器學習所需的神經(jīng)網(wǎng)絡框架與嵌入式硬件之間的橋接（圖片來源：ARM）

而在產(chǎn)業(yè)鏈的另一端，互聯(lián)網(wǎng)巨擘和云計算提供商態(tài)度也很積極。如2017年的Google I/O年會上，Google發(fā)布了針對基于ARM的Android平臺的TensorFlow Lite；2018年3月阿里云在云棲大會·深圳峰會上，也宣布推出了首個IoT邊緣計算產(chǎn)品Link Edge，將自身的云計算優(yōu)勢下探到網(wǎng)絡邊緣端，為提升人工智能的應用效率打造云、端一體的協(xié)同計算體系。

上述發(fā)端自產(chǎn)業(yè)鏈兩極的嘗試，最終會在某些契合點上“握手”并形成合力，成為嵌入式機器學習的推手。那時，嵌入式機器學習的“火”想必又會上升到一個更高的溫度。