關(guān)鍵字：深度學(xué)習 SoC神經(jīng)網(wǎng)絡(luò ) 高通芯片構架 電子實(shí)驗模塊
“毫無(wú)疑問(wèn)地，深度學(xué)習確實(shí)是改變游戲規則的一大突破，”嵌入式視覺(jué)聯(lián)盟(EVA)創(chuàng )辦人Jeff Bier以計算機視覺(jué)為例表示，深度學(xué)習具有強大的影響力，“必須說(shuō)的是，目前它還只是一種經(jīng)驗領(lǐng)域。人們正在嘗試不同的東西。”
現在已經(jīng)有充份的證據顯示芯片供貨商對深度學(xué)習(更具體地說(shuō)是卷積神經(jīng)網(wǎng)絡(luò ))的興趣不斷增加。卷積神經(jīng)網(wǎng)絡(luò )(CNN)正廣泛地應用在影像與視頻辨識領(lǐng)域。
高通(Qualcomm)日前推出了首款可‘模擬人腦’的Zeroth認知運算平臺。根據高通表示，Zeroth將會(huì )被應用在未來(lái)的移動(dòng)芯片中，包括即將推出的Snapdragon 820。
Cognivue是另一家專(zhuān)注于深度學(xué)習領(lǐng)域的公司。該公司開(kāi)發(fā)出新的Opus嵌入式視覺(jué)SoC架構，據稱(chēng)將可利用深度學(xué)習方面的進(jìn)展，大幅提高認知偵測的準確度。Cognivue目前正與加拿大渥太華大學(xué)(University of Ottawa)合作開(kāi)發(fā)這一架構。
從Nvidia今年的GPU技術(shù)大會(huì )(GTC)發(fā)布來(lái)看，就能了解Nvidia也正看好以GPU為主的深度學(xué)習領(lǐng)域。
中國搜尋巨擘百度(Baidu)也致力于開(kāi)發(fā)深度神經(jīng)網(wǎng)絡(luò )模型，用于辨識數據中心的基本對象分類(lèi)。百度計劃將這些模型移植到嵌入式系統中。
百度深度學(xué)習研究院(Baidu Research)科學(xué)家吳韌表示，“隨著(zhù)智能手機的處理性能大幅提高，從數據中心的深度學(xué)習擷取的超級智能模型可執行在我們的手機上。”一支有效配置的手機可以直接在手機上執行這些模型，而不需要透過(guò)云端傳送與接收數據。吳韌并補充說(shuō)：“目前所面臨的最大挑戰在于是否能以低功耗模式執行作業(yè)。”
網(wǎng)絡(luò )搜尋‘長(cháng)得像狗的貓’所得到的結果
人工智能導入深度學(xué)習
有一點(diǎn)是明確的?；\罩在1980年代末期和1990年代早期對于人工智能(AI)的沮喪和失望已經(jīng)煙消云散了。在這個(gè)新的‘巨量數據’時(shí)代，大量的數據和超強運算能力的結合，開(kāi)始訓練神經(jīng)網(wǎng)絡(luò )辨別對象。深度學(xué)習如今正被視為邁向AI道路的一種全新領(lǐng)域。
有些人宣稱(chēng)，機器正取得像人類(lèi)一樣準確辨識對象的能力。根據微軟(Microsoft)研究人員最近發(fā)布的一篇文章，該公司基于深度CNN的計算機視覺(jué)系統在ImageNet 1000挑戰賽中的對象分類(lèi)表現，首度超越了人類(lèi)的能力。就在微軟宣布其神經(jīng)網(wǎng)絡(luò )系統以4.94%的誤差率超越人類(lèi)基準的5.1%誤差率過(guò)后五天，Google也宣布該公司的系統表現更勝微軟0.04%。
然而，在電子產(chǎn)業(yè)中，不同的廠(chǎng)商解決深度學(xué)習的方法也各不相同。
Nvidia三款GPU產(chǎn)品進(jìn)軍深度學(xué)習領(lǐng)域
在GPU技術(shù)大會(huì )上，Nvidia執行長(cháng)黃仁勛以Titan X發(fā)表專(zhuān)題演講，他指出這款新的GeForce游戲GPU是‘唯一適合深度學(xué)習’的系統。他并發(fā)表Nvidia的數字深度學(xué)習GPU訓練系統——這是一款專(zhuān)為加速高質(zhì)量深度神經(jīng)網(wǎng)絡(luò )而設計的軟件應用。他還發(fā)布了一套桌側深度學(xué)習機Digits DevBox，專(zhuān)為任務(wù)而打造，采用四個(gè)GTX Titan X顯卡，并搭配直覺(jué)使用的DIGITS訓練系統軟件。
Nvidia執行長(cháng)黃仁勛在GTC發(fā)表演說(shuō)
Nvidia是否計劃為其GPU擴展至先進(jìn)駕駛輔助系統(ADAS)的嵌入式視覺(jué)SoC？該公司汽車(chē)部門(mén)資深總監Danny Shapiro表示，Nvidia并不會(huì )像芯片公司一樣推出GPU，“而是為汽車(chē)OEM提供一套完整的統，包括可利用神經(jīng)網(wǎng)絡(luò )的云端和車(chē)載計算機。”
例如Nvidia在今年的CES發(fā)表基于Tegra X1處理器的DRIVE PX平臺。該公司表示，DRIVE PX平臺是一款有能力使用機器學(xué)習的車(chē)載計算機，不僅能夠幫助汽車(chē)感知環(huán)境，還有助于‘解讀’周遭世界。
深度學(xué)習協(xié)助汽車(chē)理解路上的對象（來(lái)源：NVidia）
當今的ADAS技術(shù)已經(jīng)能夠檢測一些物體，并執行簡(jiǎn)單的分類(lèi)、提醒駕駛人，甚至在有些情況下暫停汽車(chē)。而Nvidia表示其Drive PX已經(jīng)進(jìn)展到下一階段了。Shapiro強調，Drive PX平臺如今已“有能力分辨救護車(chē)和載貨卡車(chē)”。
例如，配備Drive PX的汽車(chē)能夠利用深度學(xué)習能力變得“越來(lái)越智能化，隨駕駛時(shí)數與里程數增加而更聰明。”Shapiro說(shuō)，在道路上的學(xué)習過(guò)程與數據傳回數據中心后，汽車(chē)再從周期性的軟件更新中增加知識與能力。
奧迪(Audi)首先宣布使用Drive PX平臺開(kāi)發(fā)其汽車(chē)自動(dòng)駕駛功能的計劃。Nvidia將在今年5月開(kāi)始為客戶(hù)提供Drive PX。
關(guān)于深度學(xué)習芯片算法構架，高通選擇三緘其口
高通的認知平臺盡管將成為全新Snapdragon移動(dòng)設備應用處理器的一部分，但卻對其建構模塊三緘其口。該公司僅解釋?zhuān)琙eroth平臺具有“計算機視覺(jué)、設備上深度學(xué)習、可辨識場(chǎng)景與對象的智能相機，以及閱讀文本與手寫(xiě)”的能力。
高通首款認知計算機平臺Zeroth（來(lái)源：Qualcomm）
同時(shí)，加拿大公司Cognivue看好CNN的出現將為嵌入式視覺(jué)SoC領(lǐng)域創(chuàng )造一個(gè)公平的競爭機會(huì )。
Cognivue專(zhuān)精于設計自有的影像認知處理器核心、工具與軟件，并獲得像飛思卡爾(Freescale)等合作伙伴的采用。透過(guò)利用Cognivue的可程序技術(shù)，飛思卡爾為其汽車(chē)視覺(jué)系統提供了智能成像與視頻辨識解決方案。
Cognivue產(chǎn)品管理副總裁Tom Wilson表示：“我們正開(kāi)發(fā)一個(gè)非常適合深度學(xué)習應用的大規模平行圖像處理架構與數據路徑管理。”相對的，競爭對手的方案經(jīng)常采用手動(dòng)設計其嵌入式視覺(jué)SoC，以便隨時(shí)保持與改變中的不同視覺(jué)算法同步。競爭對手通常密切注意最新的算法進(jìn)展，并應用于其SoC設計與優(yōu)化。否則他們可能會(huì )發(fā)現自已陷于老舊架構而不適于新的CNN。
Cognivue的新影像認知處理技術(shù)稱(chēng)為Opus，它將利用APEX架構，從而為復雜的深度學(xué)習分類(lèi)提供平行處理的能力。h（來(lái)源：Cognivue）
渥太華大學(xué)(University of Ottawa)電子工程與計算機科學(xué)系教授Robert Laganiere說(shuō)：“在CNN出現在計算機視覺(jué)應用以前，算法設計師必須做出涉及多個(gè)視覺(jué)算法層次和步驟的許多設計決定。”
這些決定包括用于對象偵測的分類(lèi)方式，以及打造功能整合的方法(利用嚴密的檢測器，如直方圖等)。更多決策還包括如何處理對象變形部位的辨識，以及是否要利用串聯(lián)方法(一系列確認定對象的較小決定)或采用可支持的向量機器進(jìn)行處理。
Laganiere教授說(shuō)：“在這個(gè)方法上為每一個(gè)步驟所做的任何一個(gè)小決定，都可能為對象辨識的準確度產(chǎn)生巨大的影響。”
然而，在深度學(xué)習架構中，你可以將所有的步驟整合于一，他解釋說(shuō)：“你不需要做出決定，因為深度學(xué)習將會(huì )為你做決定。”
換言之，正如Bier總結的那樣：“傳統的計算機視覺(jué)在物體辨識上采用非常程序性的途徑，但深度學(xué)習則大不相同，因為你不需要再告訴計算機需要看什么。”
Bier將這一過(guò)程描述為兩階段法。學(xué)習和訓練過(guò)程先在專(zhuān)用設施完成，例如利用數據中心的超級計算機。然后，將第一階段中的大量數據集轉為‘設定’和‘協(xié)同效率’應用到嵌入式系統中。
有關(guān)CNN架構的爭論才剛剛開(kāi)始
以嵌入式視覺(jué)SoC來(lái)看，目前還沒(méi)有就最佳的CNN架構達成共識。
Cognivue和渥太華大學(xué)的Laganiere認為，大規模的平行架構是有效處理CNN的必要方式。在平行處理中，某一影像采用特定參數可產(chǎn)生另一幅影像，而在該影像上施加另一個(gè)濾波時(shí)，即產(chǎn)生另一幅影像。Laganiere說(shuō)：“因此，在SoC中你需要更多的本地內存來(lái)儲存中介的結果。”
遺憾的是在一個(gè)大型CNN中，最后可能會(huì )出現幾百萬(wàn)種參數。他解釋說(shuō)，“好消息是我們已經(jīng)有了簡(jiǎn)化這一過(guò)程的方法，能夠移除一些不必要的連接。”然而，在處理CNN的不同節點(diǎn)上仍然存在挑戰，你無(wú)法預先決定要將那個(gè)節點(diǎn)連接到那個(gè)節點(diǎn)。“這就是為什么你需要一個(gè)可編程的設計架構，而不能透過(guò)硬件連接這些節點(diǎn)。”
同時(shí)，Bier說(shuō)，在為CNN設計處理器時(shí)，“你可以用簡(jiǎn)單且統一的架構。”而不是設計一個(gè)不同的SoC架構，然后在每次出現新算法時(shí)再進(jìn)行一次優(yōu)化；CNN處理器只需要一些附帶較少變量的簡(jiǎn)單算法。他解釋說(shuō)：“話(huà)句話(huà)說(shuō)，你可以減少神經(jīng)網(wǎng)絡(luò )處理器的可編程性，只要我們知道正確的設定方法和輸入系數。但很多公司都還沒(méi)準備好這樣做，因為這些事還在發(fā)展中。”
為了實(shí)現視覺(jué)SoC的CNN應用，芯片供貨商用盡了從CPU、GPU到FPGA和DSP的一切。因此，Bier認為有關(guān)CNN架構的爭論才剛剛開(kāi)始。
無(wú)疑地，盡管深度學(xué)習預示著(zhù)嵌入式視覺(jué)SoC的未來(lái)，Bier表示，像Mobileye等主要的視覺(jué)芯片供貨商已經(jīng)積累了大量基于視覺(jué)的汽車(chē)安全專(zhuān)業(yè)知識，所以， “盡管在未來(lái)的競爭激烈，Mobileye仍具有先發(fā)制人的優(yōu)勢。”
吳韌并強調將深度學(xué)習導入到嵌入式系統的重要性。但在談到智能手機和可穿戴式設備導入深度學(xué)習將面臨的挑戰時(shí)，他總結出三個(gè)要點(diǎn)：
首先，“我們仍在尋找殺手級的應用”，他以MP3為例表示，當業(yè)界開(kāi)發(fā)出MP3時(shí)，人們知道這玩意兒是做什么用的，因此開(kāi)發(fā)SoC時(shí)也較簡(jiǎn)單。盡管在設備上導入深度學(xué)習聽(tīng)起來(lái)不錯，但最佳應用是什么？目前還沒(méi)人能回答。
其次，“深度學(xué)習需要一個(gè)生態(tài)系統，”他強調，研究機構和企業(yè)之間的合作至關(guān)重要，而且非常有幫助。
最后，“我們還得讓更小的設備具備深度學(xué)習的能力，”吳韌表示，使其得以實(shí)現高性能與低功耗才是關(guān)鍵。
移動(dòng)設備訪(fǎng)問(wèn)
