深度神經(jīng)網(wǎng)絡(luò)的自主學(xué)習(xí)能力是自動(dòng)駕駛汽車(chē)開(kāi)發(fā)的重要因素: 機(jī)器能夠像人類(lèi)一樣, 逐步從經(jīng)驗(yàn)中調(diào)整權(quán)重獲得良好的駕駛技能.

困難在于, 駕駛過(guò)程中出現(xiàn)的問(wèn)題難以從代碼層面發(fā)現(xiàn)漏洞, 學(xué)習(xí)好的機(jī)器是個(gè)黑箱(被數(shù)據(jù)量包裹);

對(duì)自動(dòng)駕駛汽車(chē)而言, 這種“不透明性”造成的后果非常嚴(yán)重:

無(wú)人車(chē)犯錯(cuò)了，按正常的邏輯來(lái)說(shuō)，肯定是得讓工程師找到病根，進(jìn)而對(duì)漏洞進(jìn)行修復(fù)，確保它不會(huì)再犯同樣的錯(cuò)誤。目前有一種方法是借助模擬的形式，先展示給機(jī)器大腦一個(gè)特征，之后再提供另一個(gè)特征，以此類(lèi)推，以便找出影響其決策的關(guān)鍵因素。 

車(chē)用AI芯片供應(yīng)商英偉達(dá)聯(lián)合卡內(nèi)基·梅隆大學(xué)的研究人員, 找到了一種能夠讓人工智能系統(tǒng)決策過(guò)程變得更透明的簡(jiǎn)單方法.

英偉達(dá)汽車(chē)部門(mén)高級(jí)主管 Danny Shapiro 介紹稱(chēng), 深度神經(jīng)網(wǎng)絡(luò)能夠通過(guò)自主學(xué)習(xí)逐步提升駕駛經(jīng)驗(yàn)，但這樣的經(jīng)驗(yàn)是無(wú)法通過(guò)手動(dòng)編程提供的。即便如此，我們?nèi)匀挥心芰ο虼蠹医忉尀槭裁聪到y(tǒng)會(huì)做出這樣或那樣的決策”。

Shapiro表示，這個(gè)方法的關(guān)鍵在于它能夠利用可視化地圖將神經(jīng)網(wǎng)絡(luò)在看到圖片后標(biāo)記的重要特征進(jìn)行定位。下面這幾張圖片是在汽車(chē)前置攝像頭采集數(shù)據(jù)的基礎(chǔ)上進(jìn)行可視化加工而成的，而開(kāi)發(fā)人員還只是在進(jìn)行「利用深度神經(jīng)網(wǎng)絡(luò)控制車(chē)輛轉(zhuǎn)向以保證其在車(chē)道線(xiàn)內(nèi)行駛」領(lǐng)域的研究。

由于整個(gè)深度神經(jīng)網(wǎng)絡(luò)是由不同的層構(gòu)成的，先將分析結(jié)果進(jìn)行提?。ㄒ呀?jīng)獲得了輸入圖像的重要特征），隨后將結(jié)果附加至下層網(wǎng)絡(luò)，作平均處理后再繼續(xù)向下，直到將最終結(jié)果附加至原始輸入的圖片上。上面這幾幅可視化地圖中，綠色的部分表示深度神經(jīng)網(wǎng)絡(luò)高度優(yōu)先關(guān)注的環(huán)境特征。而且你會(huì)發(fā)現(xiàn)，如果讓人類(lèi)來(lái)識(shí)別的話(huà)，這些特征（車(chē)道線(xiàn)、道路邊緣，停著的其它車(chē)輛，沿線(xiàn)的綠籬等）同樣是一個(gè)老司機(jī)不會(huì)忽視的重要區(qū)域。

當(dāng)然，為了確保這些圖像特征是機(jī)器進(jìn)行決策的關(guān)鍵，研究人員還將所有的像素塊分成了兩類(lèi)：I. 包含有明顯對(duì)駕駛決策有影響的顯著特征的圖像；II. 一般是背景圖，有一些和駕駛決策不太相關(guān)的非明顯特征。通過(guò)對(duì)這兩類(lèi)圖像進(jìn)行人為數(shù)字操作，研究人員發(fā)現(xiàn)，改變“明顯特征”這個(gè)變量會(huì)導(dǎo)致轉(zhuǎn)向角度發(fā)生線(xiàn)性變化，這跟換掉整個(gè)圖像的結(jié)果幾乎是一致的；而如果只是將背景畫(huà)面進(jìn)更改，汽車(chē)的轉(zhuǎn)向角度基本不會(huì)發(fā)生什么變化。

不過(guò)話(huà)又說(shuō)回來(lái)了，目前工程師其實(shí)對(duì)人工智能系統(tǒng)出現(xiàn)的bug仍然束手無(wú)策，而回到本源，深度神經(jīng)網(wǎng)絡(luò)并不是由人工代碼架構(gòu)而成的，所以其實(shí)這里可能用“bug”都不是很合適，整個(gè)系統(tǒng)中對(duì)最終決策最關(guān)鍵的其實(shí)是一系列的識(shí)別特征。

將重要特征值進(jìn)行可視化, 是方便人們搞明白機(jī)器是如何進(jìn)行思考的重要一步.