使用深度學(xué)習(xí)網(wǎng)絡(luò)估算氮氧化物排放

使用擅長學(xué)習(xí)、處理、分類序列數(shù)據(jù)的長短期記憶（LSTM）網(wǎng)絡(luò)，建立輸出從車輛引擎所產(chǎn)生的氮氧化物（NOX）的模型，藉由使用MATLAB和深度學(xué)習(xí)工具箱建立LSTM，并訓(xùn)練出預(yù)測NOX排放的模型網(wǎng)絡(luò)，讓新一代零排放車輛的開發(fā)技術(shù)能達(dá)到高度準(zhǔn)確率。
雷諾（Renault）汽車現(xiàn)正積極地開發(fā)新一代零排放車輛（zero-emissions vehicles；ZEVs）的技術(shù)，同時(shí)，也在努力希望使內(nèi)燃機(jī)（internal combustion engine；ICE）車輛更干凈、更有效率。減少有害物質(zhì)的排放是其中一項(xiàng)重點(diǎn)項(xiàng)目。內(nèi)燃機(jī)會(huì)產(chǎn)生氮氧化物（oxides of nitrogen；NOX），導(dǎo)致了煙霧、酸雨、溫室氣體。為了降低NOX，需要精確地估計(jì)各種引擎操作點(diǎn)的排放–舉例來說，各種扭力和引擎速度的組合。

在真實(shí)的引擎上進(jìn)行測試不但昂貴，而且通常很耗時(shí)。而傳統(tǒng)上，是透過查找表（lookup tables）或氧化（combustion）模型的計(jì)算來進(jìn)行NOX估計(jì)。
不過，這些方法有幾個(gè)缺點(diǎn)，例如查找表不夠精確，而氧化模型也會(huì)因?yàn)榉匠淌叫钄X取排放的動(dòng)態(tài)復(fù)雜性，使得要建立模型的難度特別高，導(dǎo)致NOX物理模型的高復(fù)雜度，因此很難用于完整的引擎操作范圍；而且，這些模型無法在ECU上實(shí)時(shí)的執(zhí)行。
我們最近開始使用長短期記憶（long-short-term memory；LSTM）網(wǎng)絡(luò)來建立從引擎輸出NOX的模型（直接從引擎排放，而不是從后處理（aftertreatment）系統(tǒng)）。
LSTM網(wǎng)絡(luò)是一種擅長學(xué)習(xí)、處理、分類序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)，LSTM建立起來比氧化模型容易許多。透過MATLAB，即使本身并不是深度學(xué)習(xí)的專家，也可以使用MATLAB和深度學(xué)習(xí)工具箱（Deep Learning Toolbox）建立，并訓(xùn)練出預(yù)測NOX排放的模型網(wǎng)絡(luò)，準(zhǔn)確率幾乎高達(dá)90%。

LSTM網(wǎng)絡(luò)模型的設(shè)計(jì)與訓(xùn)練
除了執(zhí)行真實(shí)引擎的測試，并且取得了訓(xùn)練數(shù)據(jù)。在測試進(jìn)行期間，引擎會(huì)經(jīng)過常見的駕駛型態(tài)循環(huán)，包含全球調(diào)和輕型車輛測試循環(huán)（Worldwide harmonized Light vehicles Test Cycles；WLTC）和歐盟現(xiàn)行之歐洲駕駛循環(huán)（New European Driving Cycle；NEDC），還有實(shí)際駕駛排放（Real Driving Emissions；RDE）測試。這些擷取下來的數(shù)據(jù)將做為模型網(wǎng)絡(luò)的輸入值，包含引擎扭力、引擎速度、冷卻劑溫度，以及文件位的排放。
接著使用MATLAB程序語法來建立簡單的LSTM網(wǎng)絡(luò)。雖然這個(gè)初始的網(wǎng)絡(luò)的組成僅有一個(gè)LSTM層、一個(gè)整流線性單位函式（rectified linear unit；ReLU）層、一個(gè)全連接（fully connected；FC）層、一個(gè)回歸輸出，它的表現(xiàn)卻意料之外的好。
不過，我們猜想應(yīng)可再透過增加更多網(wǎng)絡(luò)的層數(shù)來提升精準(zhǔn)度，并小心注意不要讓模型網(wǎng)絡(luò)規(guī)模膨脹到可能造成過度擬合（overfitting），或者占據(jù)太多ECU內(nèi)存。
接下來，更新MATLAB程序來增加神經(jīng)網(wǎng)絡(luò)層數(shù)，并且進(jìn)行幾種模型網(wǎng)絡(luò)的配置探索。由于網(wǎng)絡(luò)模型尺寸較小，最適網(wǎng)絡(luò)配置和架構(gòu)的選擇是由人工來進(jìn)行。采用試誤法（trial-and-error method）可以利用系統(tǒng)的物理資產(chǎn)。舉例來說，對(duì)于具有高度非線性的系統(tǒng)，通常會(huì)選擇多重ReLU層，而對(duì)于熱系統(tǒng)，多重LSTM層可能更為適合。
我們選擇一個(gè)包含單一個(gè)LSTM層、三個(gè)ReLU層、三個(gè)FC層，以及一個(gè)回歸輸出層的網(wǎng)絡(luò)，此版本的LSTM網(wǎng)絡(luò)針對(duì)NOX等級(jí)預(yù)測可以達(dá)到85-90%的精確度，相較之下，使用查找表時(shí)則僅有60-70%的精確度（圖1）。


圖1 : 從真實(shí)的引擎量測到的NOX排放量（藍(lán)色）和以LSTM網(wǎng)絡(luò)建構(gòu)的NOX排放模型（橘色）。

將模型并入系統(tǒng)層級(jí)仿真
當(dāng)有了訓(xùn)練好的LSTM網(wǎng)絡(luò)，我們讓其他雷諾的團(tuán)隊(duì)也可以使用這個(gè)模型來進(jìn)行他們的Simulink模擬。其中一個(gè)團(tuán)隊(duì)將網(wǎng)絡(luò)合并到模型，把網(wǎng)絡(luò)內(nèi)的從引擎輸出（engine-out）NOX層級(jí)作為后處理系統(tǒng)的輸入。此團(tuán)隊(duì)接著執(zhí)行仿真來衡量后處理系統(tǒng)在各種引擎操作點(diǎn)的NOX轉(zhuǎn)換效率，透過將LSTMs導(dǎo)入系統(tǒng)仿真，該團(tuán)隊(duì)因此可以獲得很難透過物理（physical）或經(jīng)驗(yàn)（empirical）模型取得的信息。雷諾團(tuán)隊(duì)也在仿真時(shí)使用LSTM神經(jīng)網(wǎng)絡(luò)來評(píng)估車上診斷（onboard diagnostics；OBD）系統(tǒng)的表現(xiàn)，以及估算新駕駛循環(huán)下的引擎排放量。

后續(xù)的深度學(xué)習(xí)項(xiàng)目計(jì)劃
此項(xiàng)利用LSTM網(wǎng)絡(luò)模型來預(yù)測NOX排放等級(jí)的成功經(jīng)驗(yàn)，在雷諾內(nèi)部已催生了好幾個(gè)后續(xù)的項(xiàng)目計(jì)劃。其中一項(xiàng)計(jì)劃，使用MathWorks的顧問服務(wù)建立了一套工具，可從LSTM網(wǎng)絡(luò)產(chǎn)生C程序代碼來作為概念驗(yàn)證展示，產(chǎn)生的程序代碼能夠?qū)OX排放的估計(jì)器部署至ECU上，作為OBD系統(tǒng)仿真平臺(tái)的一部分，這個(gè)LSTM可依照排放標(biāo)準(zhǔn)的規(guī)范，提供實(shí)時(shí)、全天候的不良或故障狀況偵測。
在進(jìn)行ECUs的嵌入時(shí)，深度神經(jīng)網(wǎng)絡(luò)（特別是深度LSTMs）是其中的一大挑戰(zhàn)。我們的ECU并不是非常強(qiáng)大的計(jì)算機(jī)，意味著需要在LSTM復(fù)雜性（這也代表預(yù)測的質(zhì)量）與ECU執(zhí)行運(yùn)算的能力之間進(jìn)行取舍。以我們的應(yīng)用來說，網(wǎng)絡(luò)尺寸相對(duì)較小，如果需要的話，可以很容易地被整合進(jìn)卡爾曼濾波器（Kalman filters）。
最近，我們已經(jīng)再擴(kuò)大使用透過MATLAB進(jìn)行的深度學(xué)習(xí)，致力使用強(qiáng)化學(xué)習(xí)來開發(fā)雷諾引擎的航行路徑控制策略。

（本文由鈦思科技提供；作者Nicoleta-Alexandra Stroe、Vincent Talon任職于Renault汽車公司）