使用深度學(xué)習(xí)網(wǎng)絡(luò)估算氮氧化物排放

使用擅長學(xué)習(xí)、處理、分類序列數(shù)據(jù)的長短期記憶（LSTM）網(wǎng)絡(luò)，建立輸出從車輛引擎所產(chǎn)生的氮氧化物（NOX）的模型，藉由使用MATLAB和深度學(xué)習(xí)工具箱建立LSTM，并訓(xùn)練出預(yù)測NOX排放的模型網(wǎng)絡(luò)，讓新一代零排放車輛的開發(fā)技術(shù)能達到高度準(zhǔn)確率。
雷諾（Renault）汽車現(xiàn)正積極地開發(fā)新一代零排放車輛（zero-emissions vehicles；ZEVs）的技術(shù)，同時，也在努力希望使內(nèi)燃機（internal combustion engine；ICE）車輛更干凈、更有效率。減少有害物質(zhì)的排放是其中一項重點項目。內(nèi)燃機會產(chǎn)生氮氧化物（oxides of nitrogen；NOX），導(dǎo)致了煙霧、酸雨、溫室氣體。為了降低NOX，需要精確地估計各種引擎操作點的排放–舉例來說，各種扭力和引擎速度的組合。

在真實的引擎上進行測試不但昂貴，而且通常很耗時。而傳統(tǒng)上，是透過查找表（lookup tables）或氧化（combustion）模型的計算來進行NOX估計。
不過，這些方法有幾個缺點，例如查找表不夠精確，而氧化模型也會因為方程式需擷取排放的動態(tài)復(fù)雜性，使得要建立模型的難度特別高，導(dǎo)致NOX物理模型的高復(fù)雜度，因此很難用于完整的引擎操作范圍；而且，這些模型無法在ECU上實時的執(zhí)行。
我們最近開始使用長短期記憶（long-short-term memory；LSTM）網(wǎng)絡(luò)來建立從引擎輸出NOX的模型（直接從引擎排放，而不是從后處理（aftertreatment）系統(tǒng)）。
LSTM網(wǎng)絡(luò)是一種擅長學(xué)習(xí)、處理、分類序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)，LSTM建立起來比氧化模型容易許多。透過MATLAB，即使本身并不是深度學(xué)習(xí)的專家，也可以使用MATLAB和深度學(xué)習(xí)工具箱（Deep Learning Toolbox）建立，并訓(xùn)練出預(yù)測NOX排放的模型網(wǎng)絡(luò)，準(zhǔn)確率幾乎高達90%。

LSTM網(wǎng)絡(luò)模型的設(shè)計與訓(xùn)練
除了執(zhí)行真實引擎的測試，并且取得了訓(xùn)練數(shù)據(jù)。在測試進行期間，引擎會經(jīng)過常見的駕駛型態(tài)循環(huán)，包含全球調(diào)和輕型車輛測試循環(huán)（Worldwide harmonized Light vehicles Test Cycles；WLTC）和歐盟現(xiàn)行之歐洲駕駛循環(huán)（New European Driving Cycle；NEDC），還有實際駕駛排放（Real Driving Emissions；RDE）測試。這些擷取下來的數(shù)據(jù)將做為模型網(wǎng)絡(luò)的輸入值，包含引擎扭力、引擎速度、冷卻劑溫度，以及文件位的排放。
接著使用MATLAB程序語法來建立簡單的LSTM網(wǎng)絡(luò)。雖然這個初始的網(wǎng)絡(luò)的組成僅有一個LSTM層、一個整流線性單位函式（rectified linear unit；ReLU）層、一個全連接（fully connected；FC）層、一個回歸輸出，它的表現(xiàn)卻意料之外的好。
不過，我們猜想應(yīng)可再透過增加更多網(wǎng)絡(luò)的層數(shù)來提升精準(zhǔn)度，并小心注意不要讓模型網(wǎng)絡(luò)規(guī)模膨脹到可能造成過度擬合（overfitting），或者占據(jù)太多ECU內(nèi)存。
接下來，更新MATLAB程序來增加神經(jīng)網(wǎng)絡(luò)層數(shù)，并且進行幾種模型網(wǎng)絡(luò)的配置探索。由于網(wǎng)絡(luò)模型尺寸較小，最適網(wǎng)絡(luò)配置和架構(gòu)的選擇是由人工來進行。采用試誤法（trial-and-error method）可以利用系統(tǒng)的物理資產(chǎn)。舉例來說，對于具有高度非線性的系統(tǒng)，通常會選擇多重ReLU層，而對于熱系統(tǒng)，多重LSTM層可能更為適合。
我們選擇一個包含單一個LSTM層、三個ReLU層、三個FC層，以及一個回歸輸出層的網(wǎng)絡(luò)，此版本的LSTM網(wǎng)絡(luò)針對NOX等級預(yù)測可以達到85-90%的精確度，相較之下，使用查找表時則僅有60-70%的精確度（圖1）。


圖1 : 從真實的引擎量測到的NOX排放量（藍色）和以LSTM網(wǎng)絡(luò)建構(gòu)的NOX排放模型（橘色）。

將模型并入系統(tǒng)層級仿真
當(dāng)有了訓(xùn)練好的LSTM網(wǎng)絡(luò)，我們讓其他雷諾的團隊也可以使用這個模型來進行他們的Simulink模擬。其中一個團隊將網(wǎng)絡(luò)合并到模型，把網(wǎng)絡(luò)內(nèi)的從引擎輸出（engine-out）NOX層級作為后處理系統(tǒng)的輸入。此團隊接著執(zhí)行仿真來衡量后處理系統(tǒng)在各種引擎操作點的NOX轉(zhuǎn)換效率，透過將LSTMs導(dǎo)入系統(tǒng)仿真，該團隊因此可以獲得很難透過物理（physical）或經(jīng)驗（empirical）模型取得的信息。雷諾團隊也在仿真時使用LSTM神經(jīng)網(wǎng)絡(luò)來評估車上診斷（onboard diagnostics；OBD）系統(tǒng)的表現(xiàn)，以及估算新駕駛循環(huán)下的引擎排放量。

后續(xù)的深度學(xué)習(xí)項目計劃
此項利用LSTM網(wǎng)絡(luò)模型來預(yù)測NOX排放等級的成功經(jīng)驗，在雷諾內(nèi)部已催生了好幾個后續(xù)的項目計劃。其中一項計劃，使用MathWorks的顧問服務(wù)建立了一套工具，可從LSTM網(wǎng)絡(luò)產(chǎn)生C程序代碼來作為概念驗證展示，產(chǎn)生的程序代碼能夠?qū)OX排放的估計器部署至ECU上，作為OBD系統(tǒng)仿真平臺的一部分，這個LSTM可依照排放標(biāo)準(zhǔn)的規(guī)范，提供實時、全天候的不良或故障狀況偵測。
在進行ECUs的嵌入時，深度神經(jīng)網(wǎng)絡(luò)（特別是深度LSTMs）是其中的一大挑戰(zhàn)。我們的ECU并不是非常強大的計算機，意味著需要在LSTM復(fù)雜性（這也代表預(yù)測的質(zhì)量）與ECU執(zhí)行運算的能力之間進行取舍。以我們的應(yīng)用來說，網(wǎng)絡(luò)尺寸相對較小，如果需要的話，可以很容易地被整合進卡爾曼濾波器（Kalman filters）。
最近，我們已經(jīng)再擴大使用透過MATLAB進行的深度學(xué)習(xí)，致力使用強化學(xué)習(xí)來開發(fā)雷諾引擎的航行路徑控制策略。

（本文由鈦思科技提供；作者Nicoleta-Alexandra Stroe、Vincent Talon任職于Renault汽車公司）