監(jiān)控視頻中的圖像預(yù)處理技術(shù)

1.引言

在視頻監(jiān)控領(lǐng)域，提高監(jiān)控圖像質(zhì)量和編碼傳輸效率一直是我們最為重要的追求目標(biāo)。提高視頻質(zhì)量意味著提高最終用戶的觀看滿意度，提高編碼效率則意味著在同樣的碼率限制下可以傳輸更高質(zhì)量的視頻。這涉及到監(jiān)控系統(tǒng)中的多個環(huán)節(jié)，從上游的實際場景，到中間的傳輸網(wǎng)絡(luò)，再到下游的用戶終端，主要包括圖像的采集、壓縮處理、傳輸或存儲、解壓縮和顯示等部分，其中任何一個上游環(huán)節(jié)出了問題，對圖像質(zhì)量的影響都不是下游環(huán)節(jié)能夠糾正或補(bǔ)救的。視頻信號的預(yù)處理處在系統(tǒng)最上游，是針對主處理而言的，如圖1所示。在視頻監(jiān)控中，主處理一般是指視頻的壓縮編碼和傳輸，此前的處理一般稱之為預(yù)處理，常將它歸并在視頻采集部分。無疑，視頻采集中的預(yù)處理是一個重要環(huán)節(jié)，處理的好壞將直接影響采集圖像質(zhì)量以及后續(xù)編碼傳輸處理的效率。

有一個現(xiàn)象可以有力地說明預(yù)處理在改進(jìn)圖像質(zhì)量方面的作用：對同樣場景、采用相同的碼率，不同廠家的網(wǎng)絡(luò)攝像機(jī)解碼輸出視頻的質(zhì)量往往存在較大的差別。尤其是在比較惡劣的環(huán)境下，其差別更為顯著。產(chǎn)生這種差別的一個重要原因在于：在監(jiān)控系統(tǒng)中，雖然大家都采用標(biāo)準(zhǔn)化的視頻壓縮方法，但最后解碼輸出圖像的質(zhì)量高低很大程度上取決于有無預(yù)處理、預(yù)處理的好壞，有時還包括適當(dāng)?shù)暮筇幚怼?/P>

　　近來，隨著人們對預(yù)處理重要性認(rèn)識的不斷提高，隨著集成芯片和信號處理器能力的不斷增強(qiáng)，業(yè)界對視頻信號的預(yù)處理越來越重視，市場上高質(zhì)量的監(jiān)控產(chǎn)品一定離不開高質(zhì)量的視頻預(yù)處理方法。

　　2.預(yù)處理的作用

　　視頻預(yù)處理的第一個作用是提高編碼視頻的質(zhì)量。在實際的視頻監(jiān)控的應(yīng)用中，不像娛樂視頻，往往有高質(zhì)量的攝像機(jī)、良好的演播室拍攝環(huán)境和專業(yè)技術(shù)人員的時時人為干預(yù)，因此可以保證得到的高質(zhì)量的采集視頻。而視頻監(jiān)控系統(tǒng)由于成本、環(huán)境等因素影響，所獲取的原始視頻質(zhì)量并不高，甚至很低。例如，由于環(huán)境、噪聲、光照、運(yùn)動等影響，往往所采集的圖像常常出現(xiàn)模糊、扭曲、噪點、太亮或太暗、彩色不鮮明、……。對于這樣比較差的視頻，再進(jìn)行壓縮、傳輸、解碼顯示，用戶所看到的監(jiān)控視頻常常不能令人滿意的。如何在現(xiàn)有的條件下提高采集視頻質(zhì)量的問題就實在地放在我們面前。對此，一個重要的應(yīng)對措施就是在視頻采集環(huán)節(jié)進(jìn)行預(yù)處理(preprocessing)，以利于提高采集視頻質(zhì)量，有利于后續(xù)的視頻處理，以利于用戶提取視頻中感興趣的信息。

　　視頻預(yù)處理的第二個作用是提高編碼效率和有利于碼率控制。我們知道，無論是有線還是無線視頻傳輸，都是基于IP的包傳輸方式，信號的傳輸速率不穩(wěn)定，速率會隨用戶的擁擠程度、信道的物理介質(zhì)而不斷變化。要在這樣速率變化的信道上穩(wěn)定、高效地傳輸壓縮視頻圖像，除了依賴編碼器的碼率控制之外，還可以利用預(yù)處理的方法來輔助實現(xiàn)。在編碼前對圖像進(jìn)行預(yù)處理，控制輸入到編碼器的視頻數(shù)據(jù)量，從而來間接控制編碼器輸出的碼率，其過程仍可參見圖1。

　　由圖1可見，不僅通過緩沖區(qū)的滿溢程度來控制量化步長，同時也加上了預(yù)處理對輸入的視頻數(shù)據(jù)進(jìn)行控制。例如，當(dāng)信道變窄時，我們可以根據(jù)信道帶寬信息對輸入視頻進(jìn)行一定程度的平滑濾波，減少細(xì)節(jié)，甚至進(jìn)行下采樣處理、跳幀處理，使編碼視頻的碼率能與信道帶寬相匹配。當(dāng)然，由于信道狀況信息的獲得比較麻煩，可以經(jīng)統(tǒng)計學(xué)習(xí)建立信道帶寬變化的近似模型，再依據(jù)這個模型來決定預(yù)處理的方法和程度。

　　最早的視頻預(yù)處理是在模擬域進(jìn)行的，包括對模擬視頻信號的限帶濾波、噪聲抑制、自動增益控制、白平衡以及r校正等。隨著視頻采集技術(shù)的數(shù)字化進(jìn)程，這些簡單的預(yù)處理方法大多已經(jīng)集成到芯片中去了。現(xiàn)在，視頻預(yù)處理都是在數(shù)字域進(jìn)行的，即在視頻數(shù)字化采集以后進(jìn)行，充分發(fā)揮了數(shù)字信號處的方便、高效、靈活和一致的優(yōu)越性。目前，在視頻監(jiān)控中常見的預(yù)處理方法除了基本的圖像濾波、圖像去噪和多種圖像增強(qiáng)處理外，還出現(xiàn)了多種針對特殊應(yīng)用環(huán)境的預(yù)處理方法，如背光或暗光處理、雨霧煙處理、感興趣區(qū)間的處理等。

　　3.常見的預(yù)處理方法

　　現(xiàn)在常見的效果明顯的視頻預(yù)處理主要包括下面的幾個方面。

　　3.1 限帶濾波和降采樣

　　根據(jù)奈奎斯特定理，只有對圖像進(jìn)行高于兩倍信號最高頻率的采樣才能保證從采樣值完全恢復(fù)原圖像。但是如果該條件不滿足，即欠采樣時，高次諧波的頻譜就會疊加到基波，出現(xiàn)頻譜混疊效應(yīng)。隨著圖像高清晰度的增加，由于采樣率的限制，絕大多數(shù)成像系統(tǒng)都存在不同的混疊現(xiàn)象。怎樣消除混疊效應(yīng)成為了預(yù)處理中的一個令人關(guān)注的問題。

　　抑制或消除混疊效應(yīng)常采用兩項措施，一是限帶濾波，二是下采樣。限帶濾波就是對高速采樣的數(shù)字視頻進(jìn)行一次低通濾波，抑制奈奎斯特定理定義的通帶以外的高頻分量。因為這些帶外分量在后續(xù)的處理中會引起混疊效應(yīng)，產(chǎn)生無意義的高頻分量，而編碼器還得對它們進(jìn)行編碼，浪費不少寶貴的編碼比特。僅采用限帶濾波只能濾除信號中少量的高頻分量，如果信號帶寬遠(yuǎn)高于奈奎斯特帶寬，那么在限帶濾波后還需進(jìn)行一次下采樣，進(jìn)一步減少碼字。

　　3.2 噪聲去除

　　噪聲對于任何實際的視頻采集來說均是不可避免的，如果在編碼前未將不必要的噪聲去除，不僅會影響解碼視頻質(zhì)量，而且后面的編碼部分還將為噪聲編碼，降低了效率。視頻中常見的噪聲主要有加性噪聲、乘性噪聲和量化噪聲等。圖像中的噪聲往往和信號交織在一起，尤其是乘性噪聲，如果濾波不當(dāng)，就會使圖像本身的細(xì)節(jié)，如邊界輪廓、線條等，變得模糊不清。如何既平滑掉噪聲又盡量保持圖像細(xì)節(jié)，是圖像去噪的難點所在。

　　圖像去噪方法很多，它們大體上可以分為兩類：空間域的去噪方法和變換域的去噪方法。這兩類方法的最主要區(qū)別是前者直接對觀察圖像數(shù)據(jù)進(jìn)行處理，而后者則是先對圖像進(jìn)行某種變換，然后再對變換后的系數(shù)進(jìn)行處理。

　　變換域的去噪方法認(rèn)為，在變換域圖像往往是稀疏表示的，即高頻分量很少，大部份噪聲處于高頻部分，通過在變換域設(shè)置閾值或者截斷高端頻譜來去除噪聲。這類方法的優(yōu)點是在變換域進(jìn)行處理比較簡單。它的不足之處在于對閾值的設(shè)置比較困難;在去除噪聲的同時不可避免地會平滑圖像本身的紋理細(xì)節(jié);圖像在變換域丟失了部分結(jié)構(gòu)特征，特別是邊界信息等。這些都會影響去噪圖像的質(zhì)量。　　空間域的去噪方法關(guān)注圖像數(shù)據(jù)本身，如近年來流行的基于塊的去噪方式，其基本思想是為去噪圖像的每一個塊尋找與它相似的塊，相似塊可以在同一幀內(nèi)部尋找，或者其它幀中尋找，還可在其它圖像中尋找，最后通過加權(quán)平均等操作恢復(fù)圖像塊?？臻g域的方法利用了更多的圖像數(shù)據(jù)信息，保留圖像的結(jié)構(gòu)，有利于保持圖像細(xì)節(jié)，但也容易出現(xiàn)過平滑現(xiàn)象。近年來針對圖像的混合高斯噪聲，出現(xiàn)了一種將變換域和空間域方法相結(jié)合的自適應(yīng)噪聲去除方法。這種方法首先采用基于塊和濾波的噪聲參數(shù)估計，自適應(yīng)的估計混合高斯噪聲參數(shù)，然后利用估計得到的噪聲參數(shù)進(jìn)行圖像去噪，將多幅去噪圖像進(jìn)行簡單的數(shù)據(jù)融合，最終獲得性能良好的去噪圖像，其過程如下圖2所示。

3.3 圖像增強(qiáng)

　　圖像增強(qiáng)處理的任務(wù)是有目地突出圖像中的感興趣部分，或目標(biāo)的特征，抑制圖像中某些不需要的特征，提高圖像的清晰度，改進(jìn)圖像的觀賞質(zhì)量。在圖像增強(qiáng)過程中，一般不考慮圖像降質(zhì)的原因，增強(qiáng)后的圖像也不一定要逼近原圖像。圖像增強(qiáng)中常見的幾種具體處理方法為：

　　(1)直方圖均衡

　　在圖像處理中，圖像直方圖表示了圖像中像素灰度值的分布情況。為使圖像變得清晰，增大反差，凸顯圖像細(xì)節(jié)，通常希望圖像灰度的分布從暗到亮大致均勻。直方圖均衡就是把那些直方圖分布不均勻的圖像(如大部分像素灰度集中分布在某一段)經(jīng)過一種函數(shù)變換，使之成一幅具有均勻灰度分布的新圖像，其灰度直方圖的動態(tài)范圍擴(kuò)大。用于直方均衡化的變換函數(shù)不是統(tǒng)一的，它是輸入圖像直方圖的積分，即累積分布函數(shù)。

　　(2)灰度變換

　　灰度變換可使圖像動態(tài)范圍增大，對比度得到擴(kuò)展，使圖像清晰、特征明顯，是圖像增強(qiáng)的重要手段之一。它主要利用圖像的點運(yùn)算來修正像素灰度，由輸入像素點的灰度值確定相應(yīng)輸出像素點的灰度值，可以看作是“從像素到像素”的變換操作，不改變圖像內(nèi)的空間關(guān)系。像素灰度級的改變是根據(jù)輸入圖像f(x, y)灰度值和輸出圖像g(x, y)灰度值之間的轉(zhuǎn)換函數(shù)g(x，y)=T[f(x，y)]進(jìn)行的。

　　灰度變換包含的方法很多，如逆反處理、閾值變換、灰度拉伸、灰度切分、灰度級修正、動態(tài)范圍調(diào)整等。

　　(3)白平衡

　　白色是人眼對比例相同且具有一定亮度的藍(lán)、綠、紅三種色光所形成的視覺反應(yīng)。在正常的情況下，視頻采集系統(tǒng)對白光的輸出為白色，簡單地說這個系統(tǒng)處于白平衡狀態(tài)。如果系統(tǒng)對白光不能夠保持白色輸出，出現(xiàn)偏色，如發(fā)紅或發(fā)藍(lán)等，就說明采集系統(tǒng)對現(xiàn)場彩色的處理出現(xiàn)了偏差，即未達(dá)到白平衡。由于場景的彩色情況非常復(fù)雜，難以斷定白平衡情況，所以在實際應(yīng)用中，常常用白光來判定系統(tǒng)的白平衡狀況。這是一種衡量系統(tǒng)的色彩比例是否恰當(dāng)?shù)囊环N方便、直觀的方法。如果達(dá)到了白平衡，那么輸出的色彩也是白色，沒有其它的偏色;如果有偏色，說明沒有達(dá)到白平衡，需要在預(yù)處理時加以調(diào)整，使之成像后仍然為白色。

　　(4)伽瑪校正

　　在視頻采集系統(tǒng)中，CCD、CMOS等光電轉(zhuǎn)換的器件的特性都是非線性的。場景的亮度L和是傳感器輸出的電壓E，之間的關(guān)系可用一個冪函數(shù)E(x, y)=kLr(x, y)來表示，其中k是比例常數(shù)，r是冪函數(shù)的指數(shù)，用它來衡量非線性器件的轉(zhuǎn)換特性，稱之為伽瑪特性。在視頻中由于伽瑪特性的存在，會導(dǎo)致圖像信號的亮度失真，影響圖像質(zhì)量。因此要對這個失真進(jìn)行補(bǔ)償，即伽瑪校正。簡單地說，就是對輸出電壓用一個負(fù)指數(shù)函數(shù)對其進(jìn)行校正，使得校正后的光、電兩個量之間保持線性關(guān)系。

　　(5)圖像平滑

　　在空間域中進(jìn)行平滑濾波技術(shù)主要用于消除圖像中的噪聲，主要有鄰域平均法、中值濾波法等等。這種局部平均的方法在削弱噪聲的同時，常常會帶來圖像細(xì)節(jié)信息的損失。

　　鄰域平均，也稱均值濾波，對于給定的圖像f(x,y)中的每個像素點(x,y)，它所在鄰域S中所有M個像素灰度值平均值為其濾波輸出，即用一像素鄰域內(nèi)所有像素的灰度平均值來代替該像素原來的灰度。

　　中值濾波，對于給定像素點(x,y)所在領(lǐng)域S中的n個像素值數(shù)值{f1, f2,…,fn}，將它們按大小進(jìn)行有序排列，位于中間位置的那個像素數(shù)值稱為這n個數(shù)值的中值。某像素點中值濾波后的輸出等于該像素點鄰域中所有像素灰度的中值。中值濾波是一種非線性濾波，運(yùn)算簡單，實現(xiàn)方便，而且能較好的保護(hù)邊界。

　　(6)圖像銳化

　　采集圖像變得模糊的原因往往是圖像受到了平均或者積分運(yùn)算，因此，如果對其進(jìn)行微分運(yùn)算，就可以使邊緣等細(xì)節(jié)信息變得清晰。這就是在空間域中的圖像銳化處理，其的基本方法是對圖像進(jìn)行微分處理，并且將運(yùn)算結(jié)果與原圖像疊加。從頻域中來看，銳化或微分運(yùn)算意味著對高頻分量的提升。常見的連續(xù)變量的微分運(yùn)算有一階的梯度運(yùn)算、二階的拉普拉斯算子運(yùn)算，它們分別對應(yīng)離散變量的一階差分和二階差分運(yùn)算。

　　(7)小波變換增強(qiáng)

　　對圖像進(jìn)行小波變換，可得到圖像的不同頻率分量的小波變換系數(shù)，如果對適當(dāng)?shù)母哳l系數(shù)進(jìn)行增強(qiáng)處理后，再進(jìn)行小波逆變換之后，就可以達(dá)到圖像的細(xì)節(jié)或邊緣增強(qiáng)的目的。當(dāng)然，小波變換還可以用來去除圖像中的噪聲。由于噪聲大多屬于高頻信息，因此，當(dāng)進(jìn)行小波變換之后，噪聲信息大多集中在高頻子塊之中，對這一部分系數(shù)進(jìn)行抑制，則可以達(dá)到一定的噪聲去除效果。

　4. 特殊場合的預(yù)處理

　　視頻監(jiān)控的應(yīng)用范圍廣闊，在圖像采集時人為干預(yù)的極少。因此，各種環(huán)境的影響，監(jiān)控目標(biāo)的影響以及人為因素的影響都不可避免。面對種種不利的特殊場合，按照標(biāo)準(zhǔn)執(zhí)行的壓縮處理是無能為力的。為了提高種類期刊下監(jiān)控視頻的質(zhì)量，采用視頻預(yù)處理就顯得格外重要。近年來在如下的幾個方面的研究和開發(fā)都取得了可喜的進(jìn)展。

　　4.1 雨霧圖像處理

　　在霧天、雨天或者煙霾不散的情況下，由于場景的能見度降低，圖像中目標(biāo)對比度和顏色等特征被衰減，致使室外視頻系統(tǒng)的圖像模糊不清，影響正常工作，因此需要在視頻編碼前消除雨水、霧霾對場景圖像的影響。

　　以霧氣消除為例，目前的圖像處理方法主要分為兩類：霧天圖像增強(qiáng)和霧天圖像復(fù)原。霧天圖像增強(qiáng)方法不考慮圖像降質(zhì)原因，方法簡單，能有效地提高霧天圖像的對比度，突出圖像的細(xì)節(jié)，改善圖像的視覺效果，但可能會造成一定的信息損失。　　霧天圖像復(fù)原針對霧天圖像質(zhì)量退化的機(jī)理，建立霧氣圖像退化模型，然后用圖像復(fù)原的方法，對霧天退化圖像進(jìn)行復(fù)原，補(bǔ)償退化過程造成的失真，獲得對無霧圖像的最優(yōu)估計，從而改善霧天圖像質(zhì)量。這種方法針對性強(qiáng)，得到的去霧效果自然，信息損失小，處理的關(guān)鍵是模型中參數(shù)的估計。

4.2 暗光圖像處理

　　在夜晚或光線不足的情況下，監(jiān)控攝像很難捕獲到清晰亮麗的圖像，給道視頻監(jiān)控帶來很大困難。因此，暗光圖像增強(qiáng)的技術(shù)具有很強(qiáng)的現(xiàn)實意義。普通的圖像增強(qiáng)算法對暗光圖像處理只是作全局或局部的對比度拉伸，作用有限，不易實現(xiàn)圖像的動態(tài)增強(qiáng)與色度保持。近年來的Retinex 算法對暗光圖像的處理取得了良好的效果，增強(qiáng)了暗光圖像的對比度，較好地保持了圖像的色度。

　　Retinex算法在研究人的顏色視覺理論和視網(wǎng)膜皮層理論的基礎(chǔ)上，提出一種關(guān)于人類視覺系統(tǒng)如何調(diào)節(jié)感知到物體顏色和亮度的模型。在這一模型中，圖像由兩部分組成，一部分是場景中物體的光照亮度，對應(yīng)于圖像的低頻部分，另一部分是場景中物體的反射亮度，對應(yīng)于圖像的高頻部分，通常它們也被稱為亮度圖像和反射圖像。因此Retinex算法從給定的圖像中分離出亮度圖像和反射圖像，在彩色恒定的條件下，通過改變亮度圖像和反射圖像在原圖像中的比例來達(dá)到增強(qiáng)暗光圖像的目的。

　　4.3 自動曝光和聚焦

　　(1)自動曝光

　　CMOS之類的傳感器只有獲得正確的曝光量，才能得到高質(zhì)量的圖像。曝光過度，圖像看起來太亮;曝光不足，則圖像看起來太暗。到達(dá)傳感器的光通量的大小主要由兩方面因素決定：曝光時間的長短以及光圈的大小。利用光圈進(jìn)行自動曝光，主要根據(jù)所拍攝的場景來控制光圈大小，使得進(jìn)光量維持在一定范圍內(nèi)，成本比較高?，F(xiàn)在市場所見的中低端攝像頭采用的主流技術(shù)通過調(diào)整曝光時間來實現(xiàn)自動曝光。在研究了大量不同光照條件的圖像實例基礎(chǔ)上，獲得不同光照條件下的亮度與曝光值之間的關(guān)系，自動曝光的預(yù)處理正是根據(jù)這一關(guān)系來進(jìn)行曝光控制的。

　　(2)自動聚焦

　　聚焦的好壞直接影響攝像機(jī)捕獲的視頻圖像的清晰度，因此監(jiān)控系統(tǒng)要求攝像機(jī)具有自動聚焦的功能，調(diào)整鏡頭的焦距使其焦點位于感光面上，從而獲得清晰的圖像。自動聚焦的方法可以分為三大類：一類是基于鏡頭與被攝目標(biāo)之間距離測量的測距方法，另一類是基于聚焦屏上成像清晰的聚焦檢測方法，第三類是基于數(shù)字圖像處理的自動聚焦方法，這是最適宜于監(jiān)控系統(tǒng)的一種方法。

　　基于數(shù)字圖像處理的自動聚焦方法對采集的每一幀圖像進(jìn)行實時處理，通過判斷聚焦是否準(zhǔn)確、成像是否清晰給出反饋信號控制鏡頭的運(yùn)行，直到采集的圖像符合使用要求，即完成自動聚焦。這種方法的特點是聚焦更加智能化、聚焦判據(jù)更加靈活，方便聚焦控制的執(zhí)行，從而避開復(fù)雜的對焦電路和機(jī)構(gòu)。

　　4.4 背光補(bǔ)償

　　在視頻采集過程中，如果場景中的目標(biāo)遮擋住了光源，那么感興趣目標(biāo)表面不能夠接收到足夠光強(qiáng)，導(dǎo)致的感興趣區(qū)域的亮度比較暗，看不清細(xì)節(jié)，這就是所謂的背光現(xiàn)象。很明顯，背光補(bǔ)償處理的目的在于提高感興趣區(qū)域的亮度，適當(dāng)?shù)膶Ρ榷?，同時保證整幅圖像的自然性和平滑性。背光補(bǔ)償?shù)囊粚嵗鐖D4所示。對于視頻序列，在保證單幀圖像補(bǔ)償效果的同時，還要保證補(bǔ)償后視頻序列亮度的連續(xù)性，避免閃爍現(xiàn)象的發(fā)生。

除了上面介紹的幾種特殊的預(yù)處理方法外，還有多種其它的預(yù)處理方法。例如感興趣區(qū)域的處理，這種方法首先找出圖像中感興趣區(qū)域，對此處進(jìn)行增強(qiáng)處理，以專注于提高感興趣目標(biāo)的圖像質(zhì)量。再如自動鎖定動態(tài)目標(biāo)的處理，和感興趣區(qū)域處理類似，首先檢測出動態(tài)目標(biāo)，對該目標(biāo)進(jìn)行跟蹤和增析處理。

　　5. 小結(jié)

　　視頻監(jiān)控系統(tǒng)增加了預(yù)處理環(huán)節(jié)，一則可以提高解碼圖像質(zhì)量，尤其是某些不利條件下的視頻質(zhì)量;二則可以提高視頻編碼的效率，減少傳輸視頻的質(zhì)量波動。其實，提高編碼效率和改進(jìn)碼率控制，其結(jié)果仍然是提高了解碼視頻的質(zhì)量。近年來，業(yè)界對視頻預(yù)處理愈加重視，各種預(yù)處理的方法層出不窮，取得了顯著的進(jìn)展。但是，由于種種因素的限制，預(yù)處理的效果還不能夠令人滿意，還有諸多的問題需要在今后的研究和開發(fā)中逐步解決。未來，如何提高視頻監(jiān)控的圖像效果，是否能找到除了預(yù)處理之外的有效圖像處理方法，將是促使視頻圖像效果改善的一大重點，讓我們拭目以待。