黑夜也能五顏六色，用深度學習實現(xiàn)全彩夜視系統(tǒng)

加州大學歐文分校的這項研究，讓我們更期待未來更先進的彩色夜視儀。

在一些軍事大片中，士兵頭戴夜視儀搜索前進似乎是少不了的場景。使用紅外光在黑夜中觀察的夜視系統(tǒng)通常將視物渲染成單色圖像。
圖源：flir.com
不過，在最近的一項研究中，加州大學歐文分校的科學家們借助深度學習 AI 技術(shù)設計了一新方法，有了這種方法，紅外視覺有助于在無光條件下看到場景中的可見顏色。
研究共同一作、加州大學歐文分校工程師、外科醫(yī)生和視覺科學家 Andrew Browne 表示，「世界上很多地方都以人們賴以做出決策的方式進行顏色編碼，比如信號燈。」
夜視系統(tǒng)是個特例。使用紅外光照亮黑夜的夜視系統(tǒng)通常僅以綠色渲染場景，而無法顯示出在正常光線下可見的顏色。一些較新的夜視系統(tǒng)使用超靈敏相機放大可見光，但這些相機幾乎不能顯示出漆黑環(huán)境中沒有光可放大的顏色。
Andrew Browne
因此，在這項研究中，研究者推斷，賦予物體可見光的每種染料和顏料不僅反射了一組可見波長，而且可能反射一組紅外波長。那么，如果可以訓練一個能夠識別每種染料和顏料的紅外指紋的夜視系統(tǒng)，則能夠使用與每種染料和顏料相關(guān)的可見光來顯示圖像。

效果圖
目前，相關(guān)論文已在期刊 PLOS ONE 上發(fā)表。

論文地址：https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0265185
這項研究是從不能感知的近紅外照明中預測人類可見光譜場景的第一步。接下來的工作可以極大地促進各種應用，比如夜視系統(tǒng)和對可見光敏感的生物樣本研究。
研究概述
人類可以感知 400-700nm 可見光譜中的光。一些夜視系統(tǒng)使用人類無法感知的紅外光，將渲染后的圖像轉(zhuǎn)換到數(shù)字顯示器上，最后在可見光譜中呈現(xiàn)單色圖像。
研究者想要開發(fā)一種由優(yōu)化深度學習架構(gòu)驅(qū)動的成像算法，從而可以使用場景中的紅外光譜光照來預測該場景中的可見光譜渲染，就好像人類使用可見光譜光感知它一樣。當人類處于完全「黑暗」并只有紅外光照射時，他們能夠以數(shù)字方式渲染可見光譜場景。
圖像處理目標。僅使用紅外光照顯示的圖像與使用深度學習處理 NIR 數(shù)據(jù)后的可見光譜圖像比較。
Andrew Browne 表示，「單色相機對它所看到的場景中反射的任何光子都很敏感。因此，我們使用可調(diào)光源將光照射到場景上，并使用單色相機捕捉在所有不同照明顏色下從該場景反射的光子?！?/span>
為此，研究者采用了一個對可見光和近紅外光敏感的單色相機，在覆蓋標準可見紅光（604nm）、綠光（529nm）和藍光（447nm）以及紅外波長（718、777 和 807 nm）的多光譜照明下采集面部打印圖像的圖像數(shù)據(jù)集。接著，他們對具有類 U-Net 架構(gòu)的卷積神經(jīng)網(wǎng)絡進行優(yōu)化，以僅從近紅外圖像中預測可見光譜圖像。
人臉肖像庫中的示例圖像。
接著，研究者將三張紅外圖像與彩色圖像配對，以訓練一個人工智能神經(jīng)網(wǎng)絡來對場景中的顏色進行預測。在經(jīng)過訓練并提升性能之后，該神經(jīng)網(wǎng)絡能夠從三張看起來非常接近真實物體的紅外線圖像中重建彩色圖像。下圖左為用可見光譜的真彩色，圖右為深度學習算法加持下的彩色。

Andrew Browne 說到，「當我們增加紅外通道或紅外顏色數(shù)量時，它會提供更多數(shù)據(jù)，我們也能更好地預測實際看起來非常接近真實圖像的應是什么。我們在這項研究中提出的方法可以用來獲取三種不同紅外顏色的圖像，這三種顏色人眼無法看到?！?/span>
不過，研究者只在打印的彩色照片上測試了他們的算法和技術(shù)。他們正在尋求將這些算法和技術(shù)應用于視頻，并最終應用于真實世界的物體和人類主體。
參考鏈接：https://spectrum.ieee.org/night-vision-infraredhttps://www.popsci.com/technology/ai-infrared-night-vision-in-color/