黑夜也能五顏六色，用深度學習實現全彩夜視系統

OpenCV學堂 2022-04-18 22:43

華潤微電子推出第五代高性能SGT MOS產品
告別射頻開關短板！MEMS 高速測試資料

點擊上方↑↑↑“OpenCV學堂”關注我

來源：公眾號?機器之心?授權

加州大學歐文分校的這項研究，讓我們更期待未來更先進的彩色夜視儀。

在一些軍事大片中，士兵頭戴夜視儀搜索前進似乎是少不了的場景。使用紅外光在黑夜中觀察的夜視系統通常將視物渲染成單色圖像。

圖源：flir.com

不過，在最近的一項研究中，加州大學歐文分校的科學家們借助深度學習 AI 技術設計了一新方法，有了這種方法，紅外視覺有助于在無光條件下看到場景中的可見顏色。

研究共同一作、加州大學歐文分校工程師、外科醫生和視覺科學家 Andrew Browne 表示，「世界上很多地方都以人們賴以做出決策的方式進行顏色編碼，比如信號燈。」

夜視系統是個特例。使用紅外光照亮黑夜的夜視系統通常僅以綠色渲染場景，而無法顯示出在正常光線下可見的顏色。一些較新的夜視系統使用超靈敏相機放大可見光，但這些相機幾乎不能顯示出漆黑環境中沒有光可放大的顏色。

Andrew Browne

因此，在這項研究中，研究者推斷，賦予物體可見光的每種染料和顏料不僅反射了一組可見波長，而且可能反射一組紅外波長。那么，如果可以訓練一個能夠識別每種染料和顏料的紅外指紋的夜視系統，則能夠使用與每種染料和顏料相關的可見光來顯示圖像。

效果圖

目前，相關論文已在期刊 PLOS ONE 上發表。

論文地址：https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0265185

這項研究是從不能感知的近紅外照明中預測人類可見光譜場景的第一步。接下來的工作可以極大地促進各種應用，比如夜視系統和對可見光敏感的生物樣本研究。

研究概述

人類可以感知 400-700nm 可見光譜中的光。一些夜視系統使用人類無法感知的紅外光，將渲染后的圖像轉換到數字顯示器上，最后在可見光譜中呈現單色圖像。

研究者想要開發一種由優化深度學習架構驅動的成像算法，從而可以使用場景中的紅外光譜光照來預測該場景中的可見光譜渲染，就好像人類使用可見光譜光感知它一樣。當人類處于完全「黑暗」并只有紅外光照射時，他們能夠以數字方式渲染可見光譜場景。

圖像處理目標。僅使用紅外光照顯示的圖像與使用深度學習處理 NIR 數據后的可見光譜圖像比較。

Andrew Browne 表示，「單色相機對它所看到的場景中反射的任何光子都很敏感。因此，我們使用可調光源將光照射到場景上，并使用單色相機捕捉在所有不同照明顏色下從該場景反射的光子。」

為此，研究者采用了一個對可見光和近紅外光敏感的單色相機，在覆蓋標準可見紅光（604nm）、綠光（529nm）和藍光（447nm）以及紅外波長（718、777 和 807 nm）的多光譜照明下采集面部打印圖像的圖像數據集。接著，他們對具有類 U-Net 架構的卷積神經網絡進行優化，以僅從近紅外圖像中預測可見光譜圖像。