NVIDIAClaraHoloscan助力微識醫(yī)療加速消化內(nèi)鏡AI應(yīng)用產(chǎn)品化

微識醫(yī)療是一家人工智能醫(yī)學(xué)影像科技初創(chuàng)公司，其利用深度學(xué)習和 NVIDIA AI 計算平臺，將醫(yī)學(xué)知識集成到靈活和可擴展的數(shù)學(xué)模型中，旨在使用少量開發(fā)樣本實現(xiàn) AI 臨床價值，為醫(yī)用光學(xué)影像領(lǐng)域提供改寫臨床指南級別的數(shù)字醫(yī)療創(chuàng)新，致力于在腸癌早篩的關(guān)鍵環(huán)節(jié)為臨床檢查提供最核心的幫助，創(chuàng)造 AI 的更高價值，為預(yù)防和監(jiān)測癌癥提供高效的智能輔助解決方案。

醫(yī)療影像深度學(xué)習推理過程需要處理海量的來自內(nèi)窺鏡的視頻數(shù)據(jù)，計算量大、實時性要求高。使用傳統(tǒng)的傳輸方法，內(nèi)窺鏡輸出的視頻數(shù)據(jù)首先經(jīng)由視頻采集卡捕獲并寫入系統(tǒng)內(nèi)存中，然后通過 CPU 傳輸和 PCIE 總線連接到 GPU 的內(nèi)存。內(nèi)存的讀寫速率和 CPU 的性能成為制約視頻流傳輸效率的瓶頸，因而導(dǎo)致額外的傳輸延遲。手術(shù)視頻的需求要求內(nèi)窺鏡捕獲的圖像與投影到醫(yī)用顯示器上的圖像之間具有一致且可靠的低延遲，因而額外的傳輸延遲將嚴重影響客戶體驗。與此同時，醫(yī)療應(yīng)用對于底層平臺的設(shè)計以及安全性有合規(guī)的要求，并且醫(yī)療設(shè)備的設(shè)計、生產(chǎn)和使用的周期都比較長。因此選擇合適的技術(shù)平臺將為醫(yī)療企業(yè)的發(fā)展起到奠定基礎(chǔ)的作用。

基于以上挑戰(zhàn)，微識醫(yī)療選擇采用 NVIDIA Clara Holoscan 以及其搭載的 RDMA 等技術(shù)和支持服務(wù)來加速產(chǎn)品的開發(fā)迭代。RDMA，即遠程直接內(nèi)存訪問，允許將視頻數(shù)據(jù)直接從視頻采集卡傳輸?shù)?GPU 內(nèi)存，這大大減少了 GPU 視頻處理的延遲及系統(tǒng)所需的 PCIE 帶寬，擺脫了對 CPU 性能的依賴，同時由 GPU 進行圖像的預(yù)處理過程，充分發(fā)揮了 GPU 并行計算的優(yōu)勢，降低了整個系統(tǒng)的延遲和功耗，使用后給業(yè)務(wù)帶來了巨大的支持和提升，具體體現(xiàn)在以下幾個方面：

1. 通過采用 RDMA 技術(shù)，以內(nèi)窺鏡常見的 1080i50 和 1080i60 視頻分辨率為例，視頻從采集卡到顯卡內(nèi)存的傳輸時間減少了 30%。

2. 由 NVIDIA GPU 代替 CPU 進行圖像預(yù)處理，相比之前使用 CPU，圖像預(yù)處理的時間從 5ms 下降到 2ms。

3. 通過減少視頻傳輸和圖像預(yù)處理時間，使整個系統(tǒng)的畫面延遲從 25ms 降低到 16ms，極大得改善了用戶體驗，滿足了臨床應(yīng)用的要求。

4. 通過在 NVIDIA Clara Holoscan 上直接布署 EndoScreener，省去了功耗巨大的 CPU 和體積龐大的風冷系統(tǒng)，使醫(yī)用工作站的體積減小為原來的一半，功耗降低到原來的 75%。

5. Clara Holoscan 平臺所提供的 IEC60601，IEC62304 的預(yù)認證，以及長期的軟硬件支持可以讓企業(yè)有更穩(wěn)定和全球化的平臺開發(fā) AI 應(yīng)用。

微識醫(yī)療結(jié)腸鏡計算機輔助檢測軟件 EndoScreener 通過搭載 NVIDIA Clara Holoscan 實現(xiàn)高效視頻處理，保證產(chǎn)品性能的優(yōu)效發(fā)揮。目前，通過若干高質(zhì)量臨床證據(jù)，EndoScreener 產(chǎn)品臨床效用和價值被數(shù)國臨床指南和共識認可接受，成為國內(nèi)第一個消化內(nèi)鏡獲得醫(yī)療三類證的公司。微識醫(yī)療未來將更多基于 Clara Holoscan 平臺搭載的技術(shù)融入微識的產(chǎn)品中，提升產(chǎn)品的安全性和應(yīng)用的實時性。