領先的金融科技公司利用生成式AI提供更安全、更迅速、更準確的金融服務

通過 NVIDIA NIM 微服務和加速計算，Ntropy、Contextual AI、NayaOne 和 Securiti 增強了用于欺詐檢測、財務規劃等領域的 AI 應用。

NVIDIA 發布的全球金融服務業 AI 現狀調查報告顯示，多達 91% 的金融服務公司正在評估或者已經在使用 AI，并將其作為推動創新、提高運營效率和增強客戶體驗的工具。

借助由 NVIDIA NIM 微服務和加速計算驅動的生成式 AI，金融機構可以更好地優化投資組合并加強欺詐檢測、客戶服務和風險管理。

NVIDIA 初創加速計劃成員企業中的 Ntropy、Contextual AI 和 NayaOne 公司，正在利用這些技術來加強金融服務應用。

總部位于硅谷的初創公司 Securiti 提供了一個集中化的智能平臺，它可以確保數據和生成式 AI 的使用安全。該公司正在使用 NVIDIA NIM 為金融服務開發 AI 助手。

在本周于拉斯維加斯舉行的 Money20/20 金融科技大會上，這些公司展示了他們的技術如何幫助銀行、金融科技公司、支付公司和其它機構帶來創新機會，把通常極為復雜的各種金融服務數據轉化為有用的洞察和創新機會。

總部位于紐約的 Ntropy 正在消除金融服務工作流中的各種混亂情況——無序、隨機或不確定性。

Ntropy 聯合創始人兼首席執行官 Naré Vardanyan 表示：“每當資金從 A 點轉移到 B 點時，銀行對賬單、PDF 收據和其它形式的交易記錄都會留下文本信息。傳統上，此類非結構化數據很難清理，也難以用于金融應用程序。”

該公司的交易豐富化應用程序編程接口（API）可對來自各種來源和地理位置的金融數據進行標準化處理。作為一種通用語言，它可以幫助金融服務應用程序在幾毫秒內以類似人類的準確性來理解任何交易，而成本只需要傳統方法的萬分之一。

其使用了 Llama 3 NVIDIA NIM 微服務以及在 NVIDIA Tensor Core GPU 上運行的 NVIDIA Triton 推理服務器構建而成。借助 Llama 3 NIM 微服務，Ntropy 將其大語言模型的利用率和吞吐量提高到運行原生模型時的 20 倍。

Airbase 是一家領先的軟件平臺提供商，其平臺集成了從采購到支付的全過程。通過使用大語言模型和 Ntropy 數據豐富器，Airbase 大大改進了交易授權流程。

在 Money20/20 大會上，Ntropy 介紹了客戶如何使用他們的 API 來清理客戶的商戶數據，從而通過提高風險檢測模型的準確性來加強欺詐檢測。這樣的改進帶來了虛假交易減少和收入損失降低。

另一個演示重點介紹了自動貸款代理如何利用 Ntropy API 來分析銀行網站上的信息，并生成相關的投資報告，從而加快用戶的貸款發放和決策過程。

位于加利福尼亞州 Mountain View 市的 Contextual AI 提供了一個由檢索增強生成（RAG）驅動的生產級 AI 平臺，該平臺非常適合在知識密集型金融服務場景中構建企業 AI 應用程序。

Contextual AI 首席執行官兼聯合創始人 Douwe Kiela 表示：“RAG 是將企業 AI 投入實際應用的解決方案。Contextual AI RAG 2.0 平臺采用了 NVIDIA 的技術和大語言模型，可為尋求優化運營并提供新的生成式 AI 產品的金融服務企業帶來準確、可審計的 AI。”

Contextual AI 平臺將整個 RAG 管道（包括提取、檢索、重新排序和生成）集成到一個優化的系統中。該系統可以在幾分鐘內部署，并且能夠根據客戶需求進一步調整和優化，從而在依賴背景資料的任務中實現更高的準確度。

匯豐銀行計劃使用 Contextual AI，通過檢索并綜合相關的市場展望、財經新聞和運營文件來提供研究洞察和流程指導支持。其它金融機構也在利用 Contextual AI 的預制應用程序，涉及財務分析、政策合規報告生成、財務建議查詢解析等等。

例如，用戶可能會問，“我們預測 2025 年第四季度的央行利率是多少？”，Contextual AI平臺將根據實際文件提供簡短的解釋和準確的答案，包括引用信息源的特定章節。

Contextual AI 使用 NVIDIA Triton 推理服務器和開源的 NVIDIA TensorRT-LLM 庫來加速和優化大語言模型的推理性能。

總部位于倫敦的 NayaOne 提供了一個 AI 沙盒，允許客戶在商業化部署之前安全地測試和驗證 AI 應用程序。其技術平臺使金融機構能夠創建合成數據，還為金融機構提供了一個擁有數百家金融科技公司的龐大市場的入口。

借助這個數字沙盒，客戶可以對應用程序的公平性、透明度、準確性和其他合規指標進行基準測試，以便更好地確保最高的性能和成功的集成。

NayaOne 首席執行官 Karan Jain 表示：“金融服務領域對 AI 驅動的解決方案的需求正在加速增長，而我們與 NVIDIA 的合作使金融機構能夠在可控、安全的環境中充分利用強大的生成式 AI。我們正在創建一個生態系統，讓金融機構可以更快、更有效地開發原型產品，從而實現真正的業務轉型并實施增長計劃。”

NayaOne 的 AI 沙盒使用了 NVIDIA NIM 微服務，讓客戶能夠探索和對優化后的 AI 模型進行實驗，并更輕松地部署它們。與運行基于 CPU 的各種模型相比，借助 NVIDIA 加速計算，NayaOne 的欺詐檢測模型在處理大型數據集時，處理速度提升最多達 10 倍，基礎設施成本最多降低了 40%。

這個數字沙盒還使用了開源的 NVIDIA RAPIDS 數據科學和 AI 庫，用來加速資金流動應用中的欺詐檢測和預防功能。NayaOne 在 Money20/20 大會上的 NVIDIA AI 展臺上展示了其數字沙盒。

Securiti 高度靈活的 Data+AI 平臺為廣泛的生成式 AI 應用提供動力，包括安全的企業 AI 助手以及大語言模型的訓練和調優，使用戶能夠構建安全的端到端企業 AI 系統。

該公司目前正在開發一款基于 NVIDIA NIM 的財務規劃助手。該助手的聊天機器人可以訪問各種財務數據，同時遵守隱私保護和權限政策，利用上下文感知來解答用戶提出的財務相關問題。

Securiti 首席數據官 Jack Berkowitz 表示：“在保證數據安全、隱私與合規的情況下，銀行難以大規模地提供個性化的財務建議。Securiti 通過強大的數據保護和基于角色的訪問權限來確保安全、可擴展的支持，幫助企業構建安全的 AI 助手，使其能夠針對個性化目標來提供量身定制的財務建議。”

這個聊天機器人可以檢索各種來源的數據，比如收益記錄、客戶資料和賬戶余額以及投資研究報告。Securiti 的解決方案可安全地攝取并準備數據，將其用于高性能的由 NVIDIA 驅動的大語言模型，同時保留了訪問權限等控制功能。最終，會通過一個簡單的用戶界面提供個性化的答案。

Securiti 使用 Llama 3 70B-Instruct NIM 微服務優化了大語言模型的性能，同時確保數據得到安全的使用。該公司在 Money20/20 大會上展示了其生成式 AI 解決方案。

NIM 微服務和 Triton 推理服務器可通過 NVIDIA AI Enterprise 軟件平臺獲得。