NVIDIA 初創(chuàng)加速計(jì)劃會員企業(yè)達(dá)瓦科技是一家專注于大模型開發(fā)和影視工業(yè)化的 AI 科技公司，致力于幫助企業(yè)實(shí)現(xiàn)內(nèi)容工業(yè)化與客戶運(yùn)營提效。其核心產(chǎn)品 DealCat（成交貓）為基于大模型的智能銷售輔助機(jī)器人平臺，覆蓋客戶觸達(dá)、智能對話、意向識別、跟進(jìn)提醒、內(nèi)容輸出等銷售全鏈路場景。
隨著企業(yè)客戶規(guī)模的持續(xù)擴(kuò)張，平臺需要同時(shí)管理大量機(jī)器人實(shí)例，并在高并發(fā)場景下實(shí)時(shí)完成多輪 AI 對話推理、長期記憶檢索與復(fù)雜工具調(diào)用，而傳統(tǒng) CPU 服務(wù)器在推理延遲和并發(fā)吞吐方面已難以滿足業(yè)務(wù)需求。
DealCat 在實(shí)際運(yùn)營中面臨實(shí)時(shí)推理的延遲瓶頸、高并發(fā)下的算力不足、記憶與知識檢索的計(jì)算壓力、多模型及多工具協(xié)同的復(fù)雜度，以及自主執(zhí)行工程治理難度極高等挑戰(zhàn)。
為此，DealCat 將大語言模型推理服務(wù)部署于 NVIDIA DGX Spark，借助其強(qiáng)大的 Blackwell GPU 算力，同時(shí)圍繞模型構(gòu)建完整的 Harness Engineering 工程體系，大幅提升了模型推理速度與系統(tǒng)并發(fā)能力，保障了智能銷售輔助機(jī)器人在海量銷售會話場景下的低延遲、穩(wěn)定可信運(yùn)行，為企業(yè)客戶帶來更流暢、更智能的銷售輔助體驗(yàn)。
達(dá)瓦科技創(chuàng)始人盧琪曾提到：“AI 營銷正在經(jīng)歷一場深刻變革，誰能率先讓大模型真正跑通銷售全鏈路，誰就掌握了下一個(gè)時(shí)代的競爭主動權(quán)。NVIDIA DGX Spark 為我們提供了堅(jiān)實(shí)的算力底座，讓 DealCat 基于自進(jìn)化架構(gòu)的智能銷售輔助機(jī)器人能夠在高并發(fā)、低延遲的真實(shí)業(yè)務(wù)場景中穩(wěn)定可信運(yùn)行。我們相信，AI 不只是效率工具，更是每一家企業(yè)的新型銷售基礎(chǔ)設(shè)施。”
以上為摘要內(nèi)容，點(diǎn)擊“閱讀原文”或掃描下方二維碼閱讀完整內(nèi)容：
