大模型知識庫憑借著落地速度快、上層應用場景豐富、成本&算力可控等優勢，已經成為企業優先考慮以及選擇比較多的能力場景。今天將邀請行業專家，帶來客戶服務場景下大模型和知識庫的聯合應用，分享過往的落地經驗。包括如何理解知識庫，以及如何在業務場景中結合大模型來應用。分享嘉賓｜沈曉明 網易云商智能化產品負責人
內容已做精簡，如需獲取專家完整版視頻實錄和課件，請掃碼領取。
01
知識庫的應用場景
企業的各類業務中，都會有信息互通和知識流轉的需求，知識庫就是過程中的橋梁。職能部門生產的知識不僅要滿足自己，還會在不同的場景下交叉使用，這時會對知識的生產提出要求。比如一份產品說明書，在面向消費者時和面向服務團隊時，它的要求是截然不同的，知識對內和對外有很顯著差異。隨著產品不斷迭代，功能參數越來越豐富，也會越來越復雜，也會對知識的維護有明確的要求。
總結一下，知識庫的構建有四個要素。第一是完善性，決定了知識庫的應用場景覆蓋度。第二是準確性，是解決問題的基礎。第三是簡潔性，提高知識理解，避免混淆。第四是易讀性，合理的結構能幫助閱讀者更快地理解知識。
為什么是大模型+知識庫
現在大模型技術在不同領域內，都產生了巨大的影響，甚至是顛覆。在知識庫的構建和維護中，大模型也有很多結合點。
經過長時間的積累，我們在應用場景中總結出了大模型結合知識庫的兩類用法。第一類是大模型應用知識庫。大模型是一種全新的能力，可以很好的運用知識，知識庫可以讓大模型發揮更大的作用。第二類是大模型幫助知識庫構建。結構化的知識庫，在使用時的一系列痛點，可以通過大模型來改善。傳統的知識庫形式有兩種：純文檔知識庫、結構化知識庫。
傳統知識庫在實際應用中，還是存在著一些問題。為了滿足智能化的要求和更多場景的使用需要，知識的生成和管理需要符合 NLP 的能力要求，但這并不符合知識原生的生產方式，所以中間需要經過一道復雜的加工。以產品說明書為例，為了實現智能化，不僅需要寫一份面向消費者的，還要再整理一份可以被機器學習和使用的。
在實際落地過程中，這種知識庫的冷啟動成本很高，更新迭代的速度很慢，甚至在不同部門協同之后，會出現內容和知識的割裂，業務部門負責知識輸出，技術部門負責知識庫落地實施，中間難免會產生知識傳遞的偏差。所以原生的知識文檔，在應用時會有很大的局限性。
因此企業更期望知識庫可以根據原生的生產方式，以工作邏輯來生產內容，同時生產的內容又可以直接或者完全符合各種場景的使用，免去中間加工的過程。
在實踐中會發現，結合大模型的知識庫是可以改善不少問題的。
從知識原始的生產模式來看，大模型知識庫的應用優點有 5 個。
在知識構建部分，大模型從原生文檔中，直接抽取結構化的知識，改變了知識的處理方式。
在知識校對過程中，過去會對抽取后的知識校對和查錯分多個步驟，由不同的人進行操作，大模型賦能后可以快速便捷地完成。
在知識運營過程中，大模型通過知識的對比，來實現知識的更新和保鮮。
在知識應用過程中，大模型能力讓知識對內外部、問答等場景的應用面覆蓋更廣泛。
甚至在安全合規方面，也有很強的助力，實現對內容安全的審核，可以規避絕大多數已知的問題。
利用大模型的能力，完成原本龐大的、復雜的、持續的工作，讓知識的維護和應用變得更加簡單。
03
大模型+知識庫的應用
當然大模型并不是萬能的，在應用過程中，也需要面對因幻覺導致的可控性和準確性問題，需要有相應的策略逐步來應對和解決。下面將結合具體的應用案例，分享我們是如何應對這些挑戰的。
3.1 第一步，從容錯率較高的內部場景入手，進行知識構建。
組織內各個職能部門都會產生很多的原始文檔，很多時候并不是苦于沒有知識，而是知識沒有被消化或使用起來，通過大模型可以很方便地應用知識，可以直接提高團隊知識的流通率和使用率。
案例 1?：某集團 SSC 項目
SSC（ Share Service Center ，共享服務中心）是企業日常接觸最多的場景之一，更多是對內服務，包括 HR 、財務、IT 等。該場景對專業度要求非常高，知識點非常多，對于知識的使用者或者查詢者，會因為不同區域、不同公司、不同工種，甚至在不同時間查詢的內容，所得到的答案都可能是不一樣的。
在實際知識庫落地的過程中，最頭痛的就是冷啟動問題，知識分不同領域，如何從文檔轉變為結構化的知識是難點。另外對于不同部門產出的專業文檔，需要進行加工，甚至還要分不同的庫，將多個庫的知識聯合應用。再就是知識既專業又復雜，變動更新也會比較多，需要做對應的知識更新。而每個職能的知識是單獨維護的，最后匯總到某個組織或者某個部門后再做知識更新，這其實是很大的挑戰。
沒有用大模型之前，雖然技術上也有可行之法，但是落地成本很高。結合大模型能力后，可以使用一套組合能力改善這些問題。
首先各個職能部門提供原始文檔，由大模型根據結構化知識庫的標準，抽取對應知識生成標準的問答，這個過程中還可以通過答案擴寫，或者精簡和潤色的能力，改善回答的易讀性和簡潔性，符合知識認知的幾個維度。
其次在檢測答案一致性的時候，因為文檔內容非常專業，也會有相應的版本管理，利用大模型對不同知識進行校對，避免原生文檔存在版本差，保證前后知識的一致性，減少出錯。
最后通過大模型對檢測后的標準問答生成相似問題，擴充各種不同的問法，達到使用場景中更高的可用性及匹配度，來提升最終的知識應答率。
這樣操作下來， SSC 場景下的冷啟動就變得容易很多，包括后續的維護和運營也會更簡單。這個案例中，大模型作為工具，能夠幫助結構化的知識庫，在冷啟動時以便捷的方式去落地，也是結合知識庫應用的價值體現。軟件服務商有很多的產品，產品往往功能復雜而且迭代很快，產品文檔更新也快，組織內不同職能的伙伴也會相互協同，除了日常的培訓以外，協作伙伴也需要了解產品。以前只能通過相應的產品文檔，或者找更了解的伙伴詢問。產品經理需要花費大量的時間進行解答。那么是否可以把產品知識也維護到知識庫里面？
經過我們的嘗試，答案是行不通的。因為產品迭代非?？欤瑑芍艿饺苡幸淮蔚?，每次迭代都有非常多的功能點上線，把這部分內容放到知識庫里，實施人員會發現剛處理完第一波，第二波就來了，根本做不過來，而且產品文檔往往是滯后的，就算產品經理補充了，也會因為知識庫更新不及時，導致無法使用。
這個場景中的核心就是知識庫的構建和維護，因為是對內的場景，基于大模型的文檔問答能力，即使應答率不高，也不會有什么問題。直接把產品手冊和常見問答丟給大模型學習。對于用戶提問，大模型可以根據知識邊界回答已知問題，未知問題可以由產品經理做答，這樣可以節省產品經理很大一部分精力的投入。但是這種程度還是不夠的，怎么樣能夠讓這套機制變得更聰明，更靈活？如何將產品經理的回答，幫助知識庫形成一個自動更新的閉環，使得知識庫在一問一答的過程中自動的更新、迭代？后來我們利用大模型的總結和歸納能力，把咨詢過程中無法應答的問題找出來，通過產品經理進行人工回答，然后把獲得咨詢者認同和認可的答案梳理出來，作為新的標準問答，再寫入到文檔中，給到大模型進行調用，這樣大模型會采集到更多問題和與之匹配的答案，形成知識庫智能化迭代的閉環。這套機制不僅利用了大模型的能力，還可以實現自學和自答得更好。在企業內部知識查詢的場景中，知識門戶上的知識搜索依舊可以使用大模型，實現增強檢索，以改善搜索體驗。通過大模型生成檢索者詢問的內容，給出基于關鍵詞或者自然語義匹配的知識文檔和對應的內容切片，直接給出答案的同時，還可以對比原始文檔，增強查詢結果的信任，促進組織內的知識使用。3.2 第二步，應用各類能力，解決難點+深入場景。前面分享的是在可控的場景下，我們做的嘗試和積累。最終還是希望把套能力，應用到真正一線的場景中。面對可控性和準確性的挑戰，雖然不能完全避免，但是可以把大模型當作一種能力，合理的去應用。品牌零售行業的售前或售后場景，商品信息相關的咨詢量非常大，包括商品本身的信息、活動信息、庫存等。以我們的經驗來看，品牌零售業的咨詢占比可以達到 30% ~?50% ，大部分答案是可標準化的。這種業務場景下，通過機器人來回答，從而降低客服人員的負擔，是很有效的一種做法，大部分企業也是這么做的。但往往會卡在知識庫的構建和維護上。很多企業內部有非常強大的產品信息說明和維護，產品部門會輸出產品信息，運營部門和市場部門會輸出活動等配套信息，最終利用圖文并茂的方式，輸出的非常專業，本意是希望給使用者有更好的閱讀和理解體驗。但放在機器人問答的場景下，舉個例子：某 3C 數碼客戶的， SKU 將近有 7, 000 多個，參數非常復雜，圖文并茂的優秀說明文檔讓機器人難以處理。此外，產品對外推廣的時候，會有很多“ xx 同款”“?xx?熱門款”等相似的昵稱，用戶也會自發的給產品取別稱，表達對產品的支持和喜愛。在服務過程中，很少有用戶按照產品標準名稱來咨詢，以及有些產品名稱之間，差異很小，那么在機器人服務的過程中，機器人就找不到對應的說明來應答，解決率就會很低。面對這種情況，大模型是一個很好的解法。但直接應用大模型的能力，對實際效果來說還是過于開放，比如出現幻覺，答案不完整，出現信息錯配等，還需要給予一定的約束。通過對該領域大量的用戶咨詢數據進行對比，我們找到了一定的規律性，整個過程是相對標準的，并且可以嘗試引導用戶如何獲取想了解的信息，比如產品的什么參數、訂單的什么動作（比如發貨）等。這種情況可以嘗試使用 Agent 的能力，基于 NLP 或者 FAQ 的問答做應用。在和客戶會話時，觸發產品咨詢意圖后，可以通過大模型獲取客戶意圖，識別想詢問的是什么產品，具象到具體的產品上，再關聯到實體。比如通過昵稱具象到所代表的產品，然后提取關聯的產品信息，再關聯到產品的屬性，比如相關聯的推薦產品，或者訂單信息。再通過 Agent 能力查詢商品庫對應的商品信息，拿到返回的信息后，再把信息和客戶的問法一起給到大模型來生成相應的回答。在這個過程中是有幾個邊界的，比如只針對某一具體的商品找到產品說明文檔，基于產品說明文檔進行解析，找到對應的屬性或信息內容切片，再基于切片做應答。這樣幾個邊界就切得非常清楚，以此來解決錯配、應答幻覺等問題。 Agent 可以把工作流組合得更加豐富些，加入新的可能性，比如相關商品推薦、活動推薦，甚至推動客戶下單等等，都是可以實現的。在這個過程中，還可以發揮客服部門更大的業務價值，把客服部門的價值從被動解答問題往主動營銷層面走。下面的案例是一家集團企業，為客戶提供的服務類型很多，因為企業品牌較大，很重視客戶服務的體驗，所以每個業務，不同的客戶，有不同的服務標準。但是，為了統一品牌形象，服務入口是統一的。這時會產生較大的問題：很多訪客在咨詢進線的時候，并不能清楚地描述問題屬于哪個業務哪個場景哪個流程，按照常規的客服做法是填寫詢前表單，來分配合適的客服技能組。如果遇到訪客點錯了，就會出現錯配，客戶被不同的客服技能組反復轉接，體驗差了，客服的服務效率也有很大影響。這里同樣可以利用大模型+知識庫，再關聯技能組和咨詢分類的實體。
在訪客和機器人互動的環節中，訪客在表述問題和輸出信息時，機器人可以做兩件事，除了應答之外，還可以嘗試收集訪客的信息。根據信息的理解對應到不同業務、不同場景、不同流程中，做好咨詢的分類，以此實現轉人工之后，實現不同技能組的指定分流，解決前面所說的錯配流轉問題，客服效能提升，訪客的滿意度也會提高。這個案例不是通過大模型解決客戶確切的問題，而是為某個服務環節提供了價值。大模型知識庫在客服場景中有很多發揮價值的機會點，有待去挖掘和發現，但核心還是兩塊：怎么樣通過大模型把知識庫用起來，怎么樣通過大模型把知識庫構建好，這也是最能幫助企業去解決問題的兩個點。以上是本次分享的全部內容，如需獲取專家完整版視頻實錄和課件可掃碼領取。
?
擁有10年以上產品領域實戰經驗。2012年加入網易，從0到1參與多款To B和To C產品的市場研究、產品規劃、交互設計，推動產品商業化，對于大數據在服務和營銷場景的應用，以及客戶體驗的提升，有著深刻的理解。2019年開始負責網易云商旗下智能外呼、智能客服等多款智能化產品。2023年9月，和團隊共同完成客服大模型應用“商和”從0到1的孵化，在超百家企業中，驗證了大模型在坐席輔助、知識庫、客戶之聲分析等客服場景的應用效果。注：點擊左下角“閱讀原文”，領取專家完整版實錄和分享課件。
