隨著AI大模型時代的來臨，企業需要聚焦降本增效，將數字化策略與戰略經營目標對齊，激活非結構化數據價值，實現業務流程創新與自動化。這其中有哪些值得關注的落地應用成果，企業又該在當下時代做好大模型規劃與建設？
本文整理自愛分析創始人&CEO金建華在“智進·AI 2024網易數智創新企業大會”上的分享，并結合愛分析在過去兩年的企業客戶咨詢和大模型建設項目經驗，為企業提供AI大模型時代的數字化趨勢洞察和高價值場景落地實踐案例。
分享嘉賓｜金建華 愛分析創始人&CEO
內容已做精簡，如需獲取專家完整版課件，請掃碼領取。
AI大模型時代的企業數字化趨勢洞察與落地實踐，其實前面再加一個百年變局，要從當前面臨整個宏觀環境下，結合企業自身戰略和經營目標去考量，怎么開展數字化工作？作為企業一把手接下來的工作重心在哪里？應該在哪里？這里面增加了兩個很重要的變量，一個是宏觀環境和企業經營目標，第二個很重要的變量，就是AI大模型技術不斷迭代，在很多企業落地實踐。簡單講一下宏觀環境，對所有企業來講都是一樣的，重點在影響企業經營層面，太大的不講了，分享幾組事實和數據，無論是央國企還是民企，面臨的問題是什么問題？第一是中央企業，從2023年開始重點考核的是“一利五率”，一利五率里面的“一利”本質上講是企業經營效益，就是利潤總額、凈利潤協同增長。國資委近期公布的上半年央企經營情況，利潤總額今年上半年增長是1.9%，營業總收入增長沒有公布，我們大概判斷是沒有太多增長。第二是國資國企，從二十大三中全會決議里面看，定義是“做優做強做大”，把“做大”放到了最后，也就是說不追求規模的繼續增長，重點追求是利潤提升，利潤提升的背后就是效率怎么提升上去，成本怎么降下來。近期財政部公布的今年上半年國資國企大概營業總收入增長1.9%，但是利潤總額增長是-0.6%。最后看下中國最優秀企業群體，A股全體上市公司，今年上半年所有財報出來之后，大概五千多家，今年整體營業收入增長-1.41%，歸母凈利潤整體增長-2.37%。如果把央國企及金融企業刨除，剩下的就是民營企業，估算一下民營企業的增長，不論是營收還是利潤，應該都不會特別好看。所以無論是央國企還是民營企業，面臨的問題都是在營收增長乏力或無望時，如何降本增效，怎么提升企業經營效益，提升凈利潤水平。回到數字化工作。我們講，企業數字化建設必須跟企業戰略和經營目標對齊，如果不對齊的話數字化工作跟領導層關心的工作就脫節，一脫節工作就無效。按照這個邏輯下來，數字化建設真正要關心的問題是如何為企業創造價值，尤其是重點關注業務收益。另外一個變量是AI，尤其是大模型技術，能力在不斷迭代增強，也在不少企業內部落地，那么AI大模型對企業數字化建設的影響會是什么？
上圖右側，是企業數字化戰略和愿景地圖。數字化必須跟企業業務目標、財務目標對齊，中間這層是數字化更好地支撐和重塑企業業務，最底下是建立全新的數字化能力。從長遠考慮，企業必須把整個IT、數字化團隊作為一項企業級能力去建設，不能只當成一個一個項目去建設。CIO應該成為董事長的左膀右臂，最終給企業提供的價值，是建立起為企業實現持續競爭優勢的一系列能力，這些能力包括技術能力、數據能力，基于數字化敏捷運營能力，以及組織和文化等。這些數字化能力建設背后，AI大模型技術在逐漸滲透過程中，我們總結了一下有四點現在看得到的影響：第一，數據層面。傳統AI更多是用好結構化數據，在大模型技術逐漸成熟落地的過程中，大模型可以更好更大的激發企業內部大量的非結構化數據，比如研發生產性企業的圖紙、設計和知識類文檔，這些知識在傳統AI時代沒法用，大部分靠人去用，沒法用到模型里面，大模型來了之后企業內部大量非結構化數據能夠得到激活和有效的應用，反過來能更好促進數據在企業內部持續沉淀產生價值。第二，技術層面，我們認為大模型將逐漸具備更強的自學習、自進化能力。傳統AI相對來講算法模型比較固定，而且都是單點，更多的起輔助作用，AI大模型將更高程度上提升決策能力，幫助企業獲得更高精度的洞察和決策，提升決策效率和業務價值。
第三，流程層面，我們預期大模型將對業務流程逐漸實現更大程度上的創新和自動化，這個跟傳統數字化或AI差別比較大。傳統數字化無論是ERP、CRM、OA系統，是基于某一類企業的最佳實踐固化為流程或系統后，組織和人本身要去適應系統，這過程有個較大的改造成本。大模型將具備較強的流程創新和自動化能力，讓業務流程適應組織，而不是讓人和組織去適配系統，這也是未來會有比較大改變的地方。第四，體驗層面，大模型的泛化能力，無論是營銷的千人千面，還是智能問答，無論是面向消費者，還是企業員工，能夠提供高度個性化產品和服務，跟傳統AI時代差別也比較大。這四點只是我們實踐中的總結，AI大模型在企業內部滲透過程中，它的價值應該會越來越多。第二部分簡單介紹一下我們持續跟蹤調研的企業，他們在企業內部落大模型的反饋。這個調研從2023年上半年開始做，一到兩個季度會滾動一次，這里面企業樣本絕大部分收入規模在百億級別以上，樣本量大概有近200家。
左上角分了四個落地階段，到目前為止，已經有2/3調研企業采納了大模型，開始在企業內部做探索、試點，去年同期調研時，我記得有50%以上處于觀望學習階段，我自己當時見了很多IT總和CIO，確實有大量CIO對大模型沒有那么感冒，比較極端的一個說法是，估計大模型差不多兩三年就涼了，跟元宇宙一樣，一陣風而已。當時認為大模型跟元宇宙概念差不多，我估計大有人在，現在看起來遠遠不是。左下角是落地方式，分成三類：標準軟件、應用定式、模型定式。在這個里面有兩個結論，第一個結論是，大部分企業落大模型時，采用私有化部署開源模型，做應用開發，大概有60%多；另一個比較重要的結論是，模型定制，也就是對基礎模型進行預訓練或微調的占比比較低，我們大概統計也就十來家，而且這十來家每年IT預算投入很高，大央企為主，這是落地的情況。右側是關于應用大模型目的和場景，調研結果第一是降低運營成本，這個結論跟實際企業的經營目標和面對的宏觀環境的情況是一致的；第二是產品與服務體驗創新，大家更期望在面客場景產生價值，而不僅僅是內部知識庫、內部客服等。右側是應用場景，應用場景分成兩大類，一類是類似于像知識庫和數據分析，例如ChatBI，一般企業講問數會講多一點，這兩類是目前在落大模型的過程中最主要的兩個方式，另外還有一個智能體Agent，目前普及、滲透的越來越多。從職能部門需求來看，銷售、營銷還是大家最關心的場景。此外比較重要的是研發場景，研發占了40%，我們調研了很多無論是大型民企，還是央國企，對大模型的預期在研發生產環節，不僅僅是在通用的職能部門，類似化學品、藥物等研發，有大量知識積累，非結構化數據量很大，對人的經驗和知識依賴度很高，這個場景可以把大模型能力發揮的比較好。這說明有很多企業對大模型在某些層面的能力預期還是比較高的。
關于大模型的行業層面的落地進展，簡單結論，能源、金融落地比較快。為什么？第一，預算相對比較多，所以在能源和金融行業落的相對比較快。第二，整體數字化基礎設施做得比較好，原來系統建設、數據能力建設做的比較領先，或者比較系統。制造業在調研過程中排的不是很靠前，不過，我們認為接下制造業是預期比較重要的行業。首先業務相對比較穩定和成熟，不會像互聯網企業一樣變化很快，第二，制造業沉淀了大量的非結構化數據，這些數據原來沒法用上，經驗、知識這些東西都在人身上，對人身上的知識、經驗依賴比較多，無論是知識沉淀，還是企業在人腦子里面的經驗怎么變成企業自身的能力，這也是制造業很重要可以落大模型的動力。第三，制造業原來做了很多傳統AI小模型的滲透和嘗試，有比較好的基礎。看到像設備維修、項目管理、安全生產等領域里面，這些場景都在落一些項目。這些項目整體預算投入不是特別高，大概在百萬級別。在不同場景中，大模型能力和實現價值有較大差別。如果講的更直觀一點，一種類型叫輔助、增強類智能，另外一種是偏決策類的，或者我們叫自動化智能，所以這兩類目前看大部分還是偏輔助類的為主，決策類、自動化類相對來講落地探索過程還是有一定的時間，像我們看到的電力仿真系統、智能排查中，比如電網在落，不確定什么時候落地為成功案例或者最佳實踐。前面場景里面，巡檢、客服、維修、售前咨詢這些都相對成熟，有成功案例。
第三部分講一下落地怎么落，落的過程中面臨的挑戰。挑戰很多，只要開始考量這個事情問題就一大堆。第一個問題一般會問，業務收益在哪里？第二個問題是跟領導要了預算，領導被朋友圈忽悠了一通，對大模型落地充滿了很高的期待，怎么管理好領導預期？短期投入和效果，以及企業長期建立起來能力之間，如何平衡？第三個問題會問，如果在這個場景下落項目，有沒有成功案例？同業里面有沒有做的特別好的，在類似的行業里面有沒有成功的，成功之后效果怎么樣？后面是我們的實踐總結，給出了一定的建議供大家參考。
從落地方式來看有兩種，一種是能力建設，一種是應用建設。能力建設針對年預算在幾十億級別的，一般是大型央企，相對投入預算比較大，建設周期也比較長。應用建設適合絕大部分企業，絕大部分都是基于開源大模型再調用，要不然直接用API。應用建設相對來講短期內投入成本會比較低，無論花大幾十萬、上百萬，相對來講壓力不會那么大，同時周期比較短，在幾個月周期里面會看到一些效果，要管理好上面領導的預期，不要讓他們預期太高。譬如ChatBI問數，理論上來講第一期上線后，準確率不會超過80%，70%-80%準確率是大概的區間，要花一定時間去調優，從80%逐漸提升到85%、90%。我們講應用建設是絕大部分企業可以采取的落地方式。能力建設的技術架構，重點講幾點：
第一，企業做大模型能力建設，不建議拿千億級模型做預訓練或者微調。邏輯比較簡單，第一，無論開源閉源，基礎模型的能力還在不斷迭代增強。大家知道GPT5還沒出來，但是現在已經有風聲了，GPT5的能力大概是4的幾百倍，至少是幾十倍，包括它的框架和學習效率也在不斷優化。所以，大模型能力迭代還處于高頻的周期里面，這個不合適去訓練，訓練的成本太大了。第二，模型訓練或者微調完了成果很難復用，不同的場景和不同的業務場景，甚至不同的場景里面最后效果差別很大。第三，SFT所需算力高，對于央國企來講，本地化算力稀缺。此外，如果企業拿百億級參數模型作為能力建設基礎，我們也不建議做，畢竟百億參數級模型的能力邊界和可拓展性較差。關于中間層。一般情況下企業做應用建設，A場景做的過程中會用到Agent，B場景會用到知識工程工具，我們還是建議在多場景的應用建設時，逐漸把中間層三件套進行統一建設，如果分開建設的話問題跟原來做煙囪式的問題是一樣的，每個系統都要各自的數據積累，到時候上面還要重新架構一個中臺，這個看怎么考量，短期內就想做統一建設，還是先做一兩個場景再考慮，這是企業內部自身考慮的。關于應用建設。怎么落？首先考慮場景規劃，做場景規劃的過程中有兩點要做：
第一，建議企業內部先做場景地圖，基于業務流程、客戶旅程或職能部門進行場景拆解，同時去一線做調研、訪談，跟業務部門、領導、基層管理人員、員工盡量多交流，找到實際業務過程中碰到的問題、痛點。調研完了之后大概會圈出一些比較重要的場景，在這個過程中做兩個評估，一個是業務收益評估，另外是技術可行性評估。技術可行性、業務收益評估，不同人有不同的視角，最后數值相差很大，建議組建跨部門小組，必須有業務部門領導和業務骨干、業務專家，必須有高層領導級別的人，同時有IT技術專家，或者引入外部專家。這個過程中雖然是看起來比較簡單，核心是對齊管理層、業務部門和IT部門的共識，本質是通過一套方法流程，讓大家共同認為這個事很重要，確認場景的優先度。業務收益評估和技術可行性評估里面有很多方法，今天就不展開講了。技術成熟度里面還是適當考量行業成功案例或者最佳實踐，我覺得這個是很有必要的，但有些是探索性的，比如今年有500萬預算，其中500萬里面有兩三百萬允許承擔一定風險，我覺得有些探索性的方案可以去落。
應用建設里面還有一個比較重要的，業務收益怎么設定，也就是把這個項目跟領導匯報時，如何獲得領導層的支持，如何把這個項目收益跟業務部門講清楚，讓業務部門支持你，同時跟一線員工講清楚，業務收益設定這個事是項目準備建設時怎么讓大家重視這個項目，一起把這個項目往前推，更好地落地。實際項目怎么做和怎么去設定不一定完全一致。第一個是業務流程，一般建議做項目業務收益的時候，原則上來講，端到端的業務流程是最有效的，但是實際在落的過程中，很難把完整端到端的流程打通，作為試點或第一期，很可能是某一個環節開始，這是能源類的央企，設備檢修有六個點，比如修復排障方案，這是第一個點，因為這個點在試點里面效果最好，但是跟業務部門和領導講這個項目產生業務收益的時候，要把完整端到端的價值講清楚，不能講一個，講一個他覺得這個沒有什么價值，原來方案要用手寫的或者原來就有，只是讓機器人調取出來，或者把不同的方案整合一下出來一個結果，覺得沒有什么用，只有把端到端的方案講清楚，才能得到上面領導和業務部門的支持，這個工作很重要。第二個，一般在找場景和定項目過程中，項目終端用戶是誰很重要，第一類是管理層，第二類是業務部門負責人，第三類是一線的執行團隊，按照項目收益價值度來排序，職位越高價值率越高。比如數智董事會，為了讓領導重視，所以把場景篩到董事會場景，每年有大量的議案和投資決策，有大量合規性的問題，對于董事長和董事領導們來講是手頭最重要的，所以這個項目推起來很容易。第三個，講人效的問題。以能源企業來講，設備點檢、巡檢場景會分為前、中、后不同的團隊，點檢、巡檢是在前臺現場，中間有中控部門，主要去做工單的分發，后臺是工程師、技術專家。前臺人員會很多，巡點檢的人員上萬，中臺只有幾百人，后臺人更少一點，大模型在設備維修場景里面起到的作用是直接服務幾萬一線員工，尤其是現場員工，這是第一點，第二點企業業務業務擴張，但同時配備的前中后臺人員降低，人效明顯提升，這是關于業務收益怎么設定的問題。應用建設的時候要不要訓練，其實結論是很清楚的，如果預算很充足，就訓練基礎模型，一般情況下建議直接調用基礎上做應用建設。
關于應用建設中，如何提升準確率和安全合規。絕大部分業務場景下，大家對問答結果的準確性和安全合規的要求都很高，大模型本身天生有幻覺，有很多不可解釋的過程，我們不建議通過微調。目前比較有效的方案是，通過RAG技術實現。最后講一下大模型應用如何推廣。大模型技術在推廣中有很多阻力，其中很多一線員工擔心自己會被革掉，所以天然會抗拒，業務部門負責人也有這樣的問題，絕大部分大企業里面都會有地盤意識，這是很現實的問題，不僅僅在項目建設之后考量推廣的問題，更多在前期就應該把業務部門一起拉進來參與到建設過程中，參與到最后采納推廣過程中。
這些問題現在碰到的企業相對不是特別多，大部分在做試點，有些稍微有點意識的，相對比較傳統的企業這些問題特別明顯，發現一些部門和一線員工不配合，哪怕獲得了領導的支持也沒用。具體怎么解決，分成幾個層面：提高用戶接受度、設計可復用方案、構建大模型項目駕駛艙、塑造AI文化。
第一，領導站臺。高層領導在公開場合支持標桿項目，并予以肯定，強調為什么大模型項目對于公司如此之重要。第二，“雷鋒”傳遞。從業務部門視角，設計有感染力的故十，一定是有情感、有畫面干的故事，而非客觀、冷冰冰的說明。同時在外部找一些專家一起，也許會更好。第三，效果測量。定期披露標桿項目運行情況與業務收益，并公開予以激勵。項目的日活、月活等運行數據與業務收益同樣重要。第四，能力建設。建設培訓體系，確保業務部門具備基礎知識與技能。講一個案例，在組織內部找到雷鋒后，業務調研階段就要參與進來，同時把HR資源調動起來。HR作用非常重要，績效最直接，除了績效之外，做一些額外的激勵。據介紹，網易內部有一個比較好的制度是記工分，用工具過程中根據績效有一些額外的積分，積分會影響獎金，但事實拿到獎金覺得很有用，看上去很簡單粗暴但是很有用，但需要領導協調資源配合工作。在推的過程中比較好的經驗，在企業落的過程中看到比較好的效果。
像維修助手比較簡單，集團有集團的想法，子公司有子公司的想法，一線員工有一線員工的想法，怎么能夠把大家對于這個項目本身收益預期對齊，實現終端用戶的自身訴求。從技術實踐來講難度不是特別大，無非是平衡好各方訴求。最后，簡單介紹下愛分析。我們是一家為企業客戶提供數字化咨詢和技術落地的服務商，我們的核心能力更多是在AI和數據領域，當前最主要的是大模型應用建設，幫助企業提供項目規劃咨詢到技術落地。
愛分析對于企業的價值，更多的基于復雜場景的數字化建設，或者創新技術入大模型的應用建設，提供解決方案并落地實施。當前，企業數字化已經過了只采購軟件就能解決問題的階段，我們更多的是基于企業特定的需求制定解決方案，我們有大量的有實踐經驗的專家，在項目規劃階段，幫企業設定項目目標、實現路徑和方案，然后推動內部立項，再進行落地實施。以上是本次分享的全部內容，如需獲取專家完整版課件可掃碼領取。
?
愛分析創始人&CEO，畢業于清華大學，清華企業家協會成員，曾任投中集團CEO，擁有十余年中國股權投資與研究咨詢市場經驗，作為國內最早批產業數字化行業從業者和觀察者，對數字化領域有著獨到的見解和思考。注：點擊左下角“閱讀原文”，領取專家完整版實錄和分享課件。
