萬物皆可“生成”：談談英偉達打算怎么靠生成式AI賺錢

過去1年內，英偉達的市值一直是媒體們關注的焦點：突破萬億、一夜間又漲了xx、打破記錄...前不久的英偉達GTC大會采訪期間，黃仁勛談到：“有人說光是賣芯片，很難賣到2.5萬億市值水平。我無法不贊同這個觀點。”“所以英偉達一定不是個芯片公司。”這是他的原話。

單從英偉達正在出售產品的角度來看，即便是硬件產品，芯片也的確并非英偉達唯一在賣的產品類型，板卡、超級計算機、交換機、機架和計算系統等等都是英偉達在推的產品；而且實際上英偉達的產品也遠不限定在硬件方面，各類加速庫、中間件、軟件、云服務甚至算得上是英偉達生態的核心組成部分...

我們總結今年GTC，黃仁勛發布的幾個核心產品包括Blackwell GPU及其系統，面向開發者提供Omniverse Cloud API，人形機器人Project GROOT項目，以及在我們看來本次產品發布最重要的NIM（NVIDIA Inference Microservice，英偉達推理微服務）。超過一半都不是硬件——NIM在我們看來還將是英偉達未來普及、鞏固自家AI生態的關鍵。

這篇文章，我們借著NIM來談談現階段英偉達眼中的生成式AI，及英偉達的生成式AI生意打算怎么做。

未來是“生成”的未來

黃仁勛在分析師問答會上提出了一個很有趣的想法。他說我們對于文本、圖像、視頻、聲音等等內容的理解，實現了對于它們的數字化。之所以生成式AI能夠與人進行文本和圖像的對話溝通，前提在于文本與圖像已經被數字化和理解。

“那還有什么是能夠實現數字化的？其實我們還數字化了很多東西，包括蛋白質、基因、腦波等等——只要我們理解其結構，或者從中抽象出特定的模式，能夠理解其內涵，就能做數字化。”黃仁勛說，“那么或許就能夠對它們做‘生成’了。這就是生成式AI革命。”換句話說，如果萬物皆可數字化（digitalized），那么萬物就可tokenized。

“很快會有個行業是專門生成token的。我知道這聽起來很奇怪。”他用第二次工業革命，即電力革命做類比，“很久之前的工業革命產生了一種新的業務模式，產生的東西也是看不見的，但我們后來還需要專門掏錢購買這樣的東西，單位是千瓦時，也就是電力。”和發電一樣，“我們未來會需要生成信息，生成token”，而且是深刻“融入到生活中（for a living）”。

從計算機行業的角度來看，以前我們的使用習慣一直是對已存在信息的“檢索/獲取（retrieval）”，一切都是預先做好的（pre-recorded），“寫入到了文件里面的”，“可能是圖像、視頻、聲音等等”。“就像我今天早上看的新聞，都是由人們提前寫好的。手機上彈出的廣告也是。”

“而未來則會是生成的。基于種子信息（seeds information），由上下文做加強”，“最終呈現給你的都是生成的”。“現在我們看手機，上面展示的每個（圖像）像素都是一種重新獲取（retrieve）行為。但未來，這些像素都會是生成的。”“大部分計算體驗都會是生成的”，“與你交互的大部分東西都會是生成的，因為它能夠理解你，理解上下文。”

生成的“token可以是化學、醫療、動畫、機器人、3D圖形”，“如果我們能夠生成文本的下一個token，那就能生成圖像、視頻、機械臂的下一個token。”黃仁勛說。其實用更通俗的話來說，現階段就是基于文生圖生成玩滑板的貓，或者讓機器人倒杯咖啡這類最終實現。只不過現在共識的實現方法是生成式AI。

無疑要達成黃仁勛眼中的這種未來，英偉達現在要做的就是持續推廣生成式AI，不僅要有Blackwell、GB200-NVL72這類能夠算力支撐的硬件，為開發者提供AI開發工具，還需要引導不理解如何將AI引入到生產力及企業流程中的個人和企業。這應該是形如NIM這類工具誕生的基礎。

讓生成式AI設計芯片？

英偉達其實一直很清楚，很多企業對AI是存在困惑的，尤其是怎么用，能達成何種效果之類的問題；更不用說對模型做優化，將必要的計算棧都搭建起來。所以黃仁勛說“我們想了個辦法”，“一種讓你能夠接收和操作軟件的辦法。軟件就放在一個數字盒子里。”“這個盒子就是NIM。”

在談NIM究竟是什么的問題之前，先聊一個英偉達自己內部已經在用的東西叫ChipNeMo。簡單來說，這是個懂得芯片設計的LLM大語言模型。跟它聊天，就能得到很多相關芯片設計的回答。

其實在去年GPT大火以后，有關用生成式AI來設計芯片的討論就時常冒出來。主打的就是不寫一行代碼，就靠聊、提需求，讓LLM寫出代碼。不過過去一年我們問了好些EDA企業，這么做是不是真的可靠。大部分EDA企業的態度都是，真正走向量產的芯片設計真要這么搞，基本是天方夜譚。

不過起碼表示LLM可以輔助芯片設計。英偉達首席科學家Bill Dally在分析師溝通會上說ChipNeMo在內部主要扮演3個角色。其一是讓初級水平的芯片設計師，在有問題的時候就直接問ChipNeMo，這樣不會浪費那些高級芯片設計的時間；其次是對bug報告做總結，因為硅工們寫的bug報告有時又長又復雜，而且經常只有本人能看懂，那么ChipNeMo此時就可以為旁人理解bug報告起到很大的幫助作用；最后，ChipNeMo的確能生成Verilog，不過一般英偉達不會這么去用...

這個ChipNeMo是怎么做出來的呢？首先以Llama 2 70b為基礎模型，放進NIM里面。“如果你此時問他們，CTL是什么。它給出的回答一般是一種常規知識儲備，不是我們需要的。”因為此時的模型就是個普通的通用基礎模型。英偉達要做的是告訴模型，在英偉達的語境中CTL是什么。之后再問它就能得到正確答案。

當然，要讓模型專門適配芯片設計，要做的事情不止這一點。如果你關注過我們之前對NVIDIA AI的報道，一定知道NeMo。準備好相關數據，基于NeMo服務來對基礎模型進行fine-tune, guardrail...具體的流程參見下圖。

對用戶來說，這其中三個核心組成部分，第一是要有個AI模型，以及能跑AI模型——這是英偉達要先打包給用戶的；第二，需要有這樣一個工具對模型做“修改”；第三是部署，不管是部署到DGX Cloud云上，還是部署在本地基礎設施。完成以后，就能把這東西打包帶走了。這就是NIM。

聽起來是不是頗有一種企業版Chat with RTX的感覺——Chat with RTX是面向個人用戶，可以一鍵安裝，然后加入本地數據，基于你電腦上的個人信息，與AI對話的應用。不過Chat with RTX的外部數據結合，用的是RAG（retrieval augmented generation），前不久我們還在文章里提過。

而且很巧的是，GTC期間，在一場面向分析師的問答會上，英偉達好幾名高層都認為，企業最初還不確定對AI投入多少的時候，都傾向于選擇RAG，因為這是企業自己應用生成式AI最簡單的方式。甚至有人提到，RAG對于早期的企業AI應用而言是個PoC——概念驗證。

“而今年人們會真的開始去打造有價值的AI產品，真正著眼在整體。”這仿佛就是NIM誕生的基礎，也是英偉達推GB200-NVL72這類硬件產品的基礎。換句話說，就是在英偉達看來，過了最早期的探索，企業逐漸要認真考慮用AI技術了，那就是時候給他們提供基礎設施、提供工具了。

有一種定位叫AI Foundry

這里把NIM再說得明確一些：英偉達給出一些LLM模型，其中有些是英偉達自己做的，有些是開源的，還有一些來自合作伙伴。企業客戶可以直接拿來用，而且可以基于自家內部數據，借助英偉達的工具，來fine-tune這些模型，真正讓模型為自己所用。形成像ChipNeMo這樣的工具。這個服務叫做NIM。

不過如果要說NIM的確切構成，實際還是比較復雜的，包括各種預訓練模型、及各種跑模型的依賴包，如CUDA, CuDNN, TensorRT-LLM, Triton Inference Server等等……上接AI API。這部分咱就不細說了，有興趣的去研究下英偉達的博客與文檔——不過從這些中間件，其實也能看出，英偉達要為企業解決模型優化之類的問題，而不單是提供和修改模型（當然關鍵也包括要賣跑在下面的硬件，和NVIDIA AI企業解決方案）。

爾后，企業可以建立很多個NIM，或者說很多個AI聊天機器人。某些工作是需要指派給不同的AI去分別完成的，不同的NIM可以配合工作。關于多個NIM間的協作，黃仁勛做了舉例說明，但我們沒能完全理解。不過框架大致就是這個樣子了。

對于擁有大量數據，但不知道該怎么用來搞AI的企業而言，NIM理論上會是個不錯的工具。因為NIM的價值之一，就是對企業專用的數據做出理解——構成專門的AI數據庫，然后進行“re-index”——re-index這個詞感覺用在這里特別合適。用戶就可以和這樣的AI對話了——它和ChatGPT有著很大不同。

這里提供給NIM的企業私有數據可以是多模態的，比如說PDF文檔。至于具體是什么樣的數據，比如說對于軟件團隊來說，可以是一堆平常寫的bug報告和總結。那么工程師就能和AI對談有關公司軟件的bug問題，不管是現在有多少bug，還是解決情況怎么樣等等。

黃仁勛在這里列舉了一個多NIM的例子。比如你作為公司軟件工程師，和這樣一個bug聊天AI對話以后覺得非常受挫，就可以去和另一個專職心理健康的AI繼續對話，接受安慰和心理輔導——后者也可以是基于NIM做出來的…

當然了，他舉這個例子應該純粹是為了談Hippocratic AI的LLM，配合NVIDIA ACE打造的醫療健康數字人的；不過多NIM協作大概就是這么個意思了。醫療健康也是英偉達這次談及的重點，本文就不做展開了。

如此一來，所有的企業都可以做出屬于自己的Copilot，屬于自己的對話AI——不管這個Copilot是面向企業內部，還是作為服務提供給客戶。黃仁勛在主題演講中宣布了不少NIM相關的首波企業合作，包括SAP, ServiceNow, Dell, Cohesity等。

值得一提的是，作為一種試用手段，英偉達還特別開放了ai.nvidia.com這么個網址，提供相對直觀的NIM試用。

在此期間，黃仁勛反復提到了英偉達作為“AI foundry”的設定，說法上是對于LLM，“并非創造，而是生產（not create it, but manufacture it）”，是為英偉達作為AI foundry的定位。“你去跑這些模型，規模化運行的時候，向我們支付的其實只是AI操作系統的錢。”黃仁勛說，“操作系統也就是NVIDIA AI Enterprise”，“非常劃算”…就差沒講“buy more, save more”了…

而AI foundry的本意，也在于讓企業客戶的AI模型用于生產環境。

GPU回歸“生成”的最初使命

最后談一談NIM的潛在可能性。我們對于NIM的第一眼認知是，這是英偉達普及、鞏固AI生態的產品。雖然這兩年我們一直在談AI，但各行各業對于AI，尤其是生成式AI的利用還非常早期。

就如前文談到的，即便是最前沿的電子科技企業，初期都還在用RAG做AI的PoC。可見AI的發展之路還很長。英偉達一方面要把AI的蛋糕真正做大，另一方面則要盡可能利用現有資源，來持續鞏固自己在AI領域的地位——不僅要降低企業用AI的門檻，同時借助與模型合作伙伴的合作，讓更多的AI資源為自己所用。

NIM顯然是肩負了這樣的職責的。雖然聽起來我們對NIM的定位似乎有些過于高估了。但我們可以等等看接下來英偉達對于NIM的推廣會是怎么樣。

回到最初談世界最終會像需求電力一樣，需求“生成token”的瘋狂說法——其實黃仁勛的這一說法或許仍然無法被大多數人所接受，尤其從邏輯上要理解“生成”什么，人們又如何像消費電力一樣消費“生成”內容的問題。這就只能交給時間去評斷了。但千行百業都真正開始用AI、生成式AI，這才是世界、個人最終全面步入AI的開端。

有個有關“生成”和英偉達自己的說法很有趣。“30年后的今天，我們又回到了最初的那個我們。”黃仁勛所說的“最初的”英偉達，是指最初做圖形渲染加速的英偉達。因為GPU曾經就是干“生成內容”這個活兒的。“我們生成了很多東西，就是計算機圖形。”

“我們現在要回到那里了。只不過現在用來‘生成’的計算機更大了，而且是為每個人‘生成’。”這還真是有關AI和圖形，相當浪漫主義的一種說法。