當你懷疑AI PC有沒有用時，已經有人用RTX AI PC賺錢了…

今年NVIDIA的GTC大會期間，我們一群分析師在討論說AI PC現在究竟在AI時代下扮演何種角色：是芯片廠生造的、用于促進PC銷量的宣傳用語，還是實實在在能夠惠及用戶體驗的技術？最后得出結論，援引某金融領域分析師的觀點：AI PC乃是整個產業鏈共同推進的一場陽謀。

在全球分析師采訪會上，有人問黃仁勛（NVIDIA CEO），NVIDIA在AI PC趨勢面前扮演何種角色。黃仁勛說：“能跑AI的PC基礎在于RTX，尤其是其中的Tensor Core。”這是NVIDIA眼中AI PC的硬件基礎。但更有趣的其實是軟件。

“第二，我們之前做的一件事情是讓Windows能跑CUDA。”黃仁勛特別提到CUDA對于WSL 2的支持。基于NVIDIA與微軟的合作，Windows平臺“有了WSL 2以后，PC用戶就能用NIM了，下載以后馬上就能跑。你就能跟你的PC對話，非常炫酷（crazy）。”

NIM（NVIDIA Inference Microservice）是這次GTC上，NVIDIA面向企業發布的重頭戲：前不久我們撰文探討過NVIDIA在NIM上的野心。簡單來說，NIM是為企業準備的一套工具集合，企業用它可以輕松打造屬于自己、專有的生成式AI——比如NVIDIA自己就用NIM搞了個輔助做芯片設計的聊天機器人，NVIDIA的硅工們可以直接和它對話。

這整套東西能搬到PC上。當然如此場景肯定是需要高端AI PC或筆記本了。當這樣的AI PC用于實際生產，而且確切為企業產生價值，我們還能說AI PC只是個宣傳用的概念嗎？

可能對很多個人用戶來說，暫時用不上NIM這么高端的東西。但在最近NVIDIA舉辦的一場AI PC品鑒會上，我們還是看到AI PC用于正兒八經的生產力的現狀和潛力：尤其當我們還在說Stable Diffusion生圖沒什么用的時候，已經有藝術創作者拿他賺錢，有大品牌用它做商業宣傳，有先驅開發者基于生成式AI定義工作流了...

那么這種時候，我們就不得不正視AI PC，無論它是不是整個產業鏈的陽謀...

“快沒有意義”

品鑒會上，吐司/Tensor.Art社區發布《個人用戶玩轉Stable Diffusion的GPU配置推薦》，主要是對不同GeForce RTX40系顯卡做AI benchmark，包括SD 1.5, SDXL等項目。基于測試，給予正兒八經想用Stable Diffusion干活兒的用戶以參考，應該選擇什么型號的顯卡。

吐司/Tensor.Art在活動上披露了部分數據，比如我們印象比較深刻的RTX 4090 D相比于RTX 4060 8GB，SD1.5的性能差距在4.5倍左右，基本符合我們對于這兩款顯卡配置資源差別的認知。

比較有趣的一則對比是GeForce RTX 4090筆記本電腦GPU與Intel酷睿Ultra處理器核顯（128EU Xe-LPG），前者基于TensorRT推理加速，后者基于OpenVINO推理加速，雙方Stable Diffusion 1.5推理性能差距達到了27+倍。（如下圖）

基于雙方的堆料差異，我們認為這個結果并不算出乎意料，畢竟今年CPU廠商這邊集合不同處理器的理論AI算力約在10-45 TOPS，而GeForce RTX 40系GPU的AI 算力在200-1300 TOPS區間。

沈振宇（吐司/Tensor.Art創始人）說除了GPU硬件層面的差別，內存訪問帶寬、TensorRT軟件層面的成熟度也有很大關系。（后兩個變量挺值得各位技術愛好者去深究一下的，尤其TensorRT和OpenVINO可能存在多少差距...）

另外，體現算力的數字還包括在ComfyUI（Stable Diffusion）下，RTX 4090 D能實現8張圖/秒的出圖速度；用Stream Diffusion則能夠達成120fps的出圖速率等等...

基于算力差異，PC領域內，NVIDIA給自己的定位還是很明晰：是相比于“非RTX AI PC”，能夠執行重量級AI需求的RTX AI PC。這聽起來和早年核顯、獨顯玩游戲的邏輯還是類似的；不過其內在，尤其生態層面會比純圖形GPU時代更復雜。

“算力首先決定的是應用能跑多快。”NVIDIA產品經理強調，“但只是快其實沒有意義。”“因為生產力必須可控，才能生成足夠高質量的內容和資產。可控的能力，決定了生產力水平。”“我們有強大的生態支持。開發者和尖端用戶基于我們的硬件，打造出非常具有生產力的工作流。這其實才是我們除了算力之外最重要的優勢。”

有沒有感覺這番獨白相當的凡爾賽？其實說句大白話就是：我們生態支持好。剖開來看，可以做兩個層面的理解。首先是NVIDIA AI從硬件底層到應用層全棧的生態構建；其次是生態的成熟度，或者說AI應用的可用性和生產力價值。注意，此處所說的主要是AI PC。后面咱詳細談一談。

對于生產力，AI PC有價值？

一般呈現給用戶的AI應用，不管是聊天機器人，還是視頻會議的眼神注視功能，其下方都有一大堆層級結構。這個結構的最下層是芯片和硬件，往上層去就會有CUDA這樣的系統軟件層、中間件和庫，再往上有TensorRT、AI模型，最上層就是開發者開發的AI應用。

詳情參見這里

這是簡化過的AI推理全棧結構；AI訓練會相對更復雜一些——我們之前都撰文探討過，本文不做贅述。在訓練和推理的兩套框架內，NVIDIA還真是什么都做。從預訓練模型，到這個庫、那個框架的，還有微服務，以及親自做了一堆應用層的東西——雖然絕大部分還是以API和開發工具的形式給到開發者。所以叫“端到端”，這在整個行業應該說都相當罕見。

雖然“端到端”的這種優勢，主要還是體現在數據中心AI領域，不過這就是我們日常所說具備碾壓實力、其他AI芯片企業難以挑戰的CUDA生態。RTX AI PC是其中一部分：在GPU普惠到通用與AI加速時，構建了十多年的CUDA生態現在開始在PC平臺發力。

其實NVIDIA產品經理說“快沒有意義”的凡爾賽，本身并不是光靠硬件堆料達成的。各種Diffusion文生圖模型的快速出圖，其中就飽含了軟件生態層面這些年來的完善和推進。所以“快”本身也是生態成熟度高的結果。

有關第二個方面，基于這一生態的AI應用問題，也就是生態的成熟度——應用的數量和質量，開發者及用戶粘性是真正反映這一全棧生態的發展水平的。NVIDIA給到的數據是，RTX AI生態內有“超過1億用戶、500款RTX 應用和游戲”，“其中與生產力相關的應用超過110款”。

比如AI繪畫，典型如Stable Diffusion；AI平面設計，AI技術引入到Adobe, Topaz全家桶等軟件，涵蓋摳圖、降噪、超分等特性；AI視頻編輯，Pr, Ae, 達芬奇做對象遮罩、場景檢測、對象追蹤等；AI 3D創作，用于3D渲染器的降噪，實時渲染器的DLSS...；還有各種視頻會議與直播AI增強、視頻超分與HDR效果加強等~

可見NVIDIA對于RTX AI PC的關鍵定位非常明確：生產力。換句話說，這東西是能產生實際價值的。以Stable Diffusion為例，NVIDIA強調RTX AI PC是“使用Stable Diffusion的最具生產力工具”。

現場展示用于建筑設計的工具，名為“即致AI”，模型是自研的；隨意在左邊的畫布上畫兩筆，右側就有實時的建筑效果圖生成；而且可以切換各種不同風格…

比如在室內與建筑設計領域，“快”的價值在于讓設計師在圖上勾勒幾筆，AI模型就能立刻生成室內設計草圖，或者建筑設計用于推銷的前期方案。現場做demo演示的前沿建筑設計師、艾哎集瑟科技聯合創始人言蕭說，“很多業主并不清楚自己需要的效果，過去我們會去網上找很多意向圖，然后再花時間去建模；業主推翻，我們再改...”

以前“從手繪到建模、渲染、打光，進3DMax, Vray這樣的渲染器，出圖至少要1-2天。”“現在能快速出圖，跟業主的溝通也就加速了。”設計實時出圖、快速迭代，實際上就已經是AI PC產生商業價值的某種體現了。

不過在NVIDIA看來，“真正將Stable Diffusion用于生產力的用戶，需要更復雜的工作流，需要更復雜的軟件支持。”NVIDIA描繪RTX AI“支持最先進的SD工作流”，PPT中列舉了一些詞條：LoRA, ControlNet, 微調, AnimateDiff等。這里的“SD工作流”體現的應該就是NVIDIA強調的生產力的“可控”。

已經有人用Stable Diffusion和AI PC賺錢了

我們在活動現場和數字藝術家 & 策展人的土豆人Tudou_man 聊了聊——他借助Midjourney, Stable Diffusion, Stable Video Diffusion, Deforum等工具，為包括麥當勞、奔馳、雅詩蘭黛、聯想等品牌制作宣傳概念圖與視頻。

可以說土豆人Tudou_man就是個典型的AI數字藝術家，他創辦工作室的主要業務方向全都著眼于AI。在給我們展示商業作品時，他說以前一年做2-3個品牌的合作就已經是極限了，還需要跨團隊合作；現在1-2個人，1年時間能就能和20個品牌合作。

像上面這張上海武康大樓戴圍巾的平面作品，他的AI創作流程大致是這樣的：首先去現場實拍與采集；再藉由Midjourney之類的工具去嘗試生成建筑戴圍巾的素材——完成“調性和基礎材質引導”；再通過Photoshop執行基礎形象拼接；

隨后進入到Stable Diffusion工作流，進行成百上千次的結果迭代。迭代過程包括“修改提示詞、圖片引導、ControlNet引導”（*  TensorRT新版現在也支持ControlNet加速了），“中間結果可能還需要進入Photoshop做手動調整”。

這工作流，還真是端云AI結合的典型...... 而“傳統的創作過程涵蓋了創意發想、草圖、討論，到小稿、精修、完稿等等一系列流程。”“有了AI工具之后，這個流程就變成了想法、結果、結果、結果、結果...”“1000遍的結果。”這就是創作工作流的顛覆了。平面作品制作周期大約在兩周左右——土豆人Tudou_man說這已經是個慢工出細活兒的過程了。

土豆人Tudou_man作品：左，流光若夢（for Mercedez Benz）；右，復寫苔原（概念創作，旨在表達AIGC未來的內容產生會像青苔一樣覆蓋整個世界）

視頻方面，在Sora這類逐漸實現了physically accurate/stable的模型普及以前，現階段AI制作的視頻還是具備很明確的AI不穩定性、逐幀千變萬化的內容特點（似乎也成為了一種創作風格）。不過似乎品牌商現如今也很贊許這種風格。土豆人Tudou_man給我們展示為奔馳新款車型創作“流光若夢”的視頻作品，總共15秒。

這個視頻作品的制作“進行了600輪迭代”，“將其中最有價值的片段挑選出來重新剪輯”，“還專門為這款車訓練了LoRA的模型，保證相對穩定性。”制作周期大約3周到1個月。土豆人Tudou_man說，工作室的底層硬件是多臺RTX 4090并行工作。

Simon阿文作品：將電影《低俗小說》做AI風格化處理，包括雕塑風、皮影戲風格等…

除了土豆人Tudou_man的例子，還有活動現場的Blender藝術家Simon阿文很早就用Disco Diffusion畫貼圖，用于3D模型；到后續直接借助AI轉繪，來轉換場景風格，不用再借助AI貼圖；以及將經典電影場景，借助ControlNet和AnimateDiff做風格轉換；甚至還有像IPAdapter這樣的工具，不需要再藉由LoRA做訓練，輸入一張圖，模型就能理解圖片風格...

這些受限于篇幅就略過不做詳談了。

不過上述案例基本串聯起了NVIDIA PPT中提到“支持最先進的SD工作流”的主要關鍵詞。NVIDIA之所以有底氣說，只有NVIDIA做到了AI PC的生產力“可控”，以及高質量的生產力，就在于CUDA與NVIDIA AI生態的高度成熟，目前還是其他競爭對手難以比擬的。所以絕大部分需求高算力的AI應用，開發之初著眼的原生硬件和平臺就是NVIDIA GPU和AI平臺。

這是幾名參與活動的AI藝術家，都提到的用GeForce RTX顯卡跑AI應用、做創作在算力之外，“更穩定”的根源。

“好的生產力，需要強大的生態支持。”NVIDIA產品經理說，“我們剛才看到的實時繪畫、肖像生成等背后所有的軟件、工作流，都能夠無縫運行在CUDA和RTX AI生態上。這個生態在行業中是獨此一家的。”

簡單來說，即便看起來只是任意拍張照，后結合證件照模板，就能立刻生成個人的“影棚級”證件照這樣一個簡單的AI應用，其下層都對應了復雜且成熟的軟件層級，對AI模型開發者而言則意味著成熟的開發生態...現如今的RTX AI PC也就不是一夕之功了。

AI肖像模型InstantID展示，目前在Github拿到9.8k stars，模型作者：王浩帆

現在還只是個開始，AI PC會深入到工作流

NVIDIA曾在不同場合表達過，早在2018年為Turing架構GPU加入Tensor Core之時，那時搭載RTX顯卡的PC就已經是AI PC了。因為最初用在游戲里的DLSS技術，其中就有AI模型推理的過程；Tensor core是專用的AI加速單元。

不單是DLSS，那時Transformer還沒有現在這么火，各類網絡結構都還爭相發展之時；當時就“已經有很多設計師、藝術家用AI來輔助工作”，CV領域很流行的AI語義分割、圖片識別、對象分類就已經在發揮作用了。前文提到Adobe、Autodesk等的商用工具其時也已經在集成不同的AI特性。

而生成式AI是在此基礎上“更進一步”“提供全新的可能”，“超出原有工具的能力之外”。就像土豆人Tudou_man提到從傳統工作流到Stable Diffusion創作“想法→結果→結果→結果→…”的轉變。

很自然的，和NVIDIA合作了好幾年的火星時代在這次活動上發布了《NVIDIA TensorRT Stable Diffusion創作加速指南》，著力于讓更多創作者能夠借助生成式AI來實現“商業創意落地”，約等于零基礎學Stable Diffusion以及TensorRT加速（據說有了TensorRT加速，現在上課兩小時能講4、5個設計案例，以前撐死講3個…）。

這本指南具體到怎么用Stable Diffusion做海報設計、電商設計、插畫設計和室內設計——看看，我們還在談論SD究竟有什么用的時候，人家都拿來做“商業落地”了。

從NVIDIA的角度來看，這屬于AI PC商用的配套周邊。火星時代的教研老師說現階段Stable Diffusion在某些相對復雜的設計領域，還只能用來產生效果圖。就像前文提到建筑設計的前期創意方案。

生成式AI和AI PC現階段要深度參與設計行業更多階段，“后面（的步驟）暫時有難度”，但“AI交互工作流的影響程度在不斷加深”，“我相信未來我們只需要負責創意和想法，AI就能夠完成其他的事情。”“除了我們列舉的這幾個商業場景，在整個CG領域，還有很多可以被AI加速的，比如工業設計…”

感覺NVIDIA對自家RTX AI PC的定位還是非常明確：高性能需求的娛樂、高性能需求的工作——這本來就是GeForce RTX顯卡以往圖形渲染時代的定位，只不過現在特別強調了AI加速屬性。后者與前者的差異在于，AI可是NVIDIA占盡生態優勢的絕對主場。

最后還是引用今年GTC 黃仁勛在分析師溝通會上提到的一個有趣觀點：如果說萬物皆可數字化（digitalized），那么萬物就都可token化（tokenized）——token是生成式AI常用的一個術語。與ChatGPT或者Llama 2對話時，它們生成的詞就可以認為是一個個token。

除了文本、圖像之外，“其實我們還數字化了很多東西，包括蛋白質、基因、腦波等等——只要我們理解其結構，或者從中抽象出特定的模式，能夠理解其內涵，就能做數字化。”黃仁勛說，“那么或許就能夠對它們做‘生成’了。這就是生成式AI革命。”

生成的“token可以是化學、醫療、動畫、機器人、3D圖形”，“如果我們能夠生成文本的下一個token，那就能生成圖像、視頻、機械臂的下一個token。”所以機械臂能在工業領域智能決策自己該怎么做。則原本那些需要由人類預先編碼錄入好，再去獲取的模式就會被取代。他甚至認為，會有個特定的行業是專門生成token的，就像第二次工業革命以后的發電廠一樣。

這個說法聽起來還相當瘋狂，但我們引用這段話的意思是，雖然這次NVIDIA列舉的RTX AI影響范疇主要在圖形、圖像、設計領域，但隨AI PC深入發展，AI深入到工作流更多步驟中，AI也將橫向擴展至各行各業。

AI寫代碼已經是日常，視頻創作是下一波熱點，醫療領域藥物發現已經在全面普及生成式AI…這些分支應用都會有跑在AI PC上的組成部分：就好像文首提到企業用NIM做個芯片設計助手，跑在員工的PC本地。

對于不同行業的AI潮流來襲，我們更多應該抱持的是接納、擁抱的心態。就像土豆人Tudou_man和Simon阿文說的，最初見到生成式AI的能力很震驚、很焦慮，于是成為“第一波被AI打倒的人”，“打不過就加入”，去“發現變化、適應變化”。

最后的最后，簡略更新本次AI PC品鑒會的另外幾個發布：

• ChatRTX（支持RAG的本地聊天機器人）新增對于中文大語言模型ChatGLM3-6B的支持；新增對于CLIP模型的支持——基于文本對話就能進行本地圖片檢索；而且現在可以直接用語音輸入（支持Whisper模型）。
• NVIDIA ACE（游戲NPC能和玩家直接語音對話的技術）展示了一個新的demo（名為Convert Protocol）。這次的demo相比此前拉面店demo，有著更完整的解謎邏輯，基于與多個NPC對話及游戲中的線索完成解謎…關注電子工程專輯微信視頻號，我們會對該demo做簡單展示…
• 另外，好像每次活動NVIDIA都要強調，Gaming仍是他們持續發力的業務，所以DLSS也是每次必展示的，近期主打的是支持DLSS 3.5光線重建的游戲。
• 生成式AI與圖形渲染/游戲相交的，還有個很熱門的技術RTX Remix，用于DX8/DX9的老游戲MOD制作，可以給老游戲加上光線追蹤、DLSS；生成式AI主要體現在能夠基于原游戲建模和貼圖生成高分辨率的材質…