英偉達 (NVDA-US) 執行長黃仁勛日前受邀出席史丹佛大學課程“CS153：尖端系統”，與學生對談運算產業的未來走向。他在演講中拋出一個核心論點：外界普遍把 AI 視為電腦里的一項新應用，例如辨識影像、生成文字、協助寫程式，但這樣的理解已經過于狹隘。
根據黃仁勛，真正發生的變化，是從芯片、網絡、儲存設備到數據中心與軟件開發模式，整個運算體系都正圍繞 AI 重新打造。他將此稱為 IBM System/360 問世以來，運算產業首次真正意義上的“重新發明”。
黃仁勛指出，過去數十年的電腦運作邏輯，本質上是程式設計師寫好程式碼、編譯器轉成二進位檔、處理器按固定指令執行，即便互聯網、云端運算與行動裝置陸續問世，也未曾真正撼動這套底層邏輯。
然而，神經網絡的出現打破了這個模式：機器不再單純執行人類寫死的規則，而是從數據中學習結構，依當下情境即時生成答案、影像、動作什至程式碼。
黃仁勛認為，“生成式”三個字不該只被理解為生成內容。模型同時也在生成中間思考過程、工具呼叫指令、任務規劃與行動序列，并能持續觀察環境、調用其他軟件、檢視執行結果。
換句話說，運算正從“一次性回應需求”轉向“持續不斷工作”。
以自駕車為例，車輛無法從數據庫里調出一段預錄好的轉向動作，必須即時判讀道路、行人與周遭狀況并做出決策，這也是黃仁勛認為未來幾乎所有能移動的機器都將逐步具備“機器人”特性的原因。
摩爾定律放緩后，系統級協同設計成為提升運算效能的關鍵
隨著運算模式轉向 AI，硬件發展已無法單靠延續傳統芯片架構來提升效能。黃仁勛多次指出，未來的競爭核心在于“協同設計”，也就是讓演算法、AI 模型、編譯器、芯片、互連技術、網絡、儲存設備以及數據中心等各個環節，圍繞相同的工作負載進行整體最佳化。
這項理念其實可追溯至早期 RISC 架構的設計哲學，當時便強調編譯器與處理器必須相互配合，而非各自獨立運作。
進入 AI 時代后，協同設計的范圍進一步擴大，不再局限于單一芯片，而是涵蓋 CPU、GPU、交換芯片、高速互連、網絡與儲存系統，打造完整的 AI 運算平臺。
背后原因在于，無論是圖形渲染、分子動力學、量子化學、流體模擬，或是深度學習訓練，都屬于高度平行化且運算量龐大的工作，僅依靠通用處理器已難以兼顧效率與擴充性。
隨著摩爾定律帶來的效能提升逐漸放緩，產業開始通過系統架構創新，重新設計平行運算、數據流與通訊方式，以持續推升整體運算能力。
黃仁勛表示，通過跨軟硬件、跨系統層級的整合優化，英偉達在過去十年間已讓部分 AI 工作負載的運算能力提升約 100 萬倍。
不過，這項數據反映的是整體系統效能的進步，而非單一 GPU 性能的大幅躍升。也因此，在后摩爾定律時代，市場競爭的焦點已從“哪顆芯片速度最快”，逐漸轉向“哪一套完整運算系統能以最高效率完成實際 AI 工作負載”。
別只盯著 MFU，更重要的是系統真正產出了多少 AI 價值
課堂討論中，有學生提到大型 AI 叢集常用的指標模型浮點運算利用率（MFU，Model FLOPs Utilization）。
一般認為，MFU 越高代表 GPU 資源利用越充分，昂貴的運算設備沒有被閑置。然而，黃仁勛認為，若過度依賴這項指標，反而可能對系統效能產生誤判。
他指出，大型 AI 運算平臺的效能并非只取決于 GPU 算力，還同時受到顯示存儲器頻寬、存儲器容量、網絡互連以及儲存系統等多項因素影響。任何一個環節都可能成為瓶頸，因此系統設計通常會在部分資源上預留余裕，以避免關鍵流程因單一瓶頸而拖慢整體運算。
換言之，即使部分 GPU 在某些時刻沒有滿載運作，也不代表系統效率低落。若一味追求更高的 MFU、刻意壓縮資源余量，反而可能導致瓶頸放大，使整體任務耗時更長。
這種情況在 AI 推理階段尤其明顯。大型語言模型每生成一個 Token，都必須持續讀取模型權重與上下文資訊，因此真正限制推理速度的，往往不是 GPU 的峰值浮點運算能力，而是多顆芯片共同提供的存儲器頻寬。
也因此，一套 MFU 并不特別高的系統，仍可能憑借更高的頻寬效率與更低的能耗，在相同時間內完成更多推理工作。
黃仁勛因此主張，評估 AI 基礎設施時，不應只關注系統擁有多少 FLOPS，而應衡量它在特定能耗下能產生多少有價值的 AI 成果。
即使以“每瓦可生成的 Token 數”作為指標仍無法完全反映不同 Token 的價值差異，但至少比單純追求硬件利用率，更能貼近實際業務效益。
對 AI 系統而言，真正重要的不是設備是否滿載，而是能否以更快、更有效率的方式完成目標工作。
從 Hopper 到 Feynman：英偉達每一代架構都瞄準下一波 AI 運算需求
黃仁勛表示，英偉達每一代 GPU 架構的設計理念，都是提前因應下一階段的 AI 運算需求，而非只解決當前瓶頸。 Hopper 主要鎖定大型 AI 模型預訓練，在市場仍未出現數十億美元級 AI 超級電腦前，就已開始布局相關系統。
隨著 AI 產業重心逐漸從訓練轉向推理，Grace Blackwell NVLink 72 則通過 72 顆 GPU 組成機架級系統，利用高速互連提升存儲器頻寬，以加速大型語言模型推理與 Token 生成。黃仁勛指出，相較前一代架構，其相關工作負載效能提升約 50 倍，遠高于摩爾定律可帶來的增幅。
下一代 Vera Rubin 則瞄準 AI 代理應用。由于代理需要長期記憶、工作記憶及大量工具調用，因此除了 GPU 外，CPU、儲存與高速互連也必須同步最佳化，以降低等待時間、提升整體效率。
更長遠來看，代號 Feynman 的架構將支援由多個 AI 代理、子代理及各類工具組成的“代理群”。黃仁勛強調，英偉達的產品藍圖并非單純追求硬件升級，而是先預測下一代 AI 軟件的運作模式，再據此打造對應的運算平臺。
開放模型的價值，不只是打造聊天機器人
黃仁勛認為，開放模型（Open Model）的意義不僅是發展聊天機器人，更是讓不同語言、產業與研究領域都能擁有可修改、可微調的 AI 基礎模型。由于許多利基市場規模有限，商業閉源模型未必會投入資源，因此開放模型能加速各領域的 AI 創新。
他指出，未來 AI 也將超越自然語言，延伸至生物醫學、化學、氣候科學、自動駕駛及機器人等領域，這些應用都需要專屬的模型架構與訓練方式，而非直接套用大型語言模型。
為此，英偉達已推出 Nemotron、BioNeMo、Alpamayo、GR00T 及氣候模型等多項基礎模型，協助建立各領域的 AI 生態。
黃仁勛也強調，未來 AI 將結合語言推理能力與世界模型（World Model），讓系統不僅能辨識物體，更能理解環境、推理因果并自主決策，例如提升自動駕駛的安全性。
此外，他認為開放模型也有助于安全研究，讓更多研究人員能檢驗模型行為、發現漏洞，并建立更有效的 AI 防御機制，而非讓攻防競賽局限于少數封閉模型之間。
AI 應融入所有學科，但基礎能力依然不可取代
談到 AI 教育，黃仁勛認為，AI 不應被視為一門獨立課程，而應成為所有學科的學習工具，協助學生閱讀論文、查找資料、撰寫程式、進行實驗與解決問題。
不過，他強調，AI 越能快速提供答案，人類越需要扎實的基本功，包括數學、第一性原理、電腦架構與工程思維，才能判斷 AI 輸出的正確性，理解系統為何成功或失敗。
黃仁勛也透露，英偉達內部已廣泛使用 Anthropic、OpenAI 等公司的 AI 模型，幾乎所有工程師都在 AI 代理的協助下工作。
他認為，未來教育將與職場更加接軌，AI 的角色不是取代人的思考，而是減少重復性工作，讓人們將更多時間投入分析、判斷與創新。
AI 工廠時代，需要重新思考算力基礎設施
黃仁勛指出，AI 時代的挑戰不只是芯片不足，更在于現有的預算與資源管理模式，難以支撐大規模集中運算。傳統由各院系各自建置小型算力資源的方式，已無法滿足 AI 訓練與推理對大型運算平臺的需求。
他認為，AI 運算具有規模經濟，研究團隊雖然平時不一定需要大量算力，但在關鍵階段必須能快速調度龐大資源，因此更適合建立校園級 AI 超級電腦或共享云端算力平臺。
黃仁勛更建議，像史丹佛大學等研究機構可投入大型預算建置公共 AI 算力基礎設施，讓所有研究人員都能共享資源。他強調，AI 時代的核心課題已不只是采購更多硬件，而是重新設計預算分配、治理模式與資源共享機制。
能源將成 AI 時代的核心限制，而非次要因素
黃仁勛指出，隨著 AI 從按需運算走向全天候運作的生成式 AI 與代理，未來運算所需的能源將大幅增加，能源供應將成為 AI 發展的重要限制，而非邊緣議題。
他表示，提升能源效率是首要任務，通過模型、芯片、互連與散熱的協同設計，在相同耗電量下完成更多 AI 運算。以 Blackwell 平臺為例，其每瓦可生成的 Token 數較前代提升約 50 倍，展現系統架構創新對能效的提升。
另一方面，黃仁勛也認為，AI 帶來的龐大電力需求將加速太陽能、核能等能源發展，以及電網升級投資。未來 AI 的發展速度，不僅取決于芯片效能，更將受到能源效率、發電能力與電網建設等基礎設施共同影響。
黃仁勛：AI 風險應理性看待，而非過度神化
談到 AI 風險，黃仁勛認為，不應將 GPU 與核武等大規模殺傷性武器相提并論，也不贊同將 AI 發展描述為難以預測的“奇點”事件。
他指出，GPU 早已廣泛應用于游戲、醫療、科學研究、物流與工業等領域，本質上是一種通用運算基礎設施，若政策建立在錯誤類比之上，恐導致偏離現實的監管方向。
不過，黃仁勛并未否認 AI 帶來的風險，而是主張通過開放研究、工程設計、安全機制及市場競爭，逐步降低潛在威脅。
他強調，AI 發展應秉持“理性樂觀”的態度，既不過度神化技術，也不因擔憂風險而停止創新，唯有維持開放且具競爭力的 AI 生態，才能讓更多人共享 AI 帶來的成果。
從失敗中建立戰略：觀察現象，再回歸第一性原理
黃仁勛在訪談最后回顧英偉達過去的兩次重大挫折。他表示，早期圖形產品在曲面處理、Z-buffer、紋理映射等關鍵技術選擇上曾犯下錯誤，但這些失敗讓團隊學會如何判斷市場、控制資源并調整方向，也成為日后建立戰略能力的重要經驗。
另一個案例是手機芯片業務。英偉達曾投入大量資源布局行動市場，規模一度達到 10 億美元，但在 3G 轉向 4G 時，由于缺乏基頻技術優勢，最終退出手機芯片市場。黃仁勛坦言，當時應更早看清手機產業的核心價值并非單純來自圖形處理能力。
不過，這段經歷累積的低功耗與高效率技術，后來轉化為機器人運算平臺的重要基礎，延續至今日的 Thor 架構。
黃仁勛強調，成功不能替過去錯誤的判斷辯護，真正重要的是從失敗中修正認知。
他認為，制定戰略的關鍵不是精準預測未來，而是先觀察現象，再回到第一性原理分析趨勢，判斷哪些事情必然發生、哪些可能發生，并在前進過程中保留調整空間。真正有效的戰略，是在不確定環境中持續更新判斷，讓每一步行動都累積下一階段的選擇權。
