因為公眾號平臺更改了推送規則。記得點右下角的大拇指“贊”和紅心“推薦”。這樣每次新文章推送，就會第一時間出現在訂閱號列表里。
AI的發展正在從最初的大型AI供應商和超大規模數據中心擴展到企業。
許多企業開發人員正在利用帶有專有數據的預訓練基礎模型來重新訓練、優化和/或構建開源模型。然而，安全問題與本地數據中心基礎設施和/或云資源的成本相結合，推動了對替代解決方案的需求。
這為工作站創造了一個新的機會，這些系統可以以更合理的成本和靈活的形式彌合PC和服務器之間的性能差距。
為了解決這個問題，AMD發布了新的Ryzen Threadripper 9000系列，Threadripper 9970X和Threadripper 9980X。這款最新一代工作站處理器使桌面和桌面工作站能夠充分利用大語言模型、STEM應用程序和游戲開發方面的最新進展。
擁有32個內核和64個線程，Ryzen Threadripper 9970X在所有應用程序中都展示了強大的功能和可靠性。而具有64核和128線程的9980X則是該系列的主力，即使在運行CPU密集型模擬時也能提供熱/電源效率。隨著AI的不斷發展和個人對本地AI的需求上升，開發人員將從投資支持AI的開發人員系統中受益。
考慮到2499美元的適中價格和廣泛的適用性，Threadripper 9970X可能是開發人員的首選。Threadripper 9980X可以利用最緊張的多線程應用程序，價格更高，為4,999美元。Tirias Research為Threadripper 9970X和Threadripper 9980X系統構建了一個測試單元，成本約為4,900美元，不包括GPU和PC機箱。需要升級機箱和GPU以正確支持Threadripper系統的用戶可能需要額外投資1,300至3,000美元。
我們對這些處理器進行了測試，以測量幀生成、token生成、功率利用率和熱效率方面的性能。每個處理器都通過一系列CPU基準測試、本地Llama3項目和CPU密集型視頻游戲進行了測試。HWiNFO和MSI Afterburner用于記錄測試應用程序中未包含的指標。
基準性能
正如預期的那樣，64核/128線程Threadripper 9980X在CPU密集型基準測試上的表現優于32核/64線程Threadripper 9970X，包括Cinebench 2024多核、3Dmark的Time Spy和PugetBench for After Effects和Premiere Pro。在V-Ray 6測試中，Threadripper 9980X的性能幾乎是Threadripper 9970X的兩倍，證明了該平臺的可擴展性，該應用程序有效地利用了更高的核心/線程數。
然而，Threadripper 9970X在單核測試（如Cinebench和GeekBench）上的表現與9980X相似。在使用ONNX和OpenVINO的情況下，在PugetBench和GeekBench AI等基準測試中，它的表現甚至超過了9980X。
這表明，較低內核數的Threadripper 9970X不僅是一個成本較低的選擇，而且應該被視為針對較低內核/線程數進行優化的應用程序的更好選擇。
STEM和AI應用
從基準測試中可以看出，Threadripper 9980X在最苛刻的CPU應用程序中表現出色，而Threadripper 9970X提供了一種高效的替代方案，在不使用9980X所有64核/128線程的應用程序中提供了相當的性能和效率。
當對CPU進行Blender測試時，Threadripper 9980X的表現優于Threadripper 9970X，每次測試的得分幾乎是Threadripper 9970X的兩倍。使用Matlab R2025a， 9970X產生了與9980X幾乎相同的分數，圖形性能略有改善。
高核Threadripper處理器最顯著的好處之一是能夠在本地運行大語言模型，從而避免與AI云平臺相關的成本。兩個Threadrippers都測試了它們使用PyTorch使用Llama-3.1-8B-Instruct模型在本地運行AI和LLM的能力。
這是Tirias Research開發的一個新的基準度量標準，專門用于評估與本地AI應用相結合的最新工作站硬件功能。每個處理器在bfloat16和float16量化下對128個token和512個token上下文和生成長度進行了測試，批大小為1和4，使用32和64線程以每秒token為單位測量吞吐量，以秒為單位的平均完整響應延遲和以秒為單位的平均第一個token延遲。
更大的batch大小和上下文長度會導致更長的總響應延遲，以及吞吐量的略微降低。兩個Threadrippers在每次測試中都保持相似的性能和延遲，當使用float16而不是bfloat16時，性能略有提高。
每秒生成5到7個token表明每個Threadripper每秒能夠生成多個單詞，并且即使沒有GPU加速也可以以正常的閱讀速度流式傳輸文本。隨著處理多個高端GPU的附加能力，Threadripper平臺是本地AI開發的理想選擇。
工作站與云
雖然Threadripper工作站需要預付費用，但與基于云的服務(需要花費數千個工作小時)相比，開發人員訪問本地LLM開發環境的成本效益越來越高。包括機箱和GPU在內，Threadripper 9980X系統的預估前期投資為9700美元，而Threadripper 9970X系統的預估前期投資為7200美元。
再加上兩個處理器的350W功耗，假設每千瓦時的電費為0.15美元，那么每小時的額外電費為0.0525美元。
我們將其與來自ThunderCompute、Lambda和AWS的A100實例的平均成本進行了比較。ThunderCompute的按需A100 （40GB）服務提供了最具競爭力的價格，每GPU小時0.66美元。Lambda的Nvidia A100 （40GB）服務的定價為每GPU每小時1.29美元，而AWS的A100 p4d.24xlarge服務的價格最高，每個GPU每小時2.74美元。Tirias Research分析師Caiden McGregor表示：“雖然A100云實例是一種經濟實惠的選擇，但工程團隊可以在幾個季度內從Threadripper工作站中獲得成本效益，因為它具有運行非AI工作負載的額外靈活性和本地維護所有數據的安全性。”
游戲性能
因為開發者在高端電腦系統上花費了大量的時間，所以大多數開發者都對電子游戲有共同的興趣。雖然這些Threadripper工作站不是為游戲而設計的，但我們認為將它們置于游戲機中會很有趣。
為了驗證Threadripper能夠盡可能地發揮它的作用，我們使用具有CPU密集型要求的現代游戲目錄對系統進行了測試。MSI Afterburner和HWiNFO用于記錄每秒幀數、CPU溫度、熱極限、活動核數和封裝功率。所有游戲都被配置成最小化圖形處理和最大化CPU要求的功能。
此外，在可用的情況下使用內置性能測試。為了防止GPU出現瓶頸，所有與紋理相關的設置都被設置為最小值，分辨率為1920*1080。而與CPU相關的設置，如人群或交通密度，則被設置為最大值。兩款處理器都展示了強大的性能，其中9980X處理器可以實現更低的溫度和最高的功率效率，而9970X在所有游戲中都保持了相當或更好的幀生成。
即使使用業界性能最高的GPU， CPU仍然對核心游戲功能產生重大影響。然而，大多數游戲不是為64核系統設計的，這可能會導致9980X的延遲和性能效率降低。
其它
一個重要的注意事項是，這些Threadripper工作站在電源和散熱方面不是一般的工作站。
因此，需要液體冷卻器和高質量的熱膏來支持Threadripper處理器的高性能。
結論
自2017年首次推出該產品系列以來，Ryzen Threadripper處理器一直是山頭之王。最新的Ryzen Threadripper 9000系列處理器基于Zen 5處理器架構，在所有指標上都表現出卓越的性能，繼續樹立標準。
根據Tirias Research分析師Damian McGregor的說法，“Threadripper 9980X處理器在高核和線程密集型任務上表現出色，而Threadripper 9970X處理器是一個高效的小兄弟，在線程密集型較低的應用程序上表現相同或更高的性能。”
兩款Threadripper處理器在開發人員應用程序（包括Blender、Matlab、Adobe和Llama3）中都表現出出色的性能。雖然這兩款處理器都沒有針對游戲進行優化，但Threadripper 9000系列的強大功能，加上像Nvidia RTX 5090這樣的高性能GPU，即使在最高性能設置下也能保證穩定的幀率。
由此可見，Threadripper 9000系列工作站是高端游戲、本地AI和STEM項目的強大解決方案。開發人員將從Threadripper 9980X處理器獲得高核要求應用程序的最佳性能，而Threadripper 9970X處理器將以較低的價格提供均衡的體驗。
此外，與基于云的解決方案相比，這兩個Threadrippers都將以合理的價格為開發人員提供更高的靈活性和更高的數據安全性。
原文鏈接：
https://www.eetimes.com/amd-ryzen-threadripper-workstations-shred-everything-from-ai-to-gaming/
高端微信群介紹 | |
創業投資群 | AI、IOT、芯片創始人、投資人、分析師、券商 |
閃存群 | 覆蓋5000多位全球華人閃存、存儲芯片精英 |
云計算群 | 全閃存、軟件定義存儲SDS、超融合等公有云和私有云討論 |
AI芯片群 | 討論AI芯片和GPU、FPGA、CPU異構計算 |
5G群 | 物聯網、5G芯片討論 |
第三代半導體群 | 氮化鎵、碳化硅等化合物半導體討論 |
存儲芯片群 | DRAM、NAND、3D XPoint等各類存儲介質和主控討論 |
汽車電子群 | MCU、電源、傳感器等汽車電子討論 |
光電器件群 | 光通信、激光器、ToF、AR、VCSEL等光電器件討論 |
渠道群 | 存儲和芯片產品報價、行情、渠道、供應鏈 |
< 長按識別二維碼添加好友 >
加入上述群聊
帶你走進萬物存儲、萬物智能、
萬物互聯信息革命新時代
