為什么存儲(chǔ)系統(tǒng)的性能對(duì)AI工作負(fù)載至關(guān)重要？

關(guān)注美光 獲取動(dòng)態(tài)

數(shù)據(jù)是各種現(xiàn)代企業(yè)的生命線，而數(shù)據(jù)存儲(chǔ)、訪問(wèn)與管理策略對(duì)企業(yè)的生產(chǎn)力、盈利能力以及競(jìng)爭(zhēng)力會(huì)產(chǎn)生顯著影響。隨著人工智能（AI）的興起，各行各業(yè)都在經(jīng)歷變革，企業(yè)不得不重新思考如何利用數(shù)據(jù)來(lái)加速創(chuàng)新和增長(zhǎng)。然而，AI訓(xùn)練和推理對(duì)數(shù)據(jù)管理和存儲(chǔ)提出了獨(dú)特的挑戰(zhàn)，因?yàn)樗鼈冃枰幚睚嫶蟮臄?shù)據(jù)，同時(shí)要求高性能、可擴(kuò)展性和高可用性。

存儲(chǔ)系統(tǒng)的性能各異，受多種因素影響。在這篇博客文章中，我們將探討影響存儲(chǔ)系統(tǒng)在AI領(lǐng)域的表現(xiàn)的幾大因素，并重點(diǎn)分析所選用的基礎(chǔ)存儲(chǔ)介質(zhì)將如何影響這些性能因素。

AI工作負(fù)載具有數(shù)據(jù)密集和計(jì)算密集的雙重特性，這意味著它們需要高速、低延遲地處理大量數(shù)據(jù)。存儲(chǔ)在支持AI工作負(fù)載高效且有效地訪問(wèn)、攝取、處理和存儲(chǔ)數(shù)據(jù)方面發(fā)揮著關(guān)鍵作用。典型AI工作負(fù)載對(duì)存儲(chǔ)要求產(chǎn)生影響的幾個(gè)關(guān)鍵屬性包括：

·數(shù)據(jù)多樣性：AI工作負(fù)載需要從多個(gè)來(lái)源訪問(wèn)數(shù)據(jù)，數(shù)據(jù)格式包括結(jié)構(gòu)化、非結(jié)構(gòu)化和半結(jié)構(gòu)化，同時(shí)這些數(shù)據(jù)位于不同的位置（如本地、云端或邊緣設(shè)備）。存儲(chǔ)解決方案需要確保在不同環(huán)境和平臺(tái)之間實(shí)現(xiàn)快速且可靠的數(shù)據(jù)訪問(wèn)和傳輸。

·數(shù)據(jù)速度：AI工作負(fù)載需要實(shí)時(shí)或近實(shí)時(shí)地處理數(shù)據(jù)。存儲(chǔ)解決方案需要確保在數(shù)據(jù)攝取、處理和分析過(guò)程中，實(shí)現(xiàn)高吞吐量、低延遲，以及穩(wěn)定一致的性能。

·數(shù)據(jù)量：由于AI模型越來(lái)越復(fù)雜、準(zhǔn)確性越來(lái)越高，GPU集群計(jì)算能力不斷增長(zhǎng)，其存儲(chǔ)解決方案也需要提供靈活且可擴(kuò)展的容量和性能。

·數(shù)據(jù)可靠性和可用性：AI工作負(fù)載必須確保數(shù)據(jù)的完整性、安全性以及非常高的可用性，尤其是在與大型GPU集群相連時(shí)，這些集群不能容忍數(shù)據(jù)訪問(wèn)發(fā)生中斷，因此相應(yīng)的要求也越高。

存儲(chǔ)系統(tǒng)性能并非單一指標(biāo)，而是多個(gè)因素的組合，取決于數(shù)據(jù)、應(yīng)用程序和數(shù)據(jù)中心基礎(chǔ)設(shè)施的特性和要求。其中包括以下幾大重要因素：

·吞吐量：從存儲(chǔ)系統(tǒng)到網(wǎng)絡(luò)或主機(jī)，以及從網(wǎng)絡(luò)或主機(jī)到存儲(chǔ)系統(tǒng)的數(shù)據(jù)傳輸速率。提高吞吐量可以改善系統(tǒng)性能，方法是增加帶寬以及減少數(shù)據(jù)流中的擁塞和瓶頸。吞吐量通常受網(wǎng)絡(luò)寬帶或存儲(chǔ)介質(zhì)速度的影響。

·延遲：存儲(chǔ)系統(tǒng)對(duì)讀寫請(qǐng)求的響應(yīng)時(shí)間。低延遲可以改善性能，方法是減少GPU空閑時(shí)間以及提高系統(tǒng)對(duì)用戶輸入的響應(yīng)能力。機(jī)械設(shè)備（如HDD）的延遲本質(zhì)上要遠(yuǎn)高于固態(tài)設(shè)備（SSD）。

·可擴(kuò)展性：存儲(chǔ)系統(tǒng)對(duì)數(shù)據(jù)量、數(shù)據(jù)速度和數(shù)據(jù)多樣性的適應(yīng)能力。高可擴(kuò)展性是確保存儲(chǔ)系統(tǒng)能夠隨著業(yè)務(wù)需求和目標(biāo)實(shí)現(xiàn)增長(zhǎng)和演進(jìn)的關(guān)鍵。在增加系統(tǒng)能夠存儲(chǔ)和管理的數(shù)據(jù)量方面，面臨的嚴(yán)苛挑戰(zhàn)是維持性能擴(kuò)展，同時(shí)不觸及瓶頸或存儲(chǔ)設(shè)備的限制。

·復(fù)原力：存儲(chǔ)系統(tǒng)在遭遇故障、錯(cuò)誤或?yàn)?zāi)難時(shí)維護(hù)數(shù)據(jù)完整性和可用性的能力。更高的可靠性可以通過(guò)降低數(shù)據(jù)損壞、丟失以及恢復(fù)的頻率和影響來(lái)提高性能。

在數(shù)據(jù)中心應(yīng)用中，機(jī)械硬盤（HDD）和固態(tài)硬盤（SSD）是兩種主要的持久存儲(chǔ)設(shè)備。HDD是機(jī)械設(shè)備，通過(guò)旋轉(zhuǎn)的磁盤盤片（表面涂有一層磁性材料）來(lái)存儲(chǔ)數(shù)據(jù)，而SSD通過(guò)固態(tài)閃存芯片來(lái)存儲(chǔ)數(shù)據(jù)。幾十年來(lái)，HDD一直都是主導(dǎo)的存儲(chǔ)設(shè)備。HDD的每位成本很低，同時(shí)具有長(zhǎng)期斷電耐用性，但是在速度和可靠性方面不及SSD。SSD具有高吞吐量、低延遲、高可靠性，以及更密集的封裝選項(xiàng)等特點(diǎn)。

隨著技術(shù)的不斷進(jìn)步和計(jì)算需求的日益增加，HDD的機(jī)械性質(zhì)確實(shí)讓其在性能上無(wú)法與SDD比肩。系統(tǒng)設(shè)計(jì)可以采用以下幾種方法來(lái)提升基于HDD的存儲(chǔ)系統(tǒng)的有效性能，例如將熱數(shù)據(jù)和冷數(shù)據(jù)混合存放（讓熱數(shù)據(jù)從冷數(shù)據(jù)中借用性能），在多個(gè)HDD磁盤中并行共享數(shù)據(jù)（提高吞吐量但不降低延遲），在HDD中預(yù)留冗余容量（本質(zhì)上是針對(duì)IO進(jìn)行預(yù)置，而不是增加容量），以及為延遲異常的請(qǐng)求或操作添加SSD緩存層。從成本效益的角度來(lái)看，這些系統(tǒng)級(jí)解決方案的能力只能在有限的范圍內(nèi)擴(kuò)展。實(shí)際應(yīng)用需要怎樣的性能水平，這些解決方案就需要進(jìn)行相應(yīng)擴(kuò)展，才能滿足性能要求。對(duì)于目前的許多AI 工作負(fù)載而言，基于HDD的系統(tǒng)在性能可擴(kuò)展性和功率效率方面存在不足。

基于SSD的大容量存儲(chǔ)系統(tǒng)可以提供一種更為簡(jiǎn)潔且可擴(kuò)展性更強(qiáng)的解決方案，并且它們正在迅速發(fā)展，在許多以GPU為中心的大型數(shù)據(jù)中心中，已成為高性能AI數(shù)據(jù)湖的存儲(chǔ)介質(zhì)。單從驅(qū)動(dòng)器層面來(lái)看，SSD（基于每位成本）的成本要高于HDD。而從系統(tǒng)層面整體來(lái)看，如果考慮到以下改進(jìn)，則與HDD相比，使用SSD構(gòu)建的系統(tǒng)運(yùn)營(yíng)成本要低一些：

·更高的吞吐量

·延遲降低100倍以上

·每PB字節(jié)所需的服務(wù)器和機(jī)架數(shù)量更少

·可靠性更高，使用壽命更長(zhǎng)

·在給定的性能水平下，能源效率更高?

未來(lái)幾年，SSD的容量有望突破120TB。隨著容量的增加以及SSD與HDD之間價(jià)格差距的縮小，對(duì)于需要高于平均性能或在大數(shù)據(jù)集上需要極低延遲的其他工作負(fù)載（比如視頻剪輯和醫(yī)療成像診斷）來(lái)說(shuō)，這些SSD將是具有吸引力的替代方案。

Currie Munce

美光存儲(chǔ)部門高級(jí)技術(shù)顧問(wèn)和戰(zhàn)略專家