通信世界網(wǎng)消息（CWW）數(shù)據(jù)作為數(shù)字經(jīng)濟時代最核心、最具價值的生產(chǎn)要素正在加速滲透，成為全球經(jīng)濟增長的新動力和新引擎。尤其是AI大模型爆火以來，數(shù)據(jù)呈指數(shù)級速度增長，數(shù)據(jù)流動加速，在“百模大戰(zhàn)”的角逐中，作為基礎設施的存力，其重要性也日益凸顯。

AI大模型面臨四大挑戰(zhàn)

數(shù)據(jù)存儲是算力基礎設施的核心組成，是信息的起始和重點，優(yōu)質(zhì)的數(shù)據(jù)存儲不僅會賦能數(shù)據(jù)存力發(fā)展，而且還會驅(qū)動AI大模型的建設和發(fā)展。

今年以來，自ChatGPT發(fā)布后，多家企業(yè)先后發(fā)布了自己的大模型產(chǎn)品，據(jù)不完全統(tǒng)計，全球已發(fā)布數(shù)百個大模型，僅在中國就發(fā)布了80多個。AI大模型儼然成為互聯(lián)網(wǎng)的“新風口”，在這場AI帶來的新變革中，企業(yè)紛紛緊跟時代浪潮，建立自己的大模型。

而企業(yè)在開發(fā)及實施大模型應用過程中，通常會面臨著諸多挑戰(zhàn)。首先，數(shù)據(jù)準備時間長，數(shù)據(jù)來源分散、歸集慢，預處理百TB數(shù)據(jù)需10天左右；其次，多模態(tài)大模型以海量文本、圖片為訓練集，當前海量小文件的加載速度不足100MB/s，訓練集加載效率低；再次，大模型參數(shù)頻繁調(diào)優(yōu)，訓練平臺不穩(wěn)定，平均約2天出現(xiàn)一次訓練中斷，需要Checkpoint機制恢復訓練，故障恢復耗時超過一天；最后，大模型實施門檻高，系統(tǒng)搭建繁雜，資源調(diào)度難，GPU資源利用率通常不到40%。

更為嚴重的是，甚至有些企業(yè)目前對數(shù)據(jù)存儲重視程度還尚顯不足。隨著AI大模型的升溫，各地紛紛投入建設AI算力中心，加大了對算力的重視程度。但是算力中心的起步離不開數(shù)據(jù)存儲能力作為基礎，如果沒有適當?shù)拇媪ε浜?，那么算力的作用就得到不到充分發(fā)揮。

兩款AI存儲新品發(fā)布，助推AI賦能千行百業(yè)

日前，華為順應大模型時代AI發(fā)展趨勢，針對不同行業(yè)、不同場景大模型應用，推出OceanStor A310深度學習數(shù)據(jù)湖存儲與FusionCube A3000訓/推超融合一體機。

其中，OceanStor A310深度學習數(shù)據(jù)湖存儲，面向基礎/行業(yè)大模型數(shù)據(jù)湖場景，實現(xiàn)從數(shù)據(jù)歸集、預處理到模型訓練、推理應用的AI全流程海量數(shù)據(jù)管理。OceanStor A310單框5U支持業(yè)界最高的400GB/s帶寬以及1200萬IOPS的最高性能，可線性擴展至4096節(jié)點，實現(xiàn)多協(xié)議無損互通。全局文件系統(tǒng)GFS實現(xiàn)跨地域智能數(shù)據(jù)編織，簡化數(shù)據(jù)歸集流程；通過近存計算實現(xiàn)近數(shù)據(jù)預處理，減少數(shù)據(jù)搬移，預處理效率提升30%。

而FusionCube A3000訓/推超融合一體機，則面向行業(yè)大模型訓練/推理場景，針對百億級模型應用，集成OceanStor A300高性能存儲節(jié)點、訓/推節(jié)點、交換設備、AI平臺軟件與管理運維軟件，為大模型伙伴提供拎包入住式的部署體驗，實現(xiàn)一站式交付。開箱即用，2小時內(nèi)即可完成部署。訓/推節(jié)點與存儲節(jié)點均可獨立水平擴展，以匹配不同規(guī)模的模型需求。同時FusionCube A3000通過高性能容器實現(xiàn)多個模型訓練推理任務共享GPU，將資源利用率從40%提升到70%以上。FusionCube A3000支持兩種靈活的商業(yè)模式，包括華為昇騰一站式方案，以及開放計算、網(wǎng)絡、AI平臺軟件的第三方伙伴一站式方案。

此外，如何保證數(shù)據(jù)的安全流轉(zhuǎn)也是大模型時代企業(yè)廣泛關(guān)注的問題。數(shù)據(jù)存儲是數(shù)據(jù)安全的第一道防線，在AI大模型的數(shù)據(jù)歸集過程中，企業(yè)需要安全地將不同地點、不同節(jié)點的數(shù)據(jù)歸集到一個地方，這在安全性上有著非常大的挑戰(zhàn)。面對企業(yè)的大模型數(shù)據(jù)安全需求，華為透露正在研發(fā)一種數(shù)據(jù)方艙技術(shù)，通過將數(shù)據(jù)及其相關(guān)憑證、隱私、權(quán)限等信息共同流轉(zhuǎn)，從而對數(shù)據(jù)產(chǎn)生極致保護。

“大模型時代，數(shù)據(jù)決定AI智能的高度?！比A為數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰在新品發(fā)布會現(xiàn)場表示，作為數(shù)據(jù)的載體，數(shù)據(jù)存儲成為AI大模型的關(guān)鍵基礎設施。華為數(shù)據(jù)存儲未來將持續(xù)創(chuàng)新，面向AI大模型時代提供多樣化的方案與產(chǎn)品，攜手伙伴共同推進AI賦能千行百業(yè)。