“百模大戰(zhàn)”一觸即發(fā)!華為發(fā)布大模型時代AI存儲新品
通信世界網(wǎng)消息(CWW)數(shù)據(jù)作為數(shù)字經(jīng)濟時代最核心、最具價值的生產(chǎn)要素正在加速滲透,成為全球經(jīng)濟增長的新動力和新引擎。尤其是AI大模型爆火以來,數(shù)據(jù)呈指數(shù)級速度增長,數(shù)據(jù)流動加速,在“百模大戰(zhàn)”的角逐中,作為基礎(chǔ)設(shè)施的存力,其重要性也日益凸顯。 AI大模型面臨四大挑戰(zhàn) 數(shù)據(jù)存儲是算力基礎(chǔ)設(shè)施的核心組成,是信息的起始和重點,優(yōu)質(zhì)的數(shù)據(jù)存儲不僅會賦能數(shù)據(jù)存力發(fā)展,而且還會驅(qū)動AI大模型的建設(shè)和發(fā)展
2023-07-17 10:10:30
來源:通信世界全媒體 蓋貝貝??

通信世界網(wǎng)消息(CWW)數(shù)據(jù)作為數(shù)字經(jīng)濟時代最核心、最具價值的生產(chǎn)要素正在加速滲透,成為全球經(jīng)濟增長的新動力和新引擎。尤其是AI大模型爆火以來,數(shù)據(jù)呈指數(shù)級速度增長,數(shù)據(jù)流動加速,在“百模大戰(zhàn)”的角逐中,作為基礎(chǔ)設(shè)施的存力,其重要性也日益凸顯。

AI大模型面臨四大挑戰(zhàn)

數(shù)據(jù)存儲是算力基礎(chǔ)設(shè)施的核心組成,是信息的起始和重點,優(yōu)質(zhì)的數(shù)據(jù)存儲不僅會賦能數(shù)據(jù)存力發(fā)展,而且還會驅(qū)動AI大模型的建設(shè)和發(fā)展。

今年以來,自ChatGPT發(fā)布后,多家企業(yè)先后發(fā)布了自己的大模型產(chǎn)品,據(jù)不完全統(tǒng)計,全球已發(fā)布數(shù)百個大模型,僅在中國就發(fā)布了80多個。AI大模型儼然成為互聯(lián)網(wǎng)的“新風(fēng)口”,在這場AI帶來的新變革中,企業(yè)紛紛緊跟時代浪潮,建立自己的大模型。

而企業(yè)在開發(fā)及實施大模型應(yīng)用過程中,通常會面臨著諸多挑戰(zhàn)。首先,數(shù)據(jù)準(zhǔn)備時間長,數(shù)據(jù)來源分散、歸集慢,預(yù)處理百TB數(shù)據(jù)需10天左右;其次,多模態(tài)大模型以海量文本、圖片為訓(xùn)練集,當(dāng)前海量小文件的加載速度不足100MB/s,訓(xùn)練集加載效率低;再次,大模型參數(shù)頻繁調(diào)優(yōu),訓(xùn)練平臺不穩(wěn)定,平均約2天出現(xiàn)一次訓(xùn)練中斷,需要Checkpoint機制恢復(fù)訓(xùn)練,故障恢復(fù)耗時超過一天;最后,大模型實施門檻高,系統(tǒng)搭建繁雜,資源調(diào)度難,GPU資源利用率通常不到40%。

更為嚴(yán)重的是,甚至有些企業(yè)目前對數(shù)據(jù)存儲重視程度還尚顯不足。隨著AI大模型的升溫,各地紛紛投入建設(shè)AI算力中心,加大了對算力的重視程度。但是算力中心的起步離不開數(shù)據(jù)存儲能力作為基礎(chǔ),如果沒有適當(dāng)?shù)拇媪ε浜?,那么算力的作用就得到不到充分發(fā)揮。

兩款A(yù)I存儲新品發(fā)布,助推AI賦能千行百業(yè)

日前,華為順應(yīng)大模型時代AI發(fā)展趨勢,針對不同行業(yè)、不同場景大模型應(yīng)用,推出OceanStor A310深度學(xué)習(xí)數(shù)據(jù)湖存儲與FusionCube A3000訓(xùn)/推超融合一體機。

其中,OceanStor A310深度學(xué)習(xí)數(shù)據(jù)湖存儲,面向基礎(chǔ)/行業(yè)大模型數(shù)據(jù)湖場景,實現(xiàn)從數(shù)據(jù)歸集、預(yù)處理到模型訓(xùn)練、推理應(yīng)用的AI全流程海量數(shù)據(jù)管理。OceanStor A310單框5U支持業(yè)界最高的400GB/s帶寬以及1200萬IOPS的最高性能,可線性擴展至4096節(jié)點,實現(xiàn)多協(xié)議無損互通。全局文件系統(tǒng)GFS實現(xiàn)跨地域智能數(shù)據(jù)編織,簡化數(shù)據(jù)歸集流程;通過近存計算實現(xiàn)近數(shù)據(jù)預(yù)處理,減少數(shù)據(jù)搬移,預(yù)處理效率提升30%。

FusionCube A3000訓(xùn)/推超融合一體機,則面向行業(yè)大模型訓(xùn)練/推理場景,針對百億級模型應(yīng)用,集成OceanStor A300高性能存儲節(jié)點、訓(xùn)/推節(jié)點、交換設(shè)備、AI平臺軟件與管理運維軟件,為大模型伙伴提供拎包入住式的部署體驗,實現(xiàn)一站式交付。開箱即用,2小時內(nèi)即可完成部署。訓(xùn)/推節(jié)點與存儲節(jié)點均可獨立水平擴展,以匹配不同規(guī)模的模型需求。同時FusionCube A3000通過高性能容器實現(xiàn)多個模型訓(xùn)練推理任務(wù)共享GPU,將資源利用率從40%提升到70%以上。FusionCube A3000支持兩種靈活的商業(yè)模式,包括華為昇騰一站式方案,以及開放計算、網(wǎng)絡(luò)、AI平臺軟件的第三方伙伴一站式方案。

此外,如何保證數(shù)據(jù)的安全流轉(zhuǎn)也是大模型時代企業(yè)廣泛關(guān)注的問題。數(shù)據(jù)存儲是數(shù)據(jù)安全的第一道防線,在AI大模型的數(shù)據(jù)歸集過程中,企業(yè)需要安全地將不同地點、不同節(jié)點的數(shù)據(jù)歸集到一個地方,這在安全性上有著非常大的挑戰(zhàn)。面對企業(yè)的大模型數(shù)據(jù)安全需求,華為透露正在研發(fā)一種數(shù)據(jù)方艙技術(shù),通過將數(shù)據(jù)及其相關(guān)憑證、隱私、權(quán)限等信息共同流轉(zhuǎn),從而對數(shù)據(jù)產(chǎn)生極致保護(hù)。

“大模型時代,數(shù)據(jù)決定AI智能的高度?!比A為數(shù)據(jù)存儲產(chǎn)品線總裁周躍峰在新品發(fā)布會現(xiàn)場表示,作為數(shù)據(jù)的載體,數(shù)據(jù)存儲成為AI大模型的關(guān)鍵基礎(chǔ)設(shè)施。華為數(shù)據(jù)存儲未來將持續(xù)創(chuàng)新,面向AI大模型時代提供多樣化的方案與產(chǎn)品,攜手伙伴共同推進(jìn)AI賦能千行百業(yè)。

最新文章
1
賦能公會、激活創(chuàng)作,快手直播推動團(tuán)播向“健康化、精品化、價值化”轉(zhuǎn)型
2
可靈2.6模型上線!語音、音效與畫面一鍵直出 重構(gòu)AI視頻創(chuàng)作工作流
3
13.2億點贊!時代少年團(tuán)六周年演唱會快手獨家直播,共創(chuàng)青春記憶新高光
4
青少年健康用網(wǎng)公益行動走進(jìn)吉林學(xué)校 特殊思政課科普網(wǎng)絡(luò)安全知識
5
人民日報為海信RGB-Mini LED電視打call:這創(chuàng)新很中國
6
舉國同慶!朱雀三號成功發(fā)射!新超合金制造的柵格舵成關(guān)鍵
7
舉國同慶!朱雀三號成功發(fā)射!新超合金制造的柵格舵成關(guān)鍵
8
豆包AI手機又出新聞?智能體時代“入口”之爭初現(xiàn)端倪
9
上半年Mini LED電視滲透率高達(dá)28.3%,是驅(qū)動煥新的主動力
10
銅價漲瘋了,也輪不到空調(diào)用鋼做!“全鋼空調(diào)論”為什么是最大偽命題?
11
被唱衰兩年后,空氣炸鍋悄悄回暖
12
影石發(fā)布全球首款全景無人機 劉靖康:即便沒笑到最后也無悔
13
餓了么官宣改名!全面更新為“淘寶閃購”
14
官方:新國標(biāo)電動自行車車速超25km/h不會緊急制動!
15
8.6代OLED面板產(chǎn)線量產(chǎn)競速:技術(shù)分野,誰先供貨?
16
50000頁“超激鼓”技術(shù),終結(jié)企業(yè)辦公的“打印焦慮”
17
超長壽命硒鼓+大容量墨粉 漢印“超激鼓”激光打印機TE3200出手就是“王炸”
18
有小米飛利浦加持為何“裁員過冬”?德爾瑪清潔電器突圍難
19
云廠商Q3財報大考:誰是AI云真“一哥”?
20
DeepSeek發(fā)布兩款新模型,推理能力比肩GPT-5
關(guān)于我們

微信掃一掃,加關(guān)注

商務(wù)合作
  • QQ:61149512