快科技8月26日消息,英偉達(dá)正式發(fā)布專(zhuān)為物理AI及人形機(jī)器人設(shè)計(jì)的新一代計(jì)算平臺(tái)——NVIDIA Jetson Thor,其被首席執(zhí)行官黃仁勛稱(chēng)為“開(kāi)啟物理AI與通用機(jī)器人時(shí)代的終極超級(jí)計(jì)算機(jī)”。
Jetson Thor集成Blackwell架構(gòu)GPU、14核Arm Neoverse中央處理器,并配備128GB顯存,顯存帶寬達(dá)到273 GB/s。
在FP4和FP8精度下,其AI算力分別高達(dá)2070 TFLOPS和1035 TFLOPS,可高效在邊緣側(cè)加速生成式AI及大型Transformer模型的推理與運(yùn)行。
該芯片針對(duì)多AI任務(wù)流進(jìn)行了專(zhuān)門(mén)優(yōu)化,致力于推動(dòng)視覺(jué)智能體和復(fù)雜機(jī)器人系統(tǒng)的發(fā)展。與上一代Jetson Orin相比,Jetson Thor在AI計(jì)算性能上實(shí)現(xiàn)7.5倍提升,能效提高3.5倍,CPU性能增長(zhǎng)3.1倍,I/O吞吐量更是大幅提升10倍。相較十年前的產(chǎn)品,其AI總體性能增長(zhǎng)高達(dá)7000倍。
Jetson Thor全面兼容英偉達(dá)從云到邊緣的軟件棧,支持多種主流AI框架,并可與多家企業(yè)的生成式大模型配合使用,包括字節(jié)跳動(dòng)、DeepSeek、阿里巴巴Qwen、谷歌Gemini、Meta、Mistral AI、OpenAI及Physical Intelligence(π)等。
此外,該平臺(tái)還能夠與英偉達(dá)Isaac機(jī)器人平臺(tái)、GR00T人形機(jī)器人基礎(chǔ)模型、Metropolis視覺(jué)AI平臺(tái)以及Holoscan實(shí)時(shí)傳感處理系統(tǒng)無(wú)縫集成。
在實(shí)時(shí)控制方面,Jetson Thor表現(xiàn)出卓越性能:可并行處理16路傳感器輸入,運(yùn)行Llama 3B和Qwen 2.5 VL 3B模型時(shí),生成首個(gè)token的時(shí)間在200毫秒以內(nèi),后續(xù)每token生成僅需50毫秒,即每秒可輸出超過(guò)25個(gè)token,響應(yīng)能力較前代顯著提升。
- QQ:61149512