亞馬遜云科技推出配備72個(gè)英偉達(dá)Blackwell GPU的新實(shí)例 算力提升20倍快訊
亞馬遜云科技已推出了基于NVIDIA Blackwell GPU的Amazon EC2 P6-B200實(shí)例，Amazon EC2 P6-B200實(shí)例的GPU計(jì)算能力是其2.25倍，Amazon SageMaker HyperPod將支持Amazon EC2 P6e-GB200 UltraServer和Amazon EC2 P6-B200實(shí)例。
【TechWeb】7月10日消息，為了加速推理模型、Agentic AI系統(tǒng)等新興生成式AI技術(shù)的發(fā)展，亞馬遜云科技宣布由NVIDIA Grace Blackwell Superchips加速的_Amazon EC2 P6e-GB200 UltraServer_現(xiàn)已正式可用。P6e-GB200 UltraServer專為訓(xùn)練和部署最大規(guī)模、最復(fù)雜的AI模型而設(shè)計(jì)。
今年早些時(shí)候，亞馬遜云科技已推出了基于NVIDIA Blackwell GPU的Amazon EC2 P6-B200實(shí)例，支持多樣化的AI和高性能計(jì)算工作負(fù)載。
Amazon EC2 P6e-GB200 UltraServer是亞馬遜云科技迄今為止最強(qiáng)大的GPU產(chǎn)品，配備最多72個(gè)NVIDIA Blackwell GPU，這些GPU通過(guò)第五代NVIDIA NVLink互連，并作為單一計(jì)算單元運(yùn)行。每臺(tái)UltraServer可提供高達(dá)360 petaflops的高密度FP8算力，以及13.4TB的高帶寬顯存（HBM3e）——相比P5en實(shí)例，在單個(gè)NVLink域內(nèi)的計(jì)算能力提升超過(guò)20倍，內(nèi)存容量提升超過(guò)11倍。Amazon EC2 P6e-GB200 UltraServer支持高達(dá)28.8 Tbps的第四代Elastic Fabric Adapter（EFAv4）網(wǎng)絡(luò)帶寬。
Amazon EC2 P6-B200實(shí)例為廣泛AI場(chǎng)景提供靈活選擇。每個(gè)實(shí)例配備8個(gè)通過(guò)NVLink互連的NVIDIA Blackwell GPU，擁有1.4TB高帶寬顯存和最高3.2 Tbps的EFAv4網(wǎng)絡(luò)帶寬，以及第五代Intel Xeon Scalable處理器。與Amazon EC2 P5en實(shí)例相比，Amazon EC2 P6-B200實(shí)例的GPU計(jì)算能力是其2.25倍，顯存容量為其1.27倍，顯存帶寬為其1.6倍。
目前，亞馬遜云科技通過(guò)多種部署路徑簡(jiǎn)化Amazon EC2 P6e-GB200 UltraServer和Amazon EC2 P6-B200實(shí)例的啟用過(guò)程，客戶可快速開(kāi)始使用Blackwell GPU，同時(shí)保持其現(xiàn)有的運(yùn)維模式。
Amazon SageMaker HyperPod將支持Amazon EC2 P6e-GB200 UltraServer和Amazon EC2 P6-B200實(shí)例，并通過(guò)優(yōu)化使工作負(fù)載保持在同一NVLink域內(nèi)，以實(shí)現(xiàn)性能最大化。亞馬遜云科技還在構(gòu)建一套完整的多層級(jí)恢復(fù)機(jī)制：Amazon SageMaker HyperPod可在同一NVLink域內(nèi)自動(dòng)用預(yù)配置的備用實(shí)例替換故障節(jié)點(diǎn)。內(nèi)置儀表板將提供從GPU利用率、內(nèi)存使用情況到工作負(fù)載指標(biāo)和UltraServer運(yùn)行狀態(tài)的全面可視化信息。
同時(shí)，Amazon EC2 P6e-GB200 UltraServer也將通過(guò)NVIDIA DGX Cloud提供。DGX Cloud是一個(gè)統(tǒng)一的AI平臺(tái)，在各層架構(gòu)均經(jīng)過(guò)優(yōu)化，具備多節(jié)點(diǎn)AI訓(xùn)練與推理能力，并集成英偉達(dá)完整的AI軟件棧。客戶可充分利用英偉達(dá)最新的性能優(yōu)化方案、基準(zhǔn)測(cè)試方法和技術(shù)專長(zhǎng)，以提升效率與性能。該平臺(tái)還提供靈活的服務(wù)期限選擇，以及由英偉達(dá)專家提供的全面支持與服務(wù)，助力客戶加速推進(jìn)AI項(xiàng)目。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會(huì)明確標(biāo)注作者和來(lái)源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請(qǐng)轉(zhuǎn)載時(shí)務(wù)必注明文章作者和"來(lái)源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會(huì)經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
