使用英偉達(dá)H100 GPU，微軟推出全新 ND H100 v5 虛擬機(jī)

win7之家 3 月 15 日消息，微軟于今天宣布加強(qiáng)和英偉達(dá)的合作，將 GPU 從此前的 A100 升級(jí)到 H100，推出專(zhuān)門(mén)針對(duì)人工智能開(kāi)發(fā)的全新的 ND H100 v5 虛擬機(jī)。

微軟表示該虛擬機(jī)主要面向需要整合或開(kāi)發(fā)人工智能的企業(yè)，IT之家附該虛擬機(jī)配置如下：

8 塊英偉達(dá) H100 Tensor Core GPU，通過(guò)下一代 NVSwitch 和 NVLink 4.0 互連

在非阻塞(non-blocking)的胖樹(shù)(Fat-Tree)架構(gòu)網(wǎng)絡(luò)下，每塊 GPU 的 NVIDIA Quantum-2 CX7 InfiniBand 性能可以達(dá)到 400 Gb / s，每臺(tái)虛擬機(jī)可以達(dá)到 3.2Tb / s。通過(guò) NVSwitch 和 NVLink 4.0，每臺(tái)虛擬機(jī)內(nèi)的 8 個(gè)本地 GPU 之間的對(duì)分帶寬為 3.6TB / s。

采用英特爾第 4 代 Xeon Scalable 處理器

使用 PCIe Gen5 連接 GPU，每個(gè) GPU 帶寬為 64GB / s

16 通道 4800MHz DDR5 DIMM

微軟先前在 Azure OpenAI 服務(wù)中宣布了 ChatGPT 相關(guān)服務(wù)，而本次虛擬機(jī)是該服務(wù)的補(bǔ)充，它允許第三方通過(guò) Azure 訪問(wèn)聊天機(jī)器人技術(shù)。