英偉達(dá)針對 AI 市場推出雙 GPU H100 NVL，使用 188GB HBM3 顯存

2023-03-23 09:20

win7之家 3 月 22 日消息，英偉達(dá)在 GTC Spring 2023 主題演講中，針對不斷增長的 AI 市場，推出了全新的雙 GPU 產(chǎn)品 H100 NVL。H100 NVL 在頂部配備了 3 個 NVLink 連接器，使用兩個相鄰的 PCIe 顯卡插槽。

英偉達(dá)針對 AI 市場推出雙 GPU H100 NVL，使用 188GB HBM3 顯存

英偉達(dá)表示在運行大型語言模型(LLM)時，常規(guī)顯卡的顯存無法駕馭龐大的數(shù)據(jù)流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 顯存，單卡顯存容量 94GB。

英偉達(dá)針對 AI 市場推出雙 GPU H100 NVL，使用 188GB HBM3 顯存

H100 NVL 的功耗略高于 H100 PCIe，每個 GPU 為 350-400 瓦(可配置)，增加了 50W。IT之家從報道中獲悉，總性能實際上是 H100 SXM 的兩倍：FP64 為 134 teraflops，TF32 為 1979 teraflops，F(xiàn)P8 為 7916 teraflops，INT8 為 7916 teraops。

英偉達(dá)針對 AI 市場推出雙 GPU H100 NVL，使用 188GB HBM3 顯存

內(nèi)存帶寬也比 H100 PCIe 高很多，每個 GPU 為 3.9 TB / s，總和為 7.8 TB / s(H100 PCIe 為 2 TB / s，H100 SXM 為 3.35 TB / s)。

網(wǎng)友評論

相關(guān)閱讀