英偉達推出新一代 GH200 Grace Hopper 超級芯片平臺

(資料圖片)

IT 之家 8 月 9 日消息，英偉達（Nvidia）周二發(fā)布了一款升級版的下一代 Grace Hopper 超級芯片平臺，該平臺采用了 HBM3e 內(nèi)存技術(shù)，專為人工智能和高性能計算而設(shè)計。新款 GH200 Grace Hopper 超級芯片平臺由 72 核的 Grace CPU 和 GH100 Hopper 計算 GPU 組成，但與初代不同的是，其使用了 HBM3e 內(nèi)存，內(nèi)存容量和帶寬都有顯著提高。

HBM3e 內(nèi)存是一種新型的高帶寬內(nèi)存技術(shù)，可以在更小的空間內(nèi)提供更高的數(shù)據(jù)傳輸速率。新款 GH200 Grace Hopper 超級芯片平臺基于 72 核 Grace CPU，配備 480 GB ECC LPDDR5X 內(nèi)存以及 GH100 計算 GPU，搭配 141 GB 的 HBM3e 內(nèi)存，分為六個 24 GB 的堆棧，并使用了 6,144 位的內(nèi)存接口。雖然英偉達實際安裝了 144 GB 的內(nèi)存，但只有 141 GB 是可用的。

英偉達目前的 GH200 Grace Hopper 超級芯片平臺配備 96 GB HBM3 內(nèi)存，帶寬低于 4 TB / s。相比之下，升級版的內(nèi)存容量增加了約 50%，帶寬增加了 25% 以上。如此巨大的改進使新平臺能夠運行比初代版本更大的人工智能模型，并提供明顯的性能改進（這對于訓(xùn)練尤其重要）。

據(jù)英偉達稱，目前配備 HBM3 內(nèi)存的 GH200 Grace Hopper 超級芯片平臺已經(jīng)在生產(chǎn)中，并將于下個月開始商業(yè)銷售。 而配備 HBM3e 內(nèi)存的 GH200 Grace Hopper 超級芯片平臺現(xiàn)在正在樣品測試中，預(yù)計將于 2024 年第二季度上市。

英偉達強調(diào)，新款 GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片，因此公司無需推出任何新的版本或步進。英偉達表示，原版 GH200 和升級版 GH200 將在市場上共存，這意味著后者將以更高的價格出售，畢竟其更先進的內(nèi)存技術(shù)帶來的更高性能。

英偉達表示，配備 HBM3e 內(nèi)存的下一代 Grace Hopper 超級芯片平臺完全兼容英偉達的 MGX 服務(wù)器規(guī)范，并且可以與現(xiàn)有的服務(wù)器設(shè)計直接兼容。