正文

ChatGPT 成顯卡熔爐，將吞 3 萬顆高端 GPU，英偉達笑到最后

發(fā)布時間：2023-03-03 15:49:15 稿源：互聯(lián)網(wǎng) 閱讀： 926 問大家

據(jù) Trendforce 報道，ChatGPT 對 GPU 的需求不斷增長，新模型預計需要超過 30000 個英偉達 GPU，未來會需要更多。

ChatGPT 算力需求驚人，以 GPT 為例，該模型開發(fā)中使用的訓練參數(shù)數(shù)量從 2018 年的約 1.2 億個增加到 2020 年的近 1800 億個。

根據(jù) TrendForce 的估計，2020 年，GPT 模型處理訓練數(shù)據(jù)所需的 GPU 數(shù)量達到了 20000 左右。展望未來，GPT 模型（或 ChatGPT）商業(yè)化所需的 GPU 數(shù)量預計將達到 30000 個以上。

這些估計均使用英偉達的 A100 GPU 作為計算基礎。A100 GPU 是目前最快的 AI 芯片之一，具有高達 5 Petaflops 的 AI 性能。

同時，英偉達 DGX A100 架構已經(jīng)是 AI 相關工作負載的通用系統(tǒng)，幾乎成為大數(shù)據(jù)分析和 AI 加速的首選。

ChatGPT 的激增對于英偉達來說無疑是天降福利，全球通貨膨脹率上升導致 PC 硬件需求下滑，AI 的需求可以抵消英偉達的收入損失。

(8130644)

ChatGPT 成顯卡熔爐，將吞 3 萬顆高端 GPU，英偉達笑到最后