英伟达推出H100 NVL：用于大语言模型训练
今年以ChatGPT為首的大語言模型突然在網上爆紅，引起了人們對于AI的極度追求。而大語言模型的訓練則需要大量的計算卡，這便是英偉達的優勢。去年英偉達正式推出了H100計算卡，讓計算卡的性能達到新的高度，而這一次英偉達又推出了H100 NVL，專門為大語言模型而打造。
英偉達表示H100 NVL是為大型語言模型所準備的產品，由2塊H100計算卡通過PCIe橋接在一起，相比較單張H100計算卡，這套系統可以提供188GB的HBM 3顯存。而英偉達稱目前ChatGPT所采用的訓練計算機搭載的是英偉達HGX A100，而如果說使用H100 NVL計算卡的話，基于四對H100以及雙NVLINK的服務器可以讓處理與計算速度提升10倍，從而讓大語言模型的處理效率大幅提升，進而降低使用成本。甚至通過軟硬件的優化，大語言模型的建模與訓練速度最高可以提升30倍。預計H100 NVL計算卡將會在今年下半年和大家正式見面。
除此之外英偉達也推出了L4，專門為AI視頻解碼與轉碼打造，英偉達表示相比較傳統的CPU轉碼，通過L4這樣的專屬芯片可以實現最高120倍的AI視頻性能提升，并且能效比提升99%，英偉達稱基于8塊L4 GPU的視頻解碼服務器可以替代原有100多臺的視頻解碼服務器，同樣也是大幅提升工作效率，增加企業的生產力。可以說無論是H100 NVL還是L4，都是英偉達為專屬領域所推出的計算設備，相比較過去的通用性芯片，這種專屬芯片擁有更加出色的優化，能夠為特定任務起到事半功倍的效果。
相關文章：
欄目分類
最新文章