NVIDIA推出新一代AI GPU加速產品,擁抱未來智慧科技
2024/04/07
點擊時代時報/記者周佩璇 報導
.jpg)
新聞視界時報 記者 李翌淳 整理報導
在GTC 2024大會上,NVIDIA震撼公布全新的Blackwell架構,引起了廣泛的關注。
雖然Blackwell將在2024年下半年才會開始出貨,但目前最新的NVIDIA AI GPU加速產品已經問世,其中包括採用美光HBM3e記憶體的NVIDIA H200 Tensor Core GPU。
這款新一代GPU帶來了顯著的性能提升,透過MLPerf測試,基於Hopper架構的H100借助TensorRT-LLM軟體,不僅突破了生成式AI測試項的性能上限,而且在GPT-J LLM推論性能上提升了近3倍。
同時,H200 GPU通過HBM3e記憶體的容量和頻寬提升,以及更彈性的散熱方案,一舉刷新了多項MLPerf的紀錄。
MLPerf v4.0版本引入了兩項生成式AI測試項,這對硬體性能提出了更高的要求。
而NVIDIA則通過強化Hopper架構的記憶體,以及提供客製化的散熱解決方案,使得系統的性能得到了顯著的提升。
{{AD21}}
此外,NVIDIA的H200 GPU將由多家領先的系統商與雲端服務商推出,為用戶帶來更強大的AI運算能力。
對於客戶對單一系統記憶體的更高要求,NVIDIA推出了GH200 Superchips平台,提供高達624GB的高速記憶體。
這一平台整合了Grace GPU與H200 GPU,並通過NVLink-C2C高速溝通,為如推薦系統等記憶體密集的MLPerf測試提供了出色的效益。
NVIDIA在MLPerf測試中一直保持著領先地位,並與合作夥伴不斷刷新著成績。
無論是更新硬體還是軟體,NVIDIA都在不斷提升系統的性能。
此外,NVIDIA還強調其測試結果的公開和透明,為行業的發展做出了積極的貢獻。
隨著生成式AI技術的不斷發展,NVIDIA的Blackwell架構將應對兆級參數需求,為未來的智慧科技帶來更大的突破。
這一架構不僅性能顯著提升,而且擁有更大的規模和記憶體容量,將為兆級參數生成式AI模型提供強大的支持。
室內設計協會商務中心:👉 高雄商務中心推薦-借址登記-辦公室出租-會議室出租-虛擬辦公室
中華民國室內設計應用輔導發展協會:高雄室內設計推薦。室內裝修、裝潢、老屋翻新延伸閱讀 :高雄冷氣空調清洗推薦 :屏東冷氣空調清洗推薦
奇點空間設計:高雄室內設計推薦。室內裝修、裝潢、老屋翻新延伸閱讀 |點擊時代網頁設計| 新聞視界時報: 奇點空間設計屏東分公司:奇點空間設計(屏東)薦
旅人空間設計:高雄室內設計推薦。室內裝修、裝潢、老屋翻新延伸閱讀 ||高雄推薦seo關鍵字優化| 點擊時代時報: 旅人空間設計屏東分公司:奇點空間設計(屏東)薦
如何選擇好的室內設計公司 | 小坪數室內設計攻略 | 工業風格設計:打造個性與現代感的裝潢空間 | 打造專屬侘寂風格:追尋不完美中的美學
老屋翻新推薦 | 透天厝翻新的核心價值 | 現代簡約風格設計完整推薦指南 | 小坪數空間也可以放大嗎? | 空間規劃基本原則及巧妙收納











