合作夥伴力挺！輝達Blackwell Ultra推論效能優異 AI部署投報率更佳 【記者呂承哲／台北報導】推論效能是人工智慧（AI）工廠經濟效益的核心關鍵，輸送量越高，就能以更快速度產生更多詞元（token），進而提高營收、降低總擁有成本（TCO），並提升整體系統的生產力，輝達（NVIDIA）Blackwell Ultra 架構GB300 NVL72 機架系統，在GTC大會首度亮相半年後，便於 MLPerf Inference v5.1 推論基準測試中刷新紀錄，相較於 GB200 NVL72，在 DeepSeek-R1 推論輸送量上最高可達 1.4 倍。
閱讀全文
