天数智芯天垓300实测多场景性能优于英伟达H200

在天数智芯10月28日举办的“从模型到世界2026媒体开放日”活动中,旗下新一代AI芯片天垓300首次面向媒体开放实机演示。现场展示了该芯片在GLM-5.3等大语言模型、文生图及文生视频场景下与英伟达……

在天数智芯10月28日举办的“从模型到世界2026媒体开放日”活动中,旗下新一代AI芯片天垓300首次面向媒体开放实机演示。现场展示了该芯片在GLM-5.3等大语言模型、文生图及文生视频场景下与英伟达H200的对比测试,数据显示天垓300整体表现优于H200。在训练环节,基于Qwen3-32B模型的8卡整机FP8精度训练中,天垓300每卡有效吞吐达到H100的1.33倍。

该芯片于今年7月世界人工智能大会上正式发布,采用天数天枢架构,集成新一代Tensor Core,配备144GB显存。其原生支持标量、矢量、张量三类计算模式,覆盖FP4、FP8、FP16、BF16等多种数据精度,并支持高速片间互联。上海仪电今年7月完成的第三方实测显示,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍。

根据天数智芯性能实验室的进一步实测,在64K长上下文下,天垓300的Attention性能为H200的1.05倍;在GLM-5.3模型64K规模下,MoE吞吐为H200的1.15倍。此外,8K至128K长上下文场景下Agent首字延迟较H200降低约10%至30%,多模态生成推理吞吐提升约2%至5%,推荐推理吞吐提升21%。

在规模化交付方面,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案。其中天垓300 IXL144超节点在单个标准机柜内集成144颗GPU,显存总量约10.1TB,每百万有效Token成本较国际主流方案可降低约40%。

随着国产通用GPU在性能实测与系统级交付上的持续突破,行业竞争的焦点正逐步从单芯片算力指标转向全栈系统的成本效益与实际业务落地效率。

THE END
免责声明:本站所使用的字体和图片文字等素材部分来源于互联网共享平台。如使用任何字体和图片文字有冒犯其版权所有方的,皆为无意。如您是字体厂商、图片文字厂商等版权方,且不允许本站使用您的字体和图片文字等素材,请联系我们,本站核实后将立即删除!任何版权方从未通知联系本站管理者停止使用,并索要赔偿或上诉法院的,均视为新型网络碰瓷及敲诈勒索,将不予任何的法律和经济赔偿!敬请谅解!
相关阅读

栏目精选

企业 更多

新品 更多