航锦科技:航锦云的云服务项涉及FP8精度训练和推理

航锦科技:航锦云的云服务项涉及FP8精度训练和推理

【航锦科技:航锦云的云服务项涉及FP8精度训练和推理】财联社8月25日电,航锦科技在互动平台表示,公司也关注到近期deepseek最新发布模型v3.1,采用针对下一代国产芯片涉及的UE8M0 FP8 Scale参数精度的新闻。目前,公司航锦云在上海管理运营的云服务项目L20灯塔集群实践了FP8精度的训练和推理,利用E5M2/E4M3格式,可将数学吞吐量翻倍,并将带宽压力减少一半。其中,FP8训练在相同加速平台的峰值性能显著超越FP16/BF16,且模型参数越大,训练加速效果越好。

亲爱的凤凰网用户:

您当前使用的浏览器版本过低,导致网站不能正常访问,建议升级浏览器

第三方浏览器推荐:

谷歌(Chrome)浏览器 下载

360安全浏览器 下载