昇腾910B与英伟达A800对比 根据华为自行公开的昇腾910B与 英伟达 A800参数的对比,可以发现主要有这么几点,值得特别注意:参数对比集中在Ten... 

您所在的位置:网站首页 华为draal00参数 昇腾910B与英伟达A800对比 根据华为自行公开的昇腾910B与 英伟达 A800参数的对比,可以发现主要有这么几点,值得特别注意:参数对比集中在Ten... 

昇腾910B与英伟达A800对比 根据华为自行公开的昇腾910B与 英伟达 A800参数的对比,可以发现主要有这么几点,值得特别注意:参数对比集中在Ten... 

2023-12-21 10:42| 来源: 网络整理| 查看: 265

来源:雪球App,作者: AI大时代国运昌盛,(https://xueqiu.com/5919076646/262393914)

根据华为自行公开的昇腾910B与英伟达A800参数的对比,可以发现主要有这么几点,值得特别注意:

参数对比集中在Tensor Core而淡化CUDA Core相关的指标

关于这点其实很容易解释,我们做任何一款产品,要想获得认可,真正的难点不在技术参数,而在研发、生产、销售及应用整体构成的生态。CUDA的优势恰恰在这个地方,也是最难打破的地方。对于终端客户来说,从一个平台迁移到另一个平台,既需要耗费大量的资金,也需要耗费大量的时间,迁移成本太高。

对比测试的小型服务集群使用的是8节点对NVIDIA的4节点

尽管从公布的数据来看,表面上很接近。但如果是在同等条件下,似乎可以理解为不足50%。在实际应用中,一般采用的都是大服务集群,这个数据会更差。不管是训练还是推理。

着重强调的FP16在预训练中极容易溢出

LLM大模型也好,生成式AI也罢,占绝大部分比重的是预训练,FP16最大的问题在于极容易溢出,至少也要提供BF16来作为保障。

HBM存储芯片的限制

HBM是基于3D叠层工艺的DRAM存储芯片,能突破内存容量和带宽瓶颈,为GPU提供更快的数据处理能力。算力要求越高,对内存的需求就越大,HBM3E 目前已成为英伟达和AMD主流服务器的标配。而这一块则要看国内的企业,比如华海诚科,能否突破GMC的封锁。毕竟全球只有两家日本企业可以供应GMC。

在实际上的商业落地过程中,我们可以看到,华为主打的是国产信创市场。但说实话,如果是小型客户,这个影响还小些。而像国家或城市建立的数据或智算中心,以目前极为单薄的算力云租赁商业模式来看,会极大的影响政府的算力基础建设和投资领域的回报率,因为缺少真正的商业用户买单。这也是为什么绝大部分算力中心,特别是一、二期的工程,花费巨资购买那么多的算力,却基本成了摆设,造成巨大浪费的原因。

的确,从中美科技竞争的角度来讲,国家应该大力扶持。但我们都知道经济环境本就不好,纳税人的钱如此被浪费掉,不能发挥激活经济的价值和作用,着实让人心疼。我们思考的重心,应该放在怎么

让这些算力产生价值,盘活经济上。

$中贝通信(SH603220)$ $鸿博股份(SZ002229)$ $科大讯飞(SZ002230)$



【本文地址】


今日新闻


推荐新闻


CopyRight 2018-2019 办公设备维修网 版权所有 豫ICP备15022753号-3