华为在世界人工智能大会上展示新AI系统，挑战英伟达旗舰产品

dootbear

MoE亲和架构，从“小作坊”到“超级工厂”。

在传统架构下，MoE模型训练容易因通信延迟导致算力浪费，而CloudMatrix 384超节点的分布式推理平台可以说是专为MoE大模型而生。

华为云副总裁黄瑾指出，对比一卡多专家的“小作坊模式”，超节点更像“大工厂模式”，通过高速互联总线，能够实现一卡一专家高效分布式推理，单卡的MoE计算和通信效率都大幅提升。

这也是为什么有几百个政务、零售、医疗、保险、制造、矿山、旅游等各行各业的客户，基于华为云昇腾AI云服务部署DeepSeek模型的创新应用，例如在智能助手、智能客服、互联网搜索、内容创作等各种场景落地。

dootbear

以网强算，双层网络破解“数据堵车”。

当AI算力走向规模化部署，单点的芯片性能不再是制约算力发展的唯一变量，如何由点及面地激活算力矩阵的共振效应，也是破解AI时代算力命题的关键一步。

而释放联接力也正是超节点最大的创新突破之一，黄瑾介绍，传统网络像拥堵的城市道路，CloudMatrix 384则构建了AI专属高架桥，通过MatrixLink服务将单层网络升级为两层高速网络，一层是超节点内部的ScaleUp总线网络，确保超节点内384卡全对等高速无阻塞互联，卡间超大带宽2.8T，纳秒级时延。

另一层是跨超节点间的ScaleOut网络，可支持微秒级时延，资源弹性扩展。

同时，基于全局拓扑感知的智能调度算法，保障客户任务长稳运行。

dootbear

CloudMatrix 384超节点算力集群的性能：

1. 384颗昇腾NPU（昇腾910C）+192颗鲲鹏CPU全对等互联，形成一台“超级AI服务器”；

2. 业界最大单卡推理吞吐量：2300Tokens/s；

3. 业界最大集群算力，16万卡，万卡线性度高达95%；

4. 云上确定性运维-40天长稳训练、10分钟快速恢复。

Y叔

不明觉厉

大连银在墨尔本

Y叔 发表于 2025-7-27 11:53
不明觉厉

dootbear

以存强算，弹性内存改写“算存绑定”。

华为云首创了EMS弹性内存存储，打破传统GPU算力与显存绑定的关键障碍，通过内存池化技术，实现显存和算力解绑。

一方面，用EMS替代NPU中的显存，可使得首Token时延降低，最高降幅可达 80%；另一方面，当NPU的显存不足时，EMS独立扩容，不必再通过堆NPU以获得更多内存。

同时，EMS还支持算力卸载，这也使得系统吞吐量提升，有的场景达100%的提升。

总之，这一技术创新大幅提升了资源利用率、性能和吞吐量。

Y叔

大连银在墨尔本 发表于 2025-7-27 11:57

背笑

zn7726

谨慎乐观吧
哪天英伟达股票跌了 就说明真的做成了

FireRain

想起今年Jensen huang的一个很有趣的采访，记者问: how far is china's AI behind us? 黄愣了一下回答："China is not behind us"。记者不甘心，又换了个方式问了一遍，这次黄回答:“china is right behind us"

泥巴潭#2

刚看了count point的访谈，很有意思。

美国驻联合国大使布兰登说，现在已经是美俄中三级世界了，已经不是美国一家独大了。但前英国的国防大臣拼命反对，一直叭叭叭要民主要自由，这不可接受。
结果布兰登大使一脸无奈的说，this is reality。我也不喜欢，但事实就是如此，我们要建立新的世界秩序了，旧的已经不存在了。
然后英国人又说这是抛弃盟友，结果美国大使毫不在意，我们一直在抛弃盟友......

联想到本新闻，一个英语新闻说，中国的人工智能追近英伟达；但一堆中文评论冷嘲热讽这是假新闻。正如，一个美国大使说美国不是绝对的老大了，一个英国人跑过来拼命反对否认，呵呵呵，这是在太像那啥啥不急，XX急了，哈哈哈哈。

richardyuan2009

那些冷嘲热讽的，一个很简单的经济学问题：对消费者而言，这个世界是有一定竞争好呢，还是没有竞争好呢？

或者举个栗子，假设你在找男朋友/女朋友， 而地球上只有一个男的或女的，或者有多个男的女的供你选择，哪样对你更好？

sun-shine

凯瑟琳琳 发表于 2025-7-27 09:01
华为那套AI系统就是为了堆参数给领导看、给粉红用来开心的。性能指标写得花里胡哨，实际能耗高得离谱，稳定 ...

实用科技， 投入那么大， 风险那么大。  那是傻瓜美国人搞的。

只要呼吁“开源”， “合作” 。 那么中共的官宣高科技公司， 就可以专注于"宣传科技“了。  到时候抄一抄， 换个皮就可以了。

凯瑟琳琳

两个月前还自己说芯片比美国落后一代，现在突然就跟美国掰手腕了，华为口径也不统一一下

华为芯片还落后美国一代，任正非称正通过多种方式弥补差距
https://www.oursteps.com.au/bbs/ ... 870036&mobile=1

215066

凯瑟琳琳 发表于 2025-7-27 18:20
两个月前还自己说芯片比美国落后一代，现在突然就跟美国掰手腕了，华为口径也不统一一下

华为芯片还落后美 ...

芯片和系统的意思搞清楚前  还是先别急着发表高见了

toughzero

芯片能不能用、好不好用不知道，咱不专业没法评论。但华为自上而下、自下而上的傲娇是真真的。国内华为的同学说他们已经基本不提以客户为中心了，大事小情的决策一切向利润看齐，能敲客户一笔是一笔。

oed

richardyuan2009 发表于 2025-7-27 15:53
那些冷嘲热讽的，一个很简单的经济学问题：对消费者而言，这个世界是有一定竞争好呢，还是没有竞争好呢？

...

是的，要有竞争，在中国，国家层面是实行一党制，这没竞争对手，一党独大，为所欲为。企业层面，华为在中国也是独大，没有对手竞争企业，就连提出对华为企业问题质疑声都有可能带来无妄之灾。

朝花夕拾杯中酒

战忽局全力出动

oed

toughzero 发表于 2025-7-27 18:32
芯片能不能用、好不好用不知道，咱不专业没法评论。但华为自上而下、自下而上的傲娇是真真的。国内华为的同 ...

这就是垄断所带来的问题，而且是裹挟着民族，并依附国家机器所产生的狂妄，这不是傲娇。

朝花夕拾杯中酒

oed 发表于 2025-7-27 19:17
是的，要有竞争，在中国，国家层面是实行一党制，这没竞争对手，一党独大，为所欲为。企业层面，华为在中 ...

追赶时期，为了效率，只能这样。没有最优解，这是能找到的次优解了。挑错，反对的功能，目前有阿美和海外自干反承担。到目前运行得挺好的

oed

朝花夕拾杯中酒 发表于 2025-7-27 19:26
追赶时期，为了效率，只能这样。没有最优解，这是能找到的次优解了。挑错，反对的功能，目前有阿美和海外 ...

你说的很哲理，也难怪近来各地各种怪事层出不穷。追赶时期，为了效率，只能这样。

persist

dootbear 发表于 2025-7-27 12:00
以存强算，弹性内存改写“算存绑定”。

华为云首创了EMS弹性内存存储，打破传统GPU算力与显存绑定的关键 ...

虽然不明觉厉，但可以听到啪啪的打脸声

gamalot

以下内容转自该大会官网：

大会简介

大会名称 世界人工智能大会暨人工智能全球治理高级别会议
大会时间 会议：2025年7月26日-28日 | 展览：2025年7月26日-29日
大会地点 中国上海
大会形式 会议论坛、展览展示、评奖赛事、智能体验、创新孵化

习近平总书记指出，人工智能是新一轮科技革命和产业变革的重要驱动力量，要推动我国新一代人工智能健康发展。2020年，习总书记在浦东开发开放30周年庆祝大会上要求，上海要聚焦关键领域，发展创新型产业，加快打造人工智能等领域的世界级产业集群。

经国务院批准，世界人工智能大会（WAIC）由外交部、国家发展和改革委员会、工业和信息化部、教育部、科学技术部、国务院国有资产监督管理委员会、国家互联网信息办公室、中国科学院、中国科学技术协会和上海市人民政府共同主办。大会自2018年创办以来大会已成功举办七届，始终坚持国际化、高端化、专业化、年轻化等发力方向，逐步成长为全球人工智能领域最具影响力的行业盛会，是由国家有关部门和上海市共同打造的国际高端合作交流平台。

2025年，世界人工智能大会暨人工智能全球治理高级别会议继续发挥“科技风向标、应用展示台、产业加速器、治理议事厅”的重要作用，打造“会议论坛、展览展示、评奖赛事、智能体验、创新孵化”五大核心内容，汇聚世界顶级科学家、企业家、政府官员、专家学者、国际组织、投资人、初创团队等，搭建世界级合作交流平台，向世界展示“中国智慧”、“上海方案”，不断以中国新发展为世界提供新机遇。

朝花夕拾杯中酒

oed 发表于 2025-7-27 19:48
你说的很哲理，也难怪近来各地各种怪事层出不穷。追赶时期，为了效率，只能这样。 ...

这个时候，要靠你们的努力了

xmessa

华为的芯片确实还不如NV

但是华为的高速多芯片互联技术 不是NV能碰瓷的

NV短时间内很难 在大带宽算力卡数量的上追上华为 这刚好是华为的强项

至于华为能不能在单卡性能追上NV 估计至少也要一两年

现在集群性能已经不相伯仲了 所以才有网信办点名NV后门的事件 这是在给国内企业发不准买的暗号

现在腾讯和字节因为不想放弃CUDA的便利 本来还想下单H20 现在看来是不得不转向华为的架构了

接下来很可能中美将出现2种架构并行的画面 华为也会获得大量市场资金补充 从而在追赶收入减少的NV上更加从容

amyo(∩_∩)o

我就想知道你们这些在这里吹和踩的真的懂吗。还是屁股决定的？
反正我是不懂，我要是真懂的话就去赚钱了，哪有时间来这里吹踩

victorzero

richardyuan2009 发表于 2025-7-27 15:53
那些冷嘲热讽的，一个很简单的经济学问题：对消费者而言，这个世界是有一定竞争好呢，还是没有竞争好呢？

...

对消费者来说肯定是在规定框架下的有限度良性竞争更好.
当某个竞争者可以无视一切法律和道德,水军律师函黑道白道无所不用其极的对付上下游友商以及消费者时,情况就完全不一样了.

拿你的例子来说
男朋友的话,就是早期起点爽文那种无脑开挂怼天怼地怼空气一言不合杀全家的龙傲天.你要从头到尾爬舔还能做炉鼎后宫工具人什么的,稍微有点不敬就只能做rbq了.
女朋友的话,就是里番腹黑病娇女主.用黄毛大叔等各种道具把其他女的统统轮到阿嘿,然后把你切碎藏家这样你就永远不能看其他人碰其他人背叛"纯洁的"爱情了.

摩尔公园

正反都是赢，我觉得市场占有率先干过AMD再来说这些也不迟。

星星星星

隔壁新闻，
中国人工智能公司DeepSeek因无法使用华为芯片对新模型进行训练， 迫使其转而使用 Nvidia 芯片进行训练，使用华为的芯片进行推理...