新足迹

 找回密码
 注册

精华好帖回顾

· 思念 (祭外婆) (2008-4-20) fish770 · 准备买房但在考虑区域问题的请进(mel) ****P2 加新**** (2007-1-31) hermes
· 吾心安处是故乡(一,二) (2005-11-20) 单衣纵酒 · 向往那个孩子(看得我太羡慕了,忍不住码字中...) (2008-9-25)
Advertisement
Advertisement
查看: 2328|回复: 26

[信息讨论] 2023年,AI芯片领域,半导体女王Su领导的AMD大有赶超AI教父Huang打造的NVIDIA之势? [复制链接]

发表于 2023-8-20 12:40 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
本帖最后由 技术控 于 2023-8-20 12:47 编辑

虽然目前AMD市值和Intel差不多,仅仅是NVIDIA的一个零头。但AMD已经有一定的GPU优势,一旦井喷,未来价值不可小觑
你对此有什么看法?
Advertisement
Advertisement

发表于 2023-8-20 12:41 |显示全部楼层
此文章由 pzh 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 pzh 所有!转贴必须注明作者、出处和本声明,并保持内容完整
2个台湾人在美国打起来了
头像被屏蔽

禁止发言

发表于 2023-8-20 12:48 来自手机 |显示全部楼层
此文章由 DaftPunk 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 DaftPunk 所有!转贴必须注明作者、出处和本声明,并保持内容完整
看来华人还是很厉害的 只是大陆华人比较差而已

发表于 2023-8-20 12:50 |显示全部楼层
此文章由 AnakinSkywalker 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 AnakinSkywalker 所有!转贴必须注明作者、出处和本声明,并保持内容完整
冷知识,这两人是亲戚

发表于 2023-8-20 13:06 来自手机 |显示全部楼层
此文章由 righttang 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 righttang 所有!转贴必须注明作者、出处和本声明,并保持内容完整
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就能跑起来了。CPU和GPU要共享内存

发表于 2023-8-20 13:48 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
righttang 发表于 2023-8-20 13:06
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就 ...

跑都能跑,你要看跑的速度
Advertisement
Advertisement

发表于 2023-8-20 13:50 |显示全部楼层
此文章由 righttang 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 righttang 所有!转贴必须注明作者、出处和本声明,并保持内容完整
技术控 发表于 2023-8-20 13:48
跑都能跑,你要看跑的速度

我觉得速度不错啊,40毫秒1个Token,基本能用

发表于 2023-8-20 13:53 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
righttang 发表于 2023-8-20 13:06
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就 ...

别说8块4090并联,单独1块4090就能吊打最高配mac studio或M2 Ultra的GPU了

评分

参与人数 1积分 +12 收起 理由
superdigua + 12 我很赞同

查看全部评分

发表于 2023-8-20 13:56 |显示全部楼层
此文章由 xxxxyyyy 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 xxxxyyyy 所有!转贴必须注明作者、出处和本声明,并保持内容完整
本帖最后由 xxxxyyyy 于 2023-8-20 14:45 编辑

M2 Ultra优势在于显存大,统一内存全部都可以当显存用,可以完整的把离线AI本地跑起来

至于速度确实不如4090,问题是4090才24GB ram,一块没法完整跑起来一个离线AI项目。

如果苹果后续更强劲处理器会慢慢跟上,还是很有前途的架构。
头像被屏蔽

禁止发言

发表于 2023-8-20 14:09 |显示全部楼层
此文章由 ficooool 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 ficooool 所有!转贴必须注明作者、出处和本声明,并保持内容完整
路过看看

2019年度勋章

发表于 2023-8-20 14:10 |显示全部楼层
此文章由 superdigua 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 superdigua 所有!转贴必须注明作者、出处和本声明,并保持内容完整
righttang 发表于 2023-8-20 13:06
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就 ...

认知决定命运。异议并非敌意。质疑不代表恶意。我的观点当然可能是错误的。
舆论自由是现代文明的基石。舆论管制:为了预防男性强奸而直接阉割。
Advertisement
Advertisement

发表于 2023-8-20 14:23 来自手机 |显示全部楼层
此文章由 yzh1999 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 yzh1999 所有!转贴必须注明作者、出处和本声明,并保持内容完整
superdigua 发表于 2023-8-20 14:10

发表于 2023-8-20 14:26 来自手机 |显示全部楼层
此文章由 大智慧 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 大智慧 所有!转贴必须注明作者、出处和本声明,并保持内容完整
又想到了这个段子

2016年,某部门拆开英伟达的1080ti显卡,调用100名顶尖半导体人才,几十所大学,数百个加工厂,齐心合力,众志成城,终于在2022年制造出了达到1080ti 20%算力的显卡

此时,4090已经上市

某部门不服,决定亲自访问英伟达,探寻显卡制造的诀窍

说明来意后,黄仁勋支开了所有随行人员,带着领导回到了自己家厨房

从烤箱里拿出了999999990ti,然后用刀切出了1080,2080,3090,4090,5090,6090等显卡。

发表于 2023-8-20 14:27 来自手机 |显示全部楼层
此文章由 yzh1999 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 yzh1999 所有!转贴必须注明作者、出处和本声明,并保持内容完整
righttang 发表于 2023-8-20 13:06
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就 ...

Inference和training以后会是两条不同产品线

发表于 2023-8-20 15:10 |显示全部楼层
此文章由 Udum 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 Udum 所有!转贴必须注明作者、出处和本声明,并保持内容完整
两个都得靠台鸡店。
头像被屏蔽

禁止发言

发表于 2023-8-20 16:28 |显示全部楼层
此文章由 Nincompoop 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 Nincompoop 所有!转贴必须注明作者、出处和本声明,并保持内容完整
井喷的前提是,市场开放,全世界能够大量消费起这些高价芯片的公司就是那么些,中美关系不缓和,就没戏
Advertisement
Advertisement
头像被屏蔽

禁止发言

发表于 2023-8-20 16:32 |显示全部楼层
此文章由 Nincompoop 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 Nincompoop 所有!转贴必须注明作者、出处和本声明,并保持内容完整
righttang 发表于 2023-8-20 13:06
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就 ...

苹果并不是真正意义的科技公司

发表于 2023-8-20 17:03 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
xxxxyyyy 发表于 2023-8-20 13:56
M2 Ultra优势在于显存大,统一内存全部都可以当显存用,可以完整的把离线AI本地跑起来

至于速度确实不如40 ...

速度是被吊打的。苹果有些方面确实不错,但太轻量级了,而且bug一直不少,没微软厉害。M1 Max除了听歌看视频运行几个基本软件,重量级还得到AMD/Intel上去做

发表于 2023-8-21 23:58 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
苹果M芯片机器可以胜任轻量级应用(看视频听高阻耳机是强项),但重量级最好还是回到x86机器







本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x

发表于 2023-8-22 00:06 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
righttang 发表于 2023-8-20 13:06
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就 ...


轻量级Metal可能是一种趋势

发表于 2023-8-22 00:24 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
本帖最后由 技术控 于 2023-8-22 00:26 编辑
righttang 发表于 2023-8-20 13:06
我觉得GPU不是趋势啊,而是苹果的Metal架构。你要8块4090并联才能跑的Llama2 70B 一台1万刀的mac studio 就 ...


Metal架构最终基于硬件,苹果最重量级的M芯片也只是类似于RISC 5架构,Reduced Instruction Set Computer,而不是CISC,C-Complex. 轻量级client side是没问题,重量级workstation/server还是差一些(小型都是Ultra,等于两块Max)。大型服务器就不说了,基本没可能用类似于RISC 5架构的苹果M芯片
Advertisement
Advertisement

发表于 2023-8-22 00:44 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
AMD和NVIDIA在AI和各自领域里是绝对的重量级

发表于 2023-8-25 10:35 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
AI教父说:一个新的计算时代已经开始!
一天前NVIDIA报告2023第二季度财报Revenue同比上涨101%,环比上涨88%,Profit大幅上涨,这两天NVIDIA股票又大涨,昨天NADAQ大跌2.2%下还是涨了0.1%
据说印度极低成本登月成功的飞船也用NVIDIA芯片执行AI运算

发表于 2023-8-25 10:38 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
NVIDIA DGX A100

发表于 2023-8-25 10:39 |显示全部楼层
此文章由 技术控 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 技术控 所有!转贴必须注明作者、出处和本声明,并保持内容完整
本帖最后由 技术控 于 2023-8-25 20:10 编辑

看AMD会带来什么惊喜?
头像被屏蔽

禁止发言

发表于 2023-8-29 17:55 |显示全部楼层
此文章由 如意福星 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 如意福星 所有!转贴必须注明作者、出处和本声明,并保持内容完整
高科技
Advertisement
Advertisement

发表于 2023-8-29 18:42 来自手机 |显示全部楼层
此文章由 古月 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 古月 所有!转贴必须注明作者、出处和本声明,并保持内容完整
我前两个月也是这么想的,看AMD回调就接了点,结果

发表回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Advertisement
Advertisement
返回顶部