新足迹 › 论坛 › 澳洲生活区 › 新闻汇总 › 澳洲和世界时政 › 小型中国AI初创公司DeepSeek震惊硅谷

精华好帖回顾
· 行车记录仪布线 (2013-2-1) 大饼	· 喀纳斯风光 (2013-12-18) flyingdog12321
· 入口即化的萝卜丝酥饼 (2012-9-2) wwwjs	· 猫之伤心~第四页更新pp和领养联系方式 (2011-3-17) 空瓶子

12 / 2 页

楼主:dootbear

小型中国AI初创公司DeepSeek震惊硅谷 [复制链接]

dootbear

版主

发表于 2025-1-27 09:25 |显示全部楼层

此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整

很多人的着眼点在于DS用很少的卡也能训练出效果差不多的模型，但这是结果，更重要的他能做到这一点的技术：

DS这次最亮眼的是证明了纯粹的outcome reward RL能够直接把模型提到o1水平，在他出来之前，业内所有人（包括deepmind）都认为需要prm （process reward model）才能做到这点。

这就已经是颠覆行业的发现了，现在所有除gpt外的llm大组，都在推倒重来，各大模型都正在copying他们的训练方法。

仰望星空：南风车星系M83
M83南风车星系，在长蛇座，直径12万光年，距离地球一千五百万光年，是南半球看到最明亮和最近的棒旋星系之一。图中还看到距离我们22亿光年的PGC 88914星系。

dootbear

版主

发表于 2025-1-27 09:26 |显示全部楼层

此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整

另外非常重要的是DS还研发出这种训练方式，甚至能够让模型自己学会longer-chain reasoning以及reflection，他们所谓“aha moment”。

相当于只训练llm得到更准确的结果，LLM就能自己学会反思，思考到一半知道自己这样做下去会错，然后尝试自己纠错。

这种模型“自我进化”的特性，是业内仅次于GPT intelligence emergence的重大发现。

dootbear

版主

发表于 2025-1-27 09:28 |显示全部楼层

此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整

就结果而言，“用更少的卡训练出效果差不多的模型”可能不仅仅是节约成本这么简单，更是一种improvement of scaling law。

这意味着这种方法往上堆更多的卡，有可能把模型能力再往上提升一个数量级，甚至直接达到AGI/ASI。

这就是为什么这次业内这么沸腾，DS开源的价值远大于llama，llama基本是大家已知的方法堆卡训练。

DS的研发和开源，改变了AI赛道的游戏规则，带来了太多的惊喜。

DDD888

银靴族

发表于 2025-1-27 09:41 |显示全部楼层

此文章由 DDD888 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 DDD888 所有！转贴必须注明作者、出处和本声明，并保持内容完整

dootbear 发表于 2025-1-27 09:25
很多人的着眼点在于DS用很少的卡也能训练出效果差不多的模型

DeepSeek Has 50,000 NVIDIA H100 AI GPUs

https://wccftech.com/chinese-ai- ... i-gpus-says-ai-ceo/

What is the truth?

Hillsroo

布鞋族

发表于 2025-1-27 09:44 |显示全部楼层

此文章由 Hillsroo 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 Hillsroo 所有！转贴必须注明作者、出处和本声明，并保持内容完整

太给力

独步闲庭

铜靴族

发表于 2025-1-27 09:59 来自手机 |显示全部楼层

此文章由独步闲庭原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者独步闲庭所有！转贴必须注明作者、出处和本声明，并保持内容完整

拜登捂着不让出口的AI战略被冲击的稀巴烂。以后穷国小国也可以大展身手。

shuobuzuji

木屐族

发表于 2025-1-27 09:59 来自手机 |显示全部楼层

此文章由 shuobuzuji 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 shuobuzuji 所有！转贴必须注明作者、出处和本声明，并保持内容完整

有人认为这属于踹瘸子那条好腿：）

yybsn

银靴族

发表于 2025-1-27 09:59 |显示全部楼层

此文章由 yybsn 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 yybsn 所有！转贴必须注明作者、出处和本声明，并保持内容完整

看到足迹首页头三条新闻全部是中国智能AI牛逼的新闻，我怀疑我是不是在看人民日报，头版都是习主席的消息……

春暖花开2020

皮靴族

发表于 2025-1-27 10:02 |显示全部楼层

此文章由春暖花开2020 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者春暖花开2020 所有！转贴必须注明作者、出处和本声明，并保持内容完整

太棒啦！

qzhang10

金靴族

发表于 2025-1-27 10:07 |显示全部楼层

此文章由 qzhang10 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 qzhang10 所有！转贴必须注明作者、出处和本声明，并保持内容完整

此时崩溃哥正在全网疯狂google...

Evo

钻石靴族

发表于 2025-1-27 10:41 来自手机 |显示全部楼层

此文章由 Evo 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 Evo 所有！转贴必须注明作者、出处和本声明，并保持内容完整

dootbear 发表于 2025-1-27 08:28
就结果而言，“用更少的卡训练出效果差不多的模型”可能不仅仅是节约成本这么简单，更是一种improvement of ...

对AI没什么研究。看了红版的注解，感觉这个AI公司最大的成果是改进了AI自我学习的过程，从而有望改变业界的规则，这么理解对吗？

评分

参与人数 1	积分 +4	收起理由
dootbear	+ 4	你太有才了

查看全部评分

There are three types of people: those who make things happen, those who watch things happen, and those who wonder what happened.

dootbear

版主

发表于 2025-1-27 10:50 来自手机 |显示全部楼层

此文章由 dootbear 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 dootbear 所有！转贴必须注明作者、出处和本声明，并保持内容完整

Evo 发表于 2025-1-27 10:41
对AI没什么研究。看了红版的注解，感觉这个AI公司最大的成果是改进了AI自我学习的过程，从而有望改变业界 ...

Yann LeCun （Meta副总裁兼首席AI科学家）发文：

给那些看到 DeepSeek 的表现后，觉得「中国在 AI 方面正在超越美国」的人：

- 你们的解读是错的。

- 正确的解读应该是：「开源模型正在超越专有模型。」

DeepSeek 得益于开源研究和开源项目（例如 PyTorch 和来自 Meta 的 Llama）。

DS他们在他人工作的基础上，提出了新想法并进行了构建。

因为他们的工作是公开且开源的，所以每个人都能从中受益。

这就是开放研究与开源的力量！