谷歌表示其AI芯片比英伟达的A100芯片更快，更环保

dootbear

路透社：谷歌表示其AI芯片比英伟达的A100芯片更快，更环保

路透社4月4日消息，据报道，谷歌公司发布了关于其用于训练人工智能模型的超级计算机的新细节。

谷歌称他们的超级计算机系统比英伟达公司的可比系统更快，更节能。

谷歌设计了自己的定制芯片，称为张量处理单元( Tensor Processing Unit, TPU )。

谷歌将这些自己研发的芯片用于公司超过90%的人工智能训练工作。

谷歌可以通过模型输入数据，以使其在诸如以人类文本回答查询，或生成图像等任务中可以完成人类给出的指令和任务。

谷歌的张量处理单元现已进入第四代。

周二，谷歌发表了一篇科学论文，详细介绍了如何将超过四千块芯片串联起来，使用他们自行开发的光学开关来帮助连接各个机器，从而构建一台超级计算机。

改善这些超级芯片的连接已成为构建人工智能超级计算机公司之间的关键竞争点。

因为支持谷歌的Bard或OpenAI的ChatGPT等技术的所谓大型语言模型，已经变得非常庞大，无法存储在单个芯片上。

这些模型必须分布在数千块芯片上，然后这些芯片必须在数周或更长时间内一起工作来训练模型。

谷歌的PaLM模型是其迄今为止公开披露的最大语言模型，它是通过将模型分成两部分，在两台4000芯片的超级计算机上进行了50天的训练而成的。

谷歌表示，他们的超级计算机可以轻松地动态重新配置芯片之间的连接，有助于避免故障并进行性能优化。

谷歌公司研究员Norm Jouppi和谷歌公司杰出工程师David Patterson在有关该系统的博客文章中写道，谷歌设计的电路交换，使得绕过故障组件变得容易。

这种灵活性甚至允许我们改变超级计算机互连的拓扑结构，以加速ML（机器学习）模型的性能。

虽然谷歌现在才公布其超级计算机的详细信息，但它自2020年起就已经在俄克拉荷马州梅斯县（Mayes  county）的一个数据中心内部上线。

谷歌表示，初创人工智能绘图公司Midjourney使用该系统来训练其模型，该模型在输入几个单词的文本后，可以发射生成全新，符合要求的图像。

在论文中，谷歌表示，对于同样规模的系统，与基于英伟达的A100芯片的系统相比，其芯片的速度最高可快1.7倍，能效最高可提高1.9倍，而该芯片是与第四代张量处理单元同时上市的。

一名英伟达的发言人就拒绝对此发表评论。

谷歌表示，它没有将其第四代芯片与英伟达当前的旗舰H100芯片进行比较，因为H100芯片是在谷歌的芯片之后上市的，并采用了更新的技术。

谷歌暗示，他们可能正在开发一款新的张量处理单元芯片，来和英伟达的H100芯片竞争。

不过，谷歌并没有提供任何详细信息。










来源：

https://www.reuters.com/technolo ... -nvidia-2023-04-05/

By Stephen Nellis

elin-lu

听上去不错

waterflyerzhang

表示有用还来发个毛线

dootbear

2023年是AI大爆发的一年。

superdigua

>>谷歌表示，它没有将其第四代芯片与英伟达当前的旗舰H100芯片进行比较，因为H100芯片是在谷歌的芯片之后上市的，并采用了更新的技术

H100 也上市好一阵子了

superdigua

“这个机器学习中心拥有8个Cloud TPU v4 Pod，这些Pod是基于谷歌最大神经模型的相同网络基础设施进行定制构建的。” Pichai说。谷歌的TPU v4 Pod由4,096个TPU v4芯片组成，每个芯片提供275 teraflops的面向机器学习的bfloat16（“brain floating point”）性能。总体而言，这意味着每个TPU Pod拥有约1.13 bfloat16 exaflops的人工智能计算能力 - 在Mayes县数据中心的Pod总计为9 exaflops。谷歌表示，这使其成为世界上“累计计算能力最大”的大型中心之一，至少在公共可访问的中心中是如此。



https://www.hpcwire.com/2022/05/ ... s-9-exaflops-of-ai/

TPU v4 确实很快。带宽大，而且功耗低。

dootbear

有竞争，才有进步

如果仅有英伟达一家独大，对AI芯片发展不利。

superdigua

dootbear 发表于 2023-4-6 06:59
有竞争，才有进步

如果仅有英伟达一家独大，对AI芯片发展不利。

谷歌的 AI 芯片不对外销售。

用户必须把数据交给谷歌。

dootbear

superdigua 发表于 2023-4-6 07:13
谷歌的 AI 芯片不对外销售。

用户必须把数据交给谷歌。

这个嘛，不好。
独吞

superdigua

dootbear 发表于 2023-4-6 07:14
这个嘛，不好。
独吞

比独吞更糟糕。

有侵占用户数据和算法的嫌疑。

AFL123

快速浏览了一下，没看出来什么方面
说明更环保的

dootbear

AFL123 发表于 2023-4-6 08:18
快速浏览了一下，没看出来什么方面
说明更环保的

是不是这样说，每一次算力，用了更少的电力，所以更环保了。

dootbear

superdigua 发表于 2023-4-6 07:16
比独吞更糟糕。

有侵占用户数据和算法的嫌疑。

嗯

霸王

fat_square

有点像三体里希恩斯和惠子的超级计算机。

woshidajiangyou

dootbear 发表于 2023-4-5 20:48
2023年是AI大爆发的一年。

我乌鸦嘴一下

也许20-30年后，大家才发现，人类自我掘墓是从2023开始的，正是这一年，实现了ai突破

dootbear

woshidajiangyou 发表于 2023-4-6 08:33
我乌鸦嘴一下

也许20-30年后，大家才发现，人类自我掘墓是从2023开始的，正是这一年，实现了ai突破 ...

如果真滴出现了。

碳基生命比不过硅基生命。。。

你看看智子是不是比人类强大很多，很多。

大智慧

woshidajiangyou 发表于 2023-4-6 08:33
我乌鸦嘴一下

也许20-30年后，大家才发现，人类自我掘墓是从2023开始的，正是这一年，实现了ai突破 ...

这句话我在阿尔法狗硬旗的时候就听过。。。

dootbear

阿尔法狗没有影响到普通大众。

现在这个 ChatGPT，影响到千千万万的人了。

当然，这个影响有好，也有坏。。。

交易人生

你论文比人家快1倍有个屁用，等实物出来了，人家已经a200了。

dootbear

交易人生 发表于 2023-4-6 09:24
你论文比人家快1倍有个屁用，等实物出来了，人家已经a200了。

群雄并起的年代。

交易人生

dootbear 发表于 2023-4-6 09:50
群雄并起的年代。

nvidia在gpu上搞了很多很多年，而gpu正符合ai芯片的需求，这种技术积累不是一般公司能够追上来的，amd到有可能，没听说过google搞过芯片，总之，最终要被市场认证。google属于什么东西都要搞一下，过去很多年了，好像也没搞出啥东西。

tkoz

神仙打架的年代 真的好屌！！！

dootbear

交易人生 发表于 2023-4-6 10:03
nvidia在gpu上搞了很多很多年，而gpu正符合ai芯片的需求，这种技术积累不是一般公司能够追上来的，amd到 ...

谷歌再不吹一吹他们的bard ，要被打进冷宫了。

zigzag

ChatGPT: 我一步杀一人
谷歌：我刀快。

ChatGPT: 我一步杀一人
谷歌：我刀轻。

ChatGPT: 我一步杀一人
谷歌：我还有一把刀更快更轻。

symeteor

没成品出来之前，一律当作吹牛比

WayneOZ

Google是有技术储备的，但跟OpenAI比起来真是切身实践了什么叫起个大早，赶个晚集

dootbear

刚刚查看了一下，AI芯片主要做两个事情，

一是Training（训练）

二是Inference（推理）。

目前AI芯片的大规模应用分别在云端和终端。

云端的AI芯片同时做两个事情：Training和Inference。

Training即用大量标记过的数据来“训练”相应的系统，使之可以适应特定的功能。

比如给系统海量的“龙”的图片，并告诉系统这个就是“龙”，之后系统就“知道”什么是龙了。

Inference即用训练好的系统来完成任务，接上面的例子，就是你将一张图给之前训练过的系统，让他得出这张图是不是龙这样的结论。

澳洲牧羊人

google不思进取，你不做别人会做，现在后悔，已经晚了

dootbear

澳洲牧羊人 发表于 2023-4-6 15:55
google不思进取，你不做别人会做，现在后悔，已经晚了

稍微躺平几分钟，就被微软弯道超车了。