亚马逊加紧开发AI芯片，欲挑战英伟达

dootbear

金融时报：亚马逊加紧开发AI芯片，欲挑战英伟达

亚马逊准备推出其最新的人工智能芯片，旨在为这家科技巨头的数十亿半导体投资带来回报，并减少对市场领导者英伟达的依赖。

亚马逊云计算部门的高管们正大力投资定制芯片，希望提高其数据中心的效率，最终降低自身及亚马逊网络服务（AWS）客户的成本。

这项工作由Annapurna Labs负责，该公司是亚马逊于2015年初以3.5亿美元收购的位于奥斯汀的芯片初创企业。

预计Annapurna的最新研发成果将在下个月展示，届时亚马逊将宣布‘Trainium 2’的广泛可用性。

这是一个面向训练大型模型的AI芯片系列。

Trainium 2已经在OpenAI的竞争对手Anthropic，日本的理光，德意志电信，Stockmark和Databricks等公司中进行测试，而Anthropic已获得亚马逊40亿美元的支持。

AWS和Annapurna的目标是挑战英伟达，这家因在AI处理器市场占据主导地位而成为全球最有价值的公司之一。

AWS计算和网络服务副总裁布朗（Dave Brown）表示，我们希望AWS能成为运行英伟达芯片的最佳平台。但同时我们也认为拥有替代选择是健康的。

亚马逊表示，其另一款专用AI芯片‘Inferentia’在生成AI模型响应时已能节省40%的运行成本。

布朗指出，当涉及到机器学习和AI时，云计算的成本通常非常高。如果你能在数百万美元的投资中省下40%，这将产生巨大影响。

亚马逊预计2024年的资本支出将达到约750亿美元，大部分用于技术基础设施。

在最新财报电话会议上，亚马逊首席执行官贾西（Andy Jassy）表示，他预计2025年的支出将更高。

相比之下，2023年全年该公司支出为484亿美元。包括微软和谷歌在内的主要云服务提供商都在AI领域进行大规模投资，且这一趋势没有减弱迹象。

亚马逊，微软和Meta都是英伟达的重要客户，但同时也在设计自己的数据中心芯片，以为预期中的AI增长浪潮打下基础。

Futurum Group的纽曼（Daniel Newman）说道，“每家主要的云服务商都在加快向垂直整合的芯片技术栈迈进”。

从OpenAI到苹果（Apple）都在寻求自制芯片，以降低生产成本，提高利润率，增加可用性，并掌握更多控制权。

Annapurna的工程总监辛诺（Rami Sinno）表示，这不仅仅是芯片的问题，而是整个系统的问题。

他曾是软银旗下的Arm和英特尔的资深工程师。

对于亚马逊的AI基础设施而言，这意味着要从基础构建所有设备，从硅片到服务器机架，所有都由亚马逊的专有软件和架构支持。

辛诺表示，“我们能够在这种规模上进行开发，这不是很多公司能够做到的。”

在为AWS构建安全芯片Nitro之后，Annapurna还开发了多代Graviton系列，这些基于Arm的CPU为英特尔或AMD传统服务器芯片提供了低功耗替代方案。

TechInsights分析师赫奇森（G Dan Hutcheson）表示，“AWS芯片的主要优势在于它们的功耗较低，数据中心可能因此更加高效，从而降低成本。”

尽管如此，AWS和Annapurna迄今为止在AI基础设施方面，几乎没有撼动英伟达的市场主导地位。

英伟达在2024年第二财季的AI数据中心芯片销售收入达到263亿美元，这一数字几乎与亚马逊整个AWS部门同期收入相同，而后者中仅有一小部分来自客户在Annapurna基础设施上的AI工作负载。

至于AWS芯片与英伟达芯片的实际性能，亚马逊避免直接比较，也不将其芯片提交独立的性能基准测试。

芯片咨询公司Moor Insights & Strategy的穆尔黑德（Patrick Moorhead）表示，“基准测试的确对最初的选择起到作用，但真正的考验是将多台机架组成的集群共同运作。”

穆尔黑德表示，他相信亚马逊关于Trainium 1到Trainium 2之间性能提升4倍的说法，但性能数据可能没有提供更多选择来得重要。

他补充道，“大家认可英伟达带来的所有创新，但没有人会对英伟达占据90%的市场份额感到舒服。这种情况不会持续太久。”






来源：

https://www.ft.com/content/3d9b5c6d-f1ae-4f6f-adc3-51e5f1dfb008

Michael Acton in Austin and Tim Bradshaw in London November 12 2024

dootbear

本文要点:

1. 亚马逊正大力开发AI芯片Trainium 2和Inferentia，以降低成本并减少对英伟达的依赖。

2. Annapurna Labs负责亚马逊AI芯片的研发，未来将推出多款低功耗、高效能的芯片。

3. 英伟达在AI芯片市场占主导地位，但亚马逊希望为客户提供更多选择。

4. 亚马逊2024年的资本支出预计达到750亿美元，大多用于技术基础设施。

5. 微软，谷歌等科技巨头也在加码AI投资，推动芯片自研以增强市场控制权。

6. 亚马逊芯片设计强调系统整合，覆盖从芯片到服务器架构的全套解决方案。

7. 亚马逊芯片的低功耗和高效能优势可能在未来削减数据中心的运行成本。

8. 行业专家认为英伟达市场份额过大，未来可能出现更多竞争者填补市场空白。

那卡西

台鸡店得利？