|
此文章由 dootbear 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 dootbear 所有!转贴必须注明作者、出处和本声明,并保持内容完整
金融时报:亚马逊加紧开发AI芯片,欲挑战英伟达
亚马逊准备推出其最新的人工智能芯片,旨在为这家科技巨头的数十亿半导体投资带来回报,并减少对市场领导者英伟达的依赖。
亚马逊云计算部门的高管们正大力投资定制芯片,希望提高其数据中心的效率,最终降低自身及亚马逊网络服务(AWS)客户的成本。
这项工作由Annapurna Labs负责,该公司是亚马逊于2015年初以3.5亿美元收购的位于奥斯汀的芯片初创企业。
预计Annapurna的最新研发成果将在下个月展示,届时亚马逊将宣布‘Trainium 2’的广泛可用性。
这是一个面向训练大型模型的AI芯片系列。
Trainium 2已经在OpenAI的竞争对手Anthropic,日本的理光,德意志电信,Stockmark和Databricks等公司中进行测试,而Anthropic已获得亚马逊40亿美元的支持。
AWS和Annapurna的目标是挑战英伟达,这家因在AI处理器市场占据主导地位而成为全球最有价值的公司之一。
AWS计算和网络服务副总裁布朗(Dave Brown)表示,我们希望AWS能成为运行英伟达芯片的最佳平台。但同时我们也认为拥有替代选择是健康的。
亚马逊表示,其另一款专用AI芯片‘Inferentia’在生成AI模型响应时已能节省40%的运行成本。
布朗指出,当涉及到机器学习和AI时,云计算的成本通常非常高。如果你能在数百万美元的投资中省下40%,这将产生巨大影响。
亚马逊预计2024年的资本支出将达到约750亿美元,大部分用于技术基础设施。
在最新财报电话会议上,亚马逊首席执行官贾西(Andy Jassy)表示,他预计2025年的支出将更高。
相比之下,2023年全年该公司支出为484亿美元。包括微软和谷歌在内的主要云服务提供商都在AI领域进行大规模投资,且这一趋势没有减弱迹象。
亚马逊,微软和Meta都是英伟达的重要客户,但同时也在设计自己的数据中心芯片,以为预期中的AI增长浪潮打下基础。
Futurum Group的纽曼(Daniel Newman)说道,“每家主要的云服务商都在加快向垂直整合的芯片技术栈迈进”。
从OpenAI到苹果(Apple)都在寻求自制芯片,以降低生产成本,提高利润率,增加可用性,并掌握更多控制权。
Annapurna的工程总监辛诺(Rami Sinno)表示,这不仅仅是芯片的问题,而是整个系统的问题。
他曾是软银旗下的Arm和英特尔的资深工程师。
对于亚马逊的AI基础设施而言,这意味着要从基础构建所有设备,从硅片到服务器机架,所有都由亚马逊的专有软件和架构支持。
辛诺表示,“我们能够在这种规模上进行开发,这不是很多公司能够做到的。”
在为AWS构建安全芯片Nitro之后,Annapurna还开发了多代Graviton系列,这些基于Arm的CPU为英特尔或AMD传统服务器芯片提供了低功耗替代方案。
TechInsights分析师赫奇森(G Dan Hutcheson)表示,“AWS芯片的主要优势在于它们的功耗较低,数据中心可能因此更加高效,从而降低成本。”
尽管如此,AWS和Annapurna迄今为止在AI基础设施方面,几乎没有撼动英伟达的市场主导地位。
英伟达在2024年第二财季的AI数据中心芯片销售收入达到263亿美元,这一数字几乎与亚马逊整个AWS部门同期收入相同,而后者中仅有一小部分来自客户在Annapurna基础设施上的AI工作负载。
至于AWS芯片与英伟达芯片的实际性能,亚马逊避免直接比较,也不将其芯片提交独立的性能基准测试。
芯片咨询公司Moor Insights & Strategy的穆尔黑德(Patrick Moorhead)表示,“基准测试的确对最初的选择起到作用,但真正的考验是将多台机架组成的集群共同运作。”
穆尔黑德表示,他相信亚马逊关于Trainium 1到Trainium 2之间性能提升4倍的说法,但性能数据可能没有提供更多选择来得重要。
他补充道,“大家认可英伟达带来的所有创新,但没有人会对英伟达占据90%的市场份额感到舒服。这种情况不会持续太久。”
来源:
https://www.ft.com/content/3d9b5c6d-f1ae-4f6f-adc3-51e5f1dfb008
Michael Acton in Austin and Tim Bradshaw in London November 12 2024 |
|