|
微软宣布将很快将 DeepSeek-R1 AI 模型的“NPU 优化”版本引入 Copilot+ PC，首先是 Snapdragon X 设备，随后是 Intel Lunar Lake 和 AMD Ryzen AI 9 处理器。第一个版本是 DeepSeek-R1-Distill-Qwen-1.5B，并将通过 Microsoft AI Toolkit 供开发人员使用。 7B 和 14B 型号将在稍后推出。 “这些优化的模型让开发人员能够构建和部署人工智能驱动的应用程序，这些应用程序可以在设备上高效运行，充分利用 Copilot+ PC 中强大的 NPU”，宣布 DeepSeek R1 支持的微软博客文章中说道。“通过我们在 Phi Silica 上的工作，我们我们能够利用高效的推理 - 提供非常有竞争力的第一个令牌时间和吞吐率，同时对电池寿命和 PC 资源消耗的影响最小化……此外，我们利用 Windows Copilot Runtime (WCR) 来扩展使用 ONNX QDQ 格式跨越多样化的 Windows 生态系统。” 在博文中，微软重点介绍了如何确保 R1 模型能够在基于 NPU 的硬件上本地运行。 “首先，我们利用滑动窗口设计，尽管硬件堆栈中没有动态张量支持，但它可以实现超快的第一个令牌时间和长上下文支持。其次，我们使用 4 位 QuaRot 量化方案来真正利用低位处理。” 微软表示 1.5B Distilled R1 模型即将推出，并且可以通过 VS Code 中的 AI Toolkit 扩展进行访问。开发人员可以使用 Playground 在兼容的 Copilot+ PC 上本地试验 DeepSeek R1。除了在本地支持 DeepSeek R1 之外，微软还通过 Azure AI Foundry 在云端提供这些 AI 模型。 “作为 Azure AI Foundry 的一部分，DeepSeek R1 可在值得信赖、可扩展且企业就绪的平台上访问，使企业能够无缝集成先进的 AI，同时满足 SLA、安全性和负责任的 AI 承诺 - 所有这些都得到 Microsoft 可靠性和创新的支持。 ” 尽管美国科技公司对其存在感到恐慌，但微软还是迅速采取行动支持 DeepSeek R1。 OpenAI 现在声称 DeepSeek 窃取了用于开发其 AI 模型的专有代码，该模型的开发成本不到 1000 万美元。这与美国公司开发的人工智能模型形成鲜明对比，该模型迄今为止已耗资数十亿美元。 来源 https://www.msn.com/en-us/news/t ... ea999660c&ei=22 Story by Zac Bowden |
