美国考虑限制中国访问像ChatGPT这样应用程序背后的AI软件

dootbear

路透社独家报道：美国考虑限制中国访问像ChatGPT这样应用程序背后的AI软件

路透社华盛顿5月8日消息，据消息人士透露，拜登政府即将在其保护美国人工智能免受中国和俄罗斯侵害的努力中开辟新战线，初步计划设立防护措施，围绕像ChatGPT这样的人工智能系统核心软件的最先进AI模型。

三位熟悉此事的人士说，商务部正在考虑一项新的监管推动，限制出口专有或闭源AI模型，这些模型的软件及其训练数据被严格保密。

任何行动将补充过去两年中实施的一系列措施，这些措施旨在阻止向中国出口先进的AI芯片，以减缓北京在军事用途上发展尖端技术的速度。即便如此，监管机构仍难以跟上行业的快速发展。

商务部拒绝对此发表评论，而华盛顿的俄罗斯大使馆也没有立即回应评论请求。

中国大使馆则称此举为“典型的经济胁迫和单边欺凌行为，中国坚决反对”，并表示将采取“必要措施”保护其利益。

目前，没有任何事物能阻止像微软，Alphabet旗下的Google DeepMind以及竞争对手Anthropic等美国AI巨头们将他们开发的一些最强大的闭源AI模型出售给世界上几乎任何人，而无需政府监管。

政府和私营部门的研究人员担心，美国的对手可能会利用这些模型，这些模型能够挖掘大量文本和图像来总结信息和生成内容，发动侵略性网络攻击，甚至制造强大的生物武器。

其中一位消息人士表示，任何新的出口控制措施可能会针对俄罗斯、中国、朝鲜和伊朗。微软在2月份的一份报告中表示，它追踪到与中国和朝鲜政府以及俄罗斯军事情报机构和伊朗革命卫队相关的黑客组织，这些组织试图利用大型语言模型完善他们的黑客活动。

计算能力

为了制定对AI模型的出口控制，消息人士说，美国可能会采用去年10月发布的一个AI执行令中包含的一个门槛，该门槛基于训练模型所需的计算能力。达到该水平时，开发者必须向商务部报告其AI模型开发计划并提供测试结果。

根据两位美国官员和另一位了解讨论的消息人士的说法，这个计算能力门槛可能成为确定哪些AI模型将受到出口限制的基础。他们拒绝具名，因为细节尚未公开。

如果使用，它可能只限制尚未发布的模型的出口，尽管据EpochAI，一个追踪AI趋势的研究机构，认为尚未有模型达到这一门槛，但Google的Gemini Ultra被视为接近此门槛。

该机构距离最终确定规则提案还有很长的路要走，消息人士强调。但这一举措正在考虑中，这表明美国政府正在寻求填补其阻止北京AI雄心的努力中的空白，尽管在这项快速发展的技术上实施强有力的监管制度面临严峻挑战。

前国家安全委员会官员彼得·哈雷尔（Peter Harrell）说，随着拜登政府考虑与中国的竞争以及复杂AI的危险，AI模型“显然是你需要在这里考虑的工具之一，是潜在的控制点之一”。

他补充说，“实际上，你是否能将其转化为一个可控制的出口控制点，这还有待观察。”

生物武器和网络攻击？

美国情报界、智库和学术界越来越担心外国不法行为者获得先进AI能力所带来的风险。Gryphon Scientific和兰德公司（Rand Corporation）的研究人员指出，先进AI模型可以提供有助于制造生物武器的信息。

国土安全部在其2024年国土威胁评估中表示，网络行动者很可能会使用AI“开发新工具”，以“实现更大规模、更快速、更高效和更具逃避性的网络攻击”。

国家情报总监办公室的官员布赖恩·霍尔姆斯（Brian Holmes）在三月份的一次出口控制会议上说，“AI的使用和开发潜力是激进的，我们实际上很难跟上这一趋势”，他特别提到了中国的进步。

AI打压

为了解决这些担忧，美国已采取措施阻止美国AI芯片及其制造工具流向中国。

它还提议要求美国云公司告知政府，当外国客户使用其服务训练可能用于网络攻击的强大AI模型时。

但到目前为止，它还没有处理AI模型本身。负责美国出口政策的商务部官员艾伦·埃斯特维兹（Alan Estevez）去年12月表示，该机构正在考虑针对开源大语言模型（LLM）出口的监管选项，之前会征求业界反馈。

华盛顿特区智库CNAS的AI政策专家提姆·菲斯特（Tim Fist）表示，这个门槛“是在我们开发出更好的评估新模型的能力和风险的方法之前的一个好的临时措施。”

前白宫和司法部官员贾米尔·贾弗（Jamil Jaffer）表示，拜登政府不应使用计算能力门槛，而应选择基于模型的功能和预期用途的控制。“关注国家安全风险而不是技术门槛是更好的策略，因为它更持久并且专注于威胁，”他说。

这个门槛并不是固定不变的。一位消息人士表示，商务部最终可能会设定一个较低的门槛，同时考虑其他因素，比如数据类型或AI模型的潜在用途，例如设计蛋白质的能力，这些蛋白质可以用来制造生物武器。

无论门槛如何，控制AI模型出口都将是困难的。许多模型是开源的，这意味着它们将继续不在正在考虑的出口控制之内。

即使对更先进的专有模型实施控制也将是一项挑战，因为监管机构可能很难确定正确的标准来决定哪些模型应该被控制，菲斯特说，并指出中国在开发自己的AI软件方面可能只落后美国两年。

正在考虑的出口控制将影响对一些消费应用程序背后的后端软件的访问，如ChatGPT，但不会限制对下游应用程序本身的访问。





来源：

https://www.reuters.com/technolo ... chatgpt-2024-05-08/

By Alexandra Alper
May 9, 20245:27 AM GMT+10Updated an hour ago

dootbear

本文要点：

1. 拜登政府考虑设立防护措施，围绕像ChatGPT这样的AI系统核心软件的最先进AI模型，以保护美国人工智能免受中国和俄罗斯的侵害。

2. 商务部正在考虑新的监管措施，限制出口专有或闭源AI模型，以减缓中国在军事技术上的发展速度。

3. 消息人士透露，可能会采用一个基于AI模型训练所需计算能力的门槛，来限制某些AI模型的出口。

4. 尽管存在监管上的挑战，美国政府正在努力关闭其在阻止北京AI雄心方面的漏洞，这显示了美国对抗中国在高级AI技术方面威胁的决心。

figtree1

根据美国只许州官放火，不许百姓点灯的行为模式，相信美国正在使用AI“开发新工具”，以“实现更大规模、更快速、更高效和更具逃避性的网络攻击”。

depedro

openai的模型不给你用，但tiktok的模型必须卖给我

alven

depedro 发表于 2024-5-9 07:13
openai的模型不给你用，但tiktok的模型必须卖给我

tiktok没有必须卖吧？也可以选择离开美国市场

alven

独裁社会应该跟open AI这些开源模型是天然不相容的，难道需要训练chatgpt那些能说，那些需要禁言？

挑灯亮剑

只怕是物理断网才能做到。

fxdestiny1

中国不是早就ban了chatgpt吗。。。

hikeman

figtree1 发表于 2024-5-9 07:00
根据美国只许州官放火，不许百姓点灯的行为模式，相信美国正在使用AI“开发新工具”，以“实现更大规模、更 ...

在大陆，需违法翻墙，才能访问ChatGPT。美国限制该访问，不是正中中国的心意嘛？完全是共军的友军啊，这都分不清？

yuzilu

chatgpt不能接触工业数据，当前对生产力的提高是很有限的。让大模型去结合工业数据，这才是提高生产力的利器，全世界的制造数据最多就在中国，不公开。


中国有不少工业大模型应用在制造业里面了，但没怎么提。

ulycn

不怕

美国政府无用功

Elon musk已经开源了grok

等待AI被中国超越吧

对你爱不完

百度李彦宏开香槟庆祝

symeteor

天朝本来就禁止使用境外的GPT，美国这不是和天朝达成共识了么

yzh1999

fxdestiny1 发表于 2024-5-9 07:44
中国不是早就ban了chatgpt吗。。。

chatgpt ban了中国

dczzk

将来又两套标准了

你往何处去

symeteor 发表于 2024-5-9 11:58
天朝本来就禁止使用境外的GPT，美国这不是和天朝达成共识了么

天朝禁止使用境外GPT，可能只针对普通群众吧，官方军方秘密方大概率还是可以特殊使用的

fxdestiny1

你往何处去 发表于 2024-5-9 12:23
天朝禁止使用境外GPT，可能只针对普通群众吧，官方军方秘密方大概率还是可以特殊使用的 ...

CHatgpt会收集信息。。。我才任何敏感单位都不敢用吧。。。