|
彭博社：中国技术的“说服力”正在增强 利用技术影响决策的能力不仅仅是北京可能如何使用它的问题，而是一个更广泛的全球关切。 技术说服力的潜在风险 是否觉得使用新兴技术工具会改变你的坚定信念，或引导你做出原本不会选择的决定？许多人可能认为自己足够聪明而不会受影响，但越来越多的证据表明情况并非如此。 生成式人工智能等新技术的“说服力”被认为是与技术可能获得自主能力或协助制造核武器等风险并列的潜在灾难性问题。 此外，低风险的设计，例如让人沉迷于社交媒体的无限滚动功能，或吸引用户保持应用程序连胜记录的功能，已经无处不在。 中国技术的进展与安全担忧 最近来自中国的技术进展引发了新的国家安全担忧。澳洲战略政策研究所（Australian Strategic Policy Institute）发布的一项由美国国务院资助的研究发现，中国科技公司正接近开发和部署具有“前所未有的说服能力”的技术。 从安全角度看，这些技术可能被北京或其他行为体滥用，以影响政治观点，制造社会分裂和动荡。这种能力可以成为一种“不战而屈人之兵”的武器，这与中国古代军事家孙子提出的战略相符。 报告指出，中国商业领域在开发利用生理和认知弱点改变态度或行为的技术上“已是全球领导者”。这些技术主要依赖收集和分析个人数据，然后与用户进行定制化互动。 报告列举了一些中国公司，这些公司通过生成式人工智能、虚拟现实和新兴神经技术领域支持北京的宣传和军事目标。 全球性问题与技术两面性 尽管中国企业在说服技术的开发上领先，但它们借鉴了美国大型科技公司的做法，以更好地理解用户并增加用户粘性。应对北京带来的风险需要我们重新审视技术产品如何影响生活的方式，同时注意人工智能和新技术的快速发展可能进一步放大这些工具的影响力。 这一问题的复杂性在于其双刃剑的特性。今年早些时候发表的一项科学研究表明，与人工智能模型的对话可以减少阴谋论者对其信仰的执着，即使这些信仰是其身份的重要组成部分。这表明大型语言模型的“积极说服力”也可以通过个性化对话产生有益的影响。 应对之道与未来展望 如何防止这些技术被北京或其他不良行为者用于宣传，是一个需要政策制定者解决的挑战，超越了切断先进半导体供应链的范畴。 提高技术透明度可以成为起点，要求科技公司清楚说明内容的个性化方式可能会如何影响用户行为。 扩大数据保护法，或提供更明确的选项让用户退出数据收集，也可以限制这些工具针对个人的能力。 提升数字素养和教育至关重要，让人们了解说服技术的工作原理，算法和个性化内容如何运作，以及如何识别和避免潜在的操控。 最终，更多的研究是保护用户免受说服技术风险的关键。 开发这些工具的公司，如OpenAI和Anthropic，应该引领这一方向。 政策制定者应要求公司与监管机构和相关利益方分享研究成果，从而建立对这些技术潜在滥用的全球认知。这些信息可用于制定明确标准或有针对性的监管措施。 尽管技术如此先进以至于允许北京“操纵”人们信仰和身份的风险看似遥远，但各国政策制定者不能等到这种情况发生后才做出反应。 现在是全球重新思考我们允许科技公司在生活中掌控多少信息和影响力的关键时刻。     来源： https://www.bloomberg.com/opinio ... ?srnd=homepage-asia December 5, 2024 at 10:00 PM UTC By Catherine Thorbecke Catherine Thorbecke is a Bloomberg Opinion columnist covering Asia tech. Previously she was a tech reporter at CNN and ABC News. |
