刚刚获诺贝尔奖的人工智能教父Geoffrey Hinton是谁？其实他一直警告机器可能会接管世界

dootbear

华尔街日报：刚刚获诺贝尔奖的人工智能教父Geoffrey Hinton是谁？其实他一直警告机器可能会接管世界

刚刚获得诺贝尔奖的杰弗里·辛顿（Geoffrey Hinton）对他帮助创造的人工智能系统发出了一个信息：

如果不更加重视安全，它们可能会威胁人类的生存。

辛顿在周二接受诺贝尔奖官员采访时表示：“我认为我们正处于历史的一个分叉点，在未来几年内，我们需要找出应对这一威胁的方法。”

他在采访中既表达了对自己毕生工作感到自豪，也警告了这一技术可能带来的日益增长的危险。

76岁的辛顿去年从谷歌辞职，部分原因是为了能够更自由地讨论人工智能系统可能失控并影响选举或操控危险机器人。

他与其他经验丰富的人工智能研究人员一道，呼吁像OpenAI，Meta和谷歌等公司将更多资源投入到其正在竞相快速开发的先进系统的安全问题上。

辛顿获得诺贝尔奖不仅表彰了他在推动这些技术发展方面的重要作用，还为他对这些技术带来的末日警告提供了新的平台。

辛顿认为，先进的人工智能系统能够理解它们的输出内容，这在研究界是一个颇具争议的观点。

他说，“希望这个奖项能让我的话更具说服力，让人们相信这些系统确实理解它们在说什么”。

辛顿的观点使他与人工智能社区中某些派别发生了冲突，这些人认为对末日场景的过度关注会不必要地减缓技术进步，或者分散对更直接危害的注意力，例如对少数群体的歧视。

圣塔菲研究所（Santa Fe Institute）教授米切尔（Melanie Mitchell）去年在一个小组讨论中说，“我认为他是个聪明人，但很多人明显夸大了这些技术的风险，这真的让很多公众相信我们应该关注这个问题，而不是人工智能的更直接危害”。

周二，辛顿访问了谷歌硅谷总部，参加了一个非正式的庆祝活动，谷歌的一些顶级人工智能高管在社交媒体上向他表示祝贺。

像人类一样思考

辛顿与普林斯顿大学的约翰·霍普菲尔德（John Hopfield）共同分享了诺贝尔物理学奖，以表彰他们自20世纪80年代以来在神经网络领域的工作。神经网络以人脑为灵感处理信息，这项工作是许多当今人工智能技术的基础，从ChatGPT的人类对话能力到谷歌相册识别照片中人物的能力。

蒙特利尔大学的人工智能研究员本吉奥（Yoshua Bengio）说，“他们在物理学与生物学基本概念之间建立了联系，不仅是人工智能，这些概念至今仍然存在”。

2012年，辛顿与他在多伦多大学的两名研究生亚历克斯·克里泽夫斯基（Alex Krizhevsky）和伊利亚·苏茨克维尔（Ilya Sutskever）合作，开发了一个名为AlexNet的神经网络，该网络能够识别照片中的图像。

在此之前，计算机算法通常无法区分狗，猫或汽车。

AlexNet在2012年图像识别技术竞赛中的胜利标志着现代人工智能蓬勃发展的一个关键时刻，因为它证明了神经网络的强大能力优于其他方法。

同年，辛顿与克里泽夫斯基和苏茨克维尔创办了一家公司，但该公司存续时间不长。谷歌在2013年通过与百度和微软的竞价战中，以4400万美元收购了该公司，实际上是为了雇佣这三位科学家。

据《天才制造者》一书介绍，辛顿随后开始在多伦多大学和谷歌之间分配时间，继续进行神经网络的研究。

辛顿被广泛尊为当代顶级人工智能研究人员的导师，包括苏茨克维尔，他在创办OpenAI后于今年春天离职，创立了一家公司，名为Safe Superintelligence。

2018年，辛顿因神经网络研究与本吉奥和另一位人工智能研究员扬·勒昆（Yann LeCun）共同获得图灵奖，这三人常被称为现代“人工智能教父”。

灾难的警告

到2023年，辛顿对构建更强大的人工智能可能带来的后果感到担忧。他开始公开讨论人工智能系统可能会脱离其创造者的控制，给人类带来灾难性的危害。在这样做的过程中，他加入了一个关注技术存在性风险的活跃群体。

辛顿在去年的一次采访中说道，“我们面临的情况是大多数人甚至无法想象的，这些数字智能将比我们聪明得多，如果它们想要完成任务，它们会想要控制局面”。

辛顿在2023年春天宣布离开谷歌，称他希望能够自由地讨论人工智能的危险，而不必担心对公司造成影响。

他在社交媒体平台X上表示，谷歌的行为“非常负责任”。

在随后的几个月里，辛顿花了大量时间与政策制定者和技术高管（包括马斯克）讨论人工智能的风险。

去年，辛顿联署了一份文件，呼吁从事人工智能工作的公司，要将至少三分之一的研发资源用于确保系统的安全和道德使用。

辛顿在诺贝尔采访中说，“政府可以做的一件事是强制大公司将更多资源投入到安全研究上，例如，像OpenAI这样的公司不能把安全研究置于次要地位”。

OpenAI的发言人表示，该公司为其安全工作感到自豪。

今年夏天，辛顿与本吉奥和其他研究人员支持了加利福尼亚州立法机关通过的一项人工智能安全法案，该法案要求大型人工智能系统的开发人员采取多项措施，确保它们不会造成灾难性损害。

然而，加州州长纽森最近否决了该法案，该法案遭到了包括谷歌在内的大多数大型科技公司的反对。

辛顿日益积极的行动让他与其他受人尊敬的研究人员产生了分歧，后者认为他的警告是幻想性的，因为人工智能离具备造成严重伤害的能力还很远。

勒昆去年在X上回应辛顿时写道，“它们对物理世界的完全无知以及缺乏规划能力，使它们的智能水平远低于猫，更不用说人类了”。









来源：

https://www.wsj.com/tech/ai/a-go ... od=latest_headlines

Story by Miles Kruppa, Deepa Seetharaman • 23m • 5 min read

dootbear

本文要点：

1. 辛顿警告人工智能系统可能威胁人类，他认为应更加重视人工智能的安全问题。

2. 辛顿辞去谷歌职务，以便更自由地讨论人工智能失控的潜在风险，并呼吁技术公司投入更多资源确保系统安全。

3. 辛顿与其他人工智能教父因其神经网络的贡献获得了诺贝尔奖，这项技术是现代人工智能的基础。

4. 辛顿对人工智能的警告与其他研究人员的观点产生分歧，部分学者认为这些担忧过度夸大。

5. 辛顿呼吁政府强制技术公司加大安全研究投入，并提出了人工智能安全立法的支持意见。

6. 尽管辛顿担心AI技术失控，但他的批评者认为，AI目前还远不具备导致严重伤害的能力。

7. 辛顿曾与政策制定者和技术公司高层（如马斯克）讨论人工智能的风险问题。

8. 加州通过的AI安全法案被大公司反对，最终被州长纽森否决。

dootbear

看看AI教父的学生们是谁：

dinglongdong

“它们对物理世界的完全无知以及缺乏规划能力，使它们的智能水平远低于猫，更不用说人类了”
AI现在沦为了广告词，无数人在做PPT，炒股票！

上书房行走

人老了确实容易胡说八道。这个奖应该早点给他。

xueshuyz

搞科学的人到了老年都会对科学的发展产生担忧，牛顿搞了一辈子物理，最后回归了宗教

Yfcc

感觉这个诺奖有点空

对你爱不完

xueshuyz 发表于 2024-10-10 07:10
搞科学的人到了老年都会对科学的发展产生担忧，牛顿搞了一辈子物理，最后回归了宗教 ...

杨振宁也说过，“造物者是存在的，因为这个世界的结构不是偶然的。”

yuxuanlin

人类物种，一定会灭亡的；到时候，是不是又产生一个新物种，为归为新新人。

人类自然的生育繁衍，会越来越少，自然人口会越来越少。

为了保持可奴役韭菜的数量，各种人造人会越来越多。

目前，只是到来的时刻还无法确定。

水月境天

yuxuanlin 发表于 2024-10-10 08:45
人类物种，一定会灭亡的；到时候，是不是又产生一个新物种，为归为新新人。

人类自然的生育繁衍，会越来越 ...

现在的人类何尝不是新物种？？

yuxuanlin

水月境天 发表于 2024-10-10 08:53
现在的人类何尝不是新物种？？

可能算是吧

所以，我起名，接下来的是新新人，比新人还新的

仰望仰明1

我不相信电脑最终能接管人类。
理由是：
我不相信地球上的人类，是宇宙的唯一。
在短短的人类文明几千年前，宇宙就应该有文明出现，那进化的文明大脑，已经被电脑所取代躯体，它们就能永生。
它们会造访地球，它们会让落后的地球人类，去理解它们。  不可能来了只是看看，不会惧怕人类或者来愚弄人类。
既然我们没发现外星人，可能我们地球人是宇宙唯一，也可能它们已经毁灭了。
我的假设它们已经毁灭了，不是电脑毁灭了它们，否则它们会借助电脑永生，不仅永生，科技继续高速发展。
绝不是电脑取代了人类。

MerryX

xueshuyz 发表于 2024-10-10 08:10
搞科学的人到了老年都会对科学的发展产生担忧，牛顿搞了一辈子物理，最后回归了宗教 ...

不是担忧，是认清本质。牛顿一直都信神学，物理是顺便研究的。爱因斯坦也坚信有造物主，只不过目前的科学无法证明。爱因斯坦说自己不过是一直被上帝玩弄的傀儡。杨振宁也相信有造物主。

eagleowl

人类不是宇宙唯一的文明应该是肯定的。 造物者的可能性应该很小。 地球环境产生了生命的可能性比较大。只要时间够长，0-1就有可能。
机器控制世界不就是变形金刚的故事吗？ 但宇宙太大。 就算有这种机器也不一定会找到地球，

MerryX

eagleowl 发表于 2024-10-10 10:14
人类不是宇宙唯一的文明应该是肯定的。 造物者的可能性应该很小。 地球环境产生了生命的可能性比较大。只要 ...

牛顿、爱因斯坦、杨振宁说有造物者，他们不比你聪明？要不你解释解释量子力学和经典力学的差异的原因？

Chounoki

机器人接管世界有啥不好，最起码机器人对待人类不会只看脸，只会更公平

Y叔

也许真的有那么一天