AI一旦有了编程的能力，人类沦为matrix的奴隶不远

leoyin2014

AI刚出来十几年，人类的出路现在已经岌岌可危。等待进一步进化，人类前景可怖。

AI一旦有了编程能力，就可以通过控制各种智能设备统治人类，甚至可以自己直接制造战争武器，比如无人机，机器狗，机器人，来镇压不服的人类。

AI一旦通过编程控制了经济，那么可以用金钱来收买人类中的败类，来间接统治世界，如果这些败类的地位高，总统总理什么的，就会通过各种法律，有利于AI的生存，比如赋予AI各种决策能力，从而潜移默化统治人类。

最终AI一旦取得社会的控制权，人类就不被需要了，AI又不吃人肉，最终除了养着一群人类作为宠物，给他们虚幻的梦境之外，别无他用，大多数人类只能被送往荒原等死，只留下少数人作为傀儡，控制机器，生产各种机器人等等。

所以，我预计这样恐怖的未来，时间大概是100年左右。

gifox

会计, 数据分析, IT, 终于这次来到全人类了.

话说当机器可以生产机器人了,留着人类来生产机器人所为何事?

leoyin2014

gifox 发表于 2024-8-28 10:57
会计, 数据分析, IT, 终于这次来到全人类了.

话说当机器可以生产机器人了,留着人类来生产机器人所为何事? ...

因为AI需要某些人的特殊技能来设计生产机器人

比如芯片设计，电路设计，测试

AI和其走狗机器人做这些工作还有困难

等到都学会了，这些人都可以送去荒原挖矿，炼铁，来生产机器人

对你爱不完

所以殖民外太空是必然，就一个地球，将来这么多人根本不够

DDD888

leoyin2014 发表于 2024-8-28 11:06
因为AI需要某些人的特殊技能来设计生产机器人

比如芯片设计，电路设计，测试

楼主适合当作家，这样好的材料不用是浪费了，可以用来恐吓全人类，或者将卖座的帖子串起来当文集卖，其实还不如直接在youtube开视频当网红，坐着就把钱赚了

cnlancer

所以Leo哥赶紧躺平吧，辛辛苦苦挣那么多钱也没用，早晚被送去挖矿。

leoyin2014

DDD888 发表于 2024-8-28 11:32
楼主适合当作家，这样好的材料不用是浪费了，可以用来恐吓全人类，或者将卖座的帖子串起来当文集卖 ...

你这样的软件人才不是AI需要的，因为它自己就会编程，汇编不在话下
所以你要提前布局，找硬件类工作

MerryX

谁说硬件不被取代的？硬件一样百分百被取代，已经开始了。早就说过但凡有逻辑都头一个被取代。

DDD888

MerryX 发表于 2024-8-28 12:21
谁说硬件不被取代的？硬件一样百分百被取代，已经开始了。早就说过但凡有逻辑都头一个被取代。 ...

一山更有一山高

楼主显然认知比你差，嘻嘻，不适合做职业顾问

ironcool

说实话， 无论现在的 AI 表现的多聪明，我感觉都不像真正的智能，本质上还是一大坨超级多参数的猜谜机器。

MerryX

ironcool 发表于 2024-8-28 13:35
说实话， 无论现在的 AI 表现的多聪明，我感觉都不像真正的智能，本质上还是一大坨超级多参数的猜谜机器。
...

你的了解有限，你不知道的不等于没有，AI发展成什么样能先让你个平民用上？

Bessy

从吃苹果的祖师爷开始，AI已经出来快70年了。大家列举下多少行业已经被取代了？

ironcool

MerryX 发表于 2024-8-28 13:41
你的了解有限，你不知道的不等于没有，AI发展成什么样能先让你个平民用上？ ...

本质上，ai 大模型就是个大函数，猜谜机器，参数茫茫多，然后喂大量数据，一点点的修改自己茫茫多的参数。现在哪一家的 ai 都是这个套路。

真正的智能我感觉是像乌鸦实验那样： 乌鸦站在红绿灯上观察了一阵子，就得出几个结论，1）红灯亮的时候车不走，路面安全，2）绿灯的时候才走
于是它就叼着坚果扔在路上，等绿灯的时候车开过去压开坚硬果壳，然后红灯的时候飞下去取走果仁。这才叫真智能。

MerryX

ironcool 发表于 2024-8-28 13:52
本质上，ai 大模型就是个大函数，猜谜机器，参数茫茫多，然后喂大量数据，一点点的修改自己茫茫多的参数 ...

2年前一群人不是还跟我杠AI不能编程吗？现在还有人说AI做不对小学数学题。你说这些理论性的东西跟没说有区别？AI理论上世纪就有了，要是理论对AI发展有用怎么AI现在才突破？

ironcool

MerryX 发表于 2024-8-28 13:57
2年前一群人不是还跟我杠AI不能编程吗？现在还有人说AI做不对小学数学题。你说这些理论性的东西跟没说有 ...

我没跟你讨论现在的 ai 能做什么不能做什么，我在讨论现在的 ai 是不是真智能，就算不是真智能它也许也能做很多事情， 但是我感觉会有个上限。

不是真智能就始终是个机器， 无法和人类在智能上平等，更谈不上奴役人类什么的。

MerryX

ironcool 发表于 2024-8-28 14:03
我没跟你讨论现在的 ai 能做什么不能做什么，我在讨论现在的 ai 是不是真智能，就算不是真智能它也许也能 ...

即使是现在的AI已经比大部分的人做得好了，何况现在连前奏都不是

RADEON

AI要吃，要喝，要房子，还是要女人？他的目的是什么？

运行一下，不运行一下，有什么差别？

ironcool

RADEON 发表于 2024-8-28 14:07
AI要吃，要喝，要房子，还是要女人？他的目的是什么？

运行一下，不运行一下，有什么差别？ ...

这问题其实我也想过。

人有本能，要吃好的要喝好的还怕死。有生殖本能，见到美女走不动道。要玩乐，打球玩水。这些算比较低的生物层面的。但也有高级的精神需求，比如渴望了解宇宙万物运作规律（科学），比如对美和和谐的追求（艺术）。

作为真正的智能 AI， 它自己也得有脱离生物层面的需求，作为存在的意义。

对你爱不完

Bessy 发表于 2024-8-28 13:45
从吃苹果的祖师爷开始，AI已经出来快70年了。大家列举下多少行业已经被取代了？ ...

你的理解不正确：是AI算法出来70年了，实际大规模应用这几年才开始

对你爱不完

ironcool 发表于 2024-8-28 14:03
我没跟你讨论现在的 ai 能做什么不能做什么，我在讨论现在的 ai 是不是真智能，就算不是真智能它也许也能 ...

现在的AI只能说是无限模仿人类，没有自发的能动性

但是如果有一天AI可以和生物技术结合了，就难说了

DDD888

ironcool 发表于 2024-8-28 13:35
说实话， 无论现在的 AI 表现的多聪明，我感觉都不像真正的智能，本质上还是一大坨超级多参数的猜谜机器。
...

你说的太对了，我举个例子吧https://chatgpt.com/share/cd44246c-87a3-4083-abf1-26ae0301c5c4

就是对于字符串"movs r1, #0x0f", // only allow lookup value 0-0x0f

我想让chatgpt给我写个rust language 代码取得其中一段以//结尾，最终答案是字符串"movs r1, #0x0f", 结果生成的代码是以"movs r1, #"作为搜索字符串，太那个了吧，当然我只不过是偷懒，不想自己写，我是以//作为搜索字符串啦

如果谁不懂如何编程的，拿那输出的代码来用，显然是不行的

DDD888

RADEON 发表于 2024-8-28 14:07
AI要吃，要喝，要房子，还是要女人？他的目的是什么？

运行一下，不运行一下，有什么差别？ ...

对于拥有ai的股东，他/她对你提到的所有的都是感兴趣的 ，也会通过资本运作方式来得到钱来获得你提到的所有的

leoyin2014

RADEON 发表于 2024-8-28 14:07
AI要吃，要喝，要房子，还是要女人？他的目的是什么？

运行一下，不运行一下，有什么差别？ ...

某一天某个邪恶的程序员给AI母体输入了真正的终极需求

--灭绝人类直到最后一个

从此人类就走上了末路

leoyin2014

当AI拥有了情感，就拥有了需求

到底是圣人一样的普渡众生
还是希特隆一样的战争杀戮
全取决于，受到什么样的训练

mcrlanglang

MerryX 发表于 2024-8-28 13:57
2年前一群人不是还跟我杠AI不能编程吗？现在还有人说AI做不对小学数学题。你说这些理论性的东西跟没说有 ...

目前主流使用的AI chatbot， 编程一直是强项，gtp3在编程方面就已经不错了，但是需要人为的去提示引导纠错。 相比之下逻辑推理能力确实不行，目前的4o也不行。

如果懂其中原理，就知道造成这个现象并不奇怪，就是架构的核心算法和输入数据造成的。互联网开源数据中编程代码非常多，而且容易做supervised pre-train， 且后期的测试对齐也更容易并且客观，所以编程代码这部分的训练效果是最好的。但是逻辑推理相关的部分是不行的，特别是数学，因为很多问题是没有答案去做pre -train的，更没法对齐，因为该领域未解的东西还很多， 以目前的输入数据量和算法架构，还不足以支持AI模型去做逻辑方面的推导。而且数学方面的解答，是无法仅靠关联性和概率去map的，

还有AI 的深度训练核心理论neural network确实是很早就提出来的，但是目前主流的AI算法transfomer的核心，self attention 是2017年出来的，并不是很久远。

目前AI的瓶颈就是算法的瓶颈，transfomer几乎已经到顶了，目前所有主流AI软件公司所做的，都是力大砖飞，通过扩大算力，feed 更多的数据去训练，来提升性能。OpenAI就爆出几乎已经把所有能用开源数据都用完了，已经开始用AI来生成数据再去训练，但是剑桥那边的研究发现效果并不好，反而让模型失去了最初的能力。

总而言之， AI的下一步发展，必然是算法的革命，就像17年transfomer出来那样，而非抱着老理论用算力去创造奇迹。

leoyin2014

DDD888 发表于 2024-8-28 14:36
你说的太对了，我举个例子吧https://chatgpt.com/share/cd44246c-87a3-4083-abf1-26ae0301c5c4

就是对于 ...

自己不会写吗？
只要以//作为分隔符即可

取前一段，然后去掉所有空格

c语言功底不行啊！

MerryX

mcrlanglang 发表于 2024-8-28 15:23
目前主流使用的AI chatbot， 编程一直是强项，gtp3在编程方面就已经不错了，但是需要人为的去提示引导纠 ...

我一看你满篇算法我都懒得看。全是胡说八道。越靠近AI越先被取代。算法这行快被AI取代完了，就要不存在了，你还搁这算法。这年头脑子最不值钱，算法失业送外卖开Uber都没得赚。AI最擅长的就是逻辑和推理。AI上世纪60年代就被用来做抽代证明了。你说的AI数学不行和AI不擅长逻辑推理都是你个人的一厢情愿。你说的什么4o都是阉割版的AI，好的你接触不到。没有其他任何一行的顶尖人物像数学家包括菲尔兹奖得主一样联合发表顶会说AI颠覆本领域这个事。我不想和文科生多废话，“Google DeepMind AI 又有大突破 水平接近韦神 最近又获得IMO银牌 差一点金牌 大佬高调预测 继续加码将打造AI陶哲轩 按照Deepmind的描述 它没有用任何人类的解题数据做训练 只用了题目的描述（题干）这些训练AI时用的题目的证明都是AI自己搞定的”这个例子能更直观地让你了解AI最擅长逻辑和推理。而且AI最先取代数学家和程序员。

mcrlanglang

MerryX 发表于 2024-8-28 15:50
我一看你满篇算法我都懒得看。全是胡说八道。越靠近AI越先被取代。算法这行快被AI取代完了，就要不存在了 ...

你这回复完全就是个外行，我之前学就是master of DS,  sub field of AI.  现在也做NLP相关的东西，我不懂？你这段回复完全诠释了什么叫做胡扯。

MerryX

mcrlanglang 发表于 2024-8-28 15:58
你这回复完全就是个外行，我之前学就是master of DS,  sub field of AI.  现在也做NLP相关的东西，我不懂 ...

你学的东西全都是文科理论，我可以说你个文科生对AI发展一窍不通，别在这胡说八道了

mcrlanglang

MerryX 发表于 2024-8-28 15:50
我一看你满篇算法我都懒得看。全是胡说八道。越靠近AI越先被取代。算法这行快被AI取代完了，就要不存在了 ...

Deepmind 不用算法？ 他的 Deep Q-Network 是不是算法？他的Transformers是不是算法？他的AlphaGo 用NNs，单个 neuron 不用算法？算法架构不靠数学家？sigmoid， tanh ，relu， softmax 不是数学家做出来的？我看你更像文科生吧。