2025年了，人工智能AI仍然是人工智障artificial idiot

Laker2

要说AI完全没有智能吧，也不是。
但那智能水平，也只能做一点非常简单的搜索汇总。
稍微需要一点理解和推演，就完全抓瞎了。

这两天用AI搜索几个设置路由器的问题，试了Chatgpt、Gemini和copilot，全都暴露出同一个问题：理解粗浅，只知其一不知其二，不懂装懂。

比如说，我问如何实现目标aaa，AI装模作样列出一大堆步骤，语言优美，词汇丰富，句型流畅，但貌似结果不对。

于是我质疑它，你让我做xxx，但这会不会导致yyy呀？

它赶忙说：你担心的完全正确！按照我上一个答案，确实会导致yyy，所以应该如此这般，加上qqq，以防止yyy

我又问它：其实第一个答案里，由于有zzz，其实也未必会导致yyy吧？

AI又说：你说的太对了！其实不会导致yyy，所以不必qqq，应该把方案改成ttt

关键是，每个答案都信誓旦旦，语言完美。如果用户自己不知道答案，真可能就被诈唬住了。但如果知道答案，为什么还要问AI呢？

竟然看到有人用AI编写程序代码，真不知那代码能不能用，要出多少逻辑错误而不自知（因为不是语法错误）。

所以，目前来看，人工智能还差得远呢。只适合做个搜索，整理出几个思考方向，然后自己沿着这几个方向进行探索，自己找到答案。

hehebear

你没找对AI，你需要的是Affordable Indian

jjjjjjjjjjj

????现在AI和consulting service一样。客户知道答案consulting好像没有价值（只有政治价值）。客户不知道答案大部分都是被忽悠的结果。咨询一走，留下的只有problems

xxxxyyyy

AI还是基于训练材料，如果你的路由器牌子特殊或者版本特殊

训练材料不足的话，肯定得不到你要的答案。

就像问AI关于Windows XP内核函数一样，因为Windows内核不开源，而且因为版权，AI找的到源码都不能训练。
所以它没办法回答。

方言

AI最大的问题在于它会一本正经的胡说八道，所以很多时候，不知道是否该相信它

Laker2

xxxxyyyy 发表于 2025-8-24 21:51
AI还是基于训练材料，如果你的路由器牌子特殊或者版本特殊

训练材料不足的话，肯定得不到你要的答案。

我问的是基础知识，而且是基于思科的语境。所以训练材料应该很充足。我觉得还是它思考太肤浅，而且是基于只言片语的字面意思，不懂得实际逻辑。

我不怕它找不到答案，它完全可以诚实地说它不会。但它现在是信誓旦旦地胡说。

Laker2

方言 发表于 2025-8-24 21:56
AI最大的问题在于它会一本正经的胡说八道，所以很多时候，不知道是否该相信它 ...

是的，万一轻信了它的胡说八道，恐怕会误事

finger|regnif

AI幻觉严重, 一本正经地胡说八道是常态. 我感觉grok尤盛+死不悔改非常坚持它的信誓旦旦地胡说.
只能起辅助作用, 要是信它们则容易翻车.

chrisfz

他如果不是idiot, 就真的没我们啥事了。 目前这波AI确实训练出来了一个知识面广阔并且很会聊天的工具。但是不要指望他能替代professional。

橡树岭之上

xxxxyyyy 发表于 2025-8-24 21:51
AI还是基于训练材料，如果你的路由器牌子特殊或者版本特殊

训练材料不足的话，肯定得不到你要的答案。

这不很正常吗，就是AI知道也不敢说啊，都是商业机密

MATOSJENNY90

不清楚不会说，一本正经胡说八道。

DDD888

赞啊，其实对错一试便知，但破坏了企图不劳而获快速得到答案时的喜悦的心情，问题是值钱的答案往往要付出代价的

使用chatgpt只不过是对简单知识偷懒不用读google的搜索罢了，例如回答一个gdb单步调试汇编指令该打啥命令就是神器啦，结果就两个答案ni, nexti

DDD888

xxxxyyyy 发表于 2025-8-24 21:51
AI还是基于训练材料，如果你的路由器牌子特殊或者版本特殊

训练材料不足的话，肯定得不到你要的答案。

是呀，对于金融决定，chatgpt毫无用处，只会回答点废话，我想知道啥时候美国股市崩溃，基于现在网上海量数据，chatgpt根本就不能提供像巴菲特所作持有现金的决定，我现在基于我自己的判断，持有新西兰的现金

DDD888

借此帖，顺便了解下，大家都是付费使用，还是免费啊？我用的是免费的，感觉付费不值啦

流金岁月76

挺正常的，你问澳洲的it人工支持也是一样的，可能更糟。

我以前用dodo的华为NBN modem，连上Mesh后有些苹果设备偶尔连不上，需要重启modem然后能好几天，然后又出问题。联系dodo，告诉他们我做了哪些步骤，然后他们像复读机一样让我重复我已经做过的排查。后来还是chatgpt有些帮助告诉我可能是mesh和modem DCP/IP冲突，把modem设置为bridge，通过Mesh拨号（不知道为什么不能跳过modem）就好了。后来换了运营商直接用mesh dynamic IP没有问题。

最离谱的是几年前买车交车的时候，销售拿着一个小塑料口袋里面有四个橡胶垫子，说technician告诉她，这个垫子是用来覆盖后座婴儿座椅插口的，用不用无所谓。我拿过来看了一眼，口袋上5种语言印刷说这是底盘防锈垫，交车之前务必安装上。AI至少不会犯这种错误。

DDD888

另外一千行的c语言代码放到免费的chatgpt里是会被拒绝服务的，因为太长了

gifox

Laker2 发表于 2025-8-24 22:13
我问的是基础知识，而且是基于思科的语境。所以训练材料应该很充足。我觉得还是它思考太肤浅，而且是基于 ...

目前AI的确还有这个限制，如果使用者本身是不懂的，会被带到沟里去。要是本身是懂的，还是可以通过互动拿到点有用的信息

DDD888

gifox 发表于 2025-8-25 08:27
目前AI的确还有这个限制，如果使用者本身是不懂的，会被带到沟里去。要是本身是懂的，还是可以通过互动拿 ...

你说的很好

honester

如果网上没有训练材料，只能胡说八道

比如你要是问洛克希德马丁公司关于F35的某种设计，它能知道才怪

sun2012

honester 发表于 2025-8-25 09:09
如果网上没有训练材料，只能胡说八道

比如你要是问洛克希德马丁公司关于F35的某种设计，它能知道才怪 ...

不知道就应该说不知道

而不是胡说八道

Flyingfree

呵呵，楼主也发现AI的一个特殊技能了！我都怀疑是不是3哥们编写的逻辑了，因为很像啊

BTW， 有个好处在于，AI就算是乱作的答案，一般都不会保存，你不同时间段问同样的问题，他们胡说出来的，基本上每次的答复都不同。所以，最好就是多开几个AI， 同时问问题，大致就能判断丫说的到底是不是胡扯的了。

这个好像在前面一两个版本就出现了，五代的我还没测试，但我觉得这个问题依然存在。

DDD888

用chatgpt其实是算token的，一个c#项目由几万行源程序代码，用chatgpt上传整个项目，分析下，不知要花多少钱？啥事都没做，可能许多钱就出去了，然后来差错，不知要浪费等待多少时间？

我感觉五六行代码还差不多让chatgpt来做，几万行的代码谁让chatgpt做过啊？分享下经验吧

little_koala

我在现实生活中遇到的不懂装懂还胡说八道的人，比胡说八道的AI可多太多了。问题是，你要是把那个人戳穿了，人家会跟你翻脸，说不定还来个人身攻击，但是AI就不会。

catchmeifucan

sun2012 发表于 2025-8-25 09:35
不知道就应该说不知道

而不是胡说八道

虽然这个问题看起来是如此直接简单，但是现在的AI（chatgpt）啥的，基于的是大语言模型，基本上要做的是预测next token in the sequence.胡说八道是这个东西的天然属性（貌似叫做hallucination).各个模型都在做改进了，但是仍然很难避免这个事情发生。
这些东西去听一下youtube Andrej有一个三个小时的chatgpt深度介绍可以去魅。如果的确有数学基础，可以移步3blue one brown去看下背后的算法，我的数学能力就不够用了。至于AI编程序，我不是程序员，但是看起来这是个相对成熟的行业，AI工作的非常好。

基于LLM的这个AI到底能发展到什么程度我不知道，或许在某个程度会碰到瓶颈，也或许就真能起飞， 谁知道呐。现在作为一个工具，谨慎使用就可以了。

limit-2010

DDD888 发表于 2025-8-25 13:23
用chatgpt其实是算token的，一个c#项目由几万行源程序代码，用chatgpt上传整个项目，分析下，不知要花多少 ...

我看过的demo大概是这样
context window 肯定比免费版多 可能128k/ 200k个token等等

你要首先明确要做什么 例如更新某feature A的X功能
这样他就会先retrieve所有这个功能相关的code
大部分情况下这些肯定在context window 里面

肯定还需要各种prompt engineering 才能更精确
而且使用者自己要知道思路和正确答案
至少目前做到的大部分只是automate已知的东西

limit-2010

回到楼主路由器那个问题 我觉得目前ai能实现的就是：
将客服follow的SOP喂给agent 用这个agent自动化客服
但对于niche或者难的问题 工作人员都解决不了的问题 不要期待ai能稳定的给出正确答案