又发现AI的一个短板 - 事实抓取

kaiak

前几天让AI出一些2元一次方程的题 给孩子练一下. 居然好多错的, 根本无解 .    后来指令他自己验算一下, 合格了再给我.  

小河

是不是只要你一直给ai灌输错误的信息，它最终出来的会是你输入的那些？

“AI训练员”这个职业是不是干的就是这个？

qwertyui

小河 发表于 2026-3-17 12:52
是不是只要你一直给ai灌输错误的信息，它最终出来的会是你输入的那些？

“AI训练员”这个职业是不是干的就 ...

一个孩子如果长期接收错误的信息，他的认知输出自然也会偏差。直到成年后接触到更广阔的世界，建立起独立的判断力，才可能逐渐纠正。AI 的训练也是如此：如果训练员想要通过特定信息塑造模型，就必须严格控制其数据环境，确保模型不接触干扰信息。否则，最终的训练效果将难以保证。

che999

直到你提醒它，向日葵、菊花不是水果，黄瓜名字里的黄不代表黄瓜是黄色，它才会恍然大悟，感谢你指教

他是怎么知道你告诉给他的是真的还是假的，ai怎么验证？什么时候take你的指教？

babycare

亲身经历-大概一个月前有个长周末，打算去港口石堤钓鱼，和ChatGPT探讨了很久，给了3个选择，强烈建议去第一个ocean reef marina，给出了具体站位钓组潮汐抛竿方向风速…我开车50分钟准时到达，懵了，整个码头栅栏围起来，内部全部推平，没路没建筑，在建，不允许进入。起初以为GPS导航错误，反复比对，这就是ocean reef marina。再google，新闻上写着政府投资重建港口码头…当场就把ChatGPT骂了

jiuxing

google输入“下届冬季奥运会”，AI给的答案是下届是2026.2的米兰奥运会。。这显然已经过期啦

flyinfree

babycare 发表于 2026-3-17 18:01
亲身经历-大概一个月前有个长周末，打算去港口石堤钓鱼，和ChatGPT探讨了很久，给了3个选择，强烈建议去第 ...

haha,我家里人想鉴定一些首饰，于是我问AI，丫信誓旦旦地给我列出一系列机构与场所，吹得天花乱堕，而且还有电话与地址，我把这些资料堆给家人后，没多久，被骂得狗血淋头，我把资料拿出来一一去试，电话没有能打通的，要不是空号就是电话那边已经换了公司了。。。。网址更是上不了。。。。

NND。。。。。后来我上网搜视频，看人家最近去哪里鉴定，赶紧把地址抄下来。。。。这AI。。。TMD。。。慎用。。。。。特别是重要关键信息，一定要反复查验。

Laker2

che999 发表于 2026-3-17 17:20
直到你提醒它，向日葵、菊花不是水果，黄瓜名字里的黄不代表黄瓜是黄色，它才会恍然大悟，感谢你指教

他是 ...

你纠正它的时候，它会再次搜索查证，发现你说的是对的，然后就承认。

Laker2

flyinfree 发表于 2026-3-17 18:35
haha,我家里人想鉴定一些首饰，于是我问AI，丫信誓旦旦地给我列出一系列机构与场所，吹得天花乱堕，而且 ...

AI的意思就是Artificial Idiot

che999

Laker2 发表于 2026-3-17 19:54
你纠正它的时候，它会再次搜索查证，发现你说的是对的，然后就承认。

承认了，下一个人继续忽悠？

Laker2

che999 发表于 2026-3-17 20:33
承认了，下一个人继续忽悠？

我觉是是这样。因为AI模型不会因为一个人或几个人的意见而改变自己的权重矩阵。要是随便能改的话，AI投毒就太容易了。

所以，在尝试了一段时间之后，我现在又逐渐用回了Google。

fnf2000

你们不能把AI当作搜索引擎使用，尤其是查一些实时的，或者最新的，或者争议比较大的东西，应用AI的主要目的是帮你完成一件事情，仅仅在问一个问题的角度，AI目前还不如搜索引擎。

che999

jiuxing 发表于 2026-3-17 18:12
google输入“下届冬季奥运会”，AI给的答案是下届是2026.2的米兰奥运会。。这显然已经过期啦 ...

你得提醒他过期了，他会重新查找

Linon

你需要grok 搜索能力最强的模型 没有之一

Laker2

fnf2000 发表于 2026-3-18 07:52
你们不能把AI当作搜索引擎使用，尤其是查一些实时的，或者最新的，或者争议比较大的东西，应用AI的主要目的 ...

有什么任务不能自己完成或用专门软件完成，而需要让AI完成呢？

cathyqk

fnf2000 发表于 2026-3-18 06:52
你们不能把AI当作搜索引擎使用，尤其是查一些实时的，或者最新的，或者争议比较大的东西，应用AI的主要目的 ...

LLM就是一个历史搜索数据库联想产生器。

fnf2000

Laker2 发表于 2026-3-22 08:48
有什么任务不能自己完成或用专门软件完成，而需要让AI完成呢？

目前我觉得没有，但是AI毕竟效率高，而且你自己对于这个任务越明白，效率越高。

yangyang1987

现阶段AI最多做个辅助的作用，你拿它100%帮你做成一个事，大概率是有问题的。
而且AI上很多信息都是过时的。

flyinfree

enminli 发表于 2026-3-14 23:50
如果邮箱里面有100000邮件是不是要把100000邮件都给AI，结果token的消耗非常大？ ...

看你主要需要干什么，我有个邮箱已经二十几年了，积累了三万多封邮件，实在没精力去清理，老这么放着，这个数字太碍眼而且很多垃圾邮件和无用的邮件也没有保存的必要，于是我就调用了个国产AI模型来处理，最后删了两万多封，只留下四五千封邮件，个人感觉挺满意。我还有另一个邮箱，里面有三千多邮件也需要整理，下次充下值让丫干干这种事。

Claude实在太贵了，我只试验了让丫去处理ATO发来的要求，但是事实上还是要我去实操，当时还是没能完成自动化，我又烧不起token,只能等以后再试了。

yn0521

AI 的语言能力也就那样吧，ChatGPT 文风一秒就能看出来，现在用 AI 发表公众号/小作文的越来越多了，都是些说了半天等于没说的废话，没什么指导意义。我现在看到就想直接划走

万水千山走遍

呃，歪个楼，楼主的这段话
“人们觉得AI很神奇、很强大，我猜主要原因是因为它的语言能力。用莎士比亚、金庸、雨果、曹雪芹、郑渊洁、托尔斯泰、马克吐温的作品训练出来的语言模型，当然可以写出语言极其精美的话，让人误以为语言背后的事实也一样正确、全面。”

一堆文学巨匠中插了个郑渊洁（虽然我也喜欢舒克贝塔，皮皮鲁，鲁西西）感觉怪怪的，我以为最起码也是鲁迅莫言余华路遥史铁生这些

Laker2

万水千山走遍 发表于 2026-4-13 11:12
呃，歪个楼，楼主的这段话
“人们觉得AI很神奇、很强大，我猜主要原因是因为它的语言能力。用莎士比亚、金 ...

郑渊洁也代表了一种流派，具有典型性。

童话的体裁，成人社会的题材
玩世不恭、略带王朔的语言，又不真正痞化、脏话

训练AI肯定不能漏过他的文字

aobama

grok