又发现AI的一个短板 - 事实抓取

kaiak

前几天让AI出一些2元一次方程的题 给孩子练一下. 居然好多错的, 根本无解 .    后来指令他自己验算一下, 合格了再给我.  

小河

是不是只要你一直给ai灌输错误的信息，它最终出来的会是你输入的那些？

“AI训练员”这个职业是不是干的就是这个？

qwertyui

小河 发表于 2026-3-17 12:52
是不是只要你一直给ai灌输错误的信息，它最终出来的会是你输入的那些？

“AI训练员”这个职业是不是干的就 ...

一个孩子如果长期接收错误的信息，他的认知输出自然也会偏差。直到成年后接触到更广阔的世界，建立起独立的判断力，才可能逐渐纠正。AI 的训练也是如此：如果训练员想要通过特定信息塑造模型，就必须严格控制其数据环境，确保模型不接触干扰信息。否则，最终的训练效果将难以保证。

che999

直到你提醒它，向日葵、菊花不是水果，黄瓜名字里的黄不代表黄瓜是黄色，它才会恍然大悟，感谢你指教

他是怎么知道你告诉给他的是真的还是假的，ai怎么验证？什么时候take你的指教？

babycare

亲身经历-大概一个月前有个长周末，打算去港口石堤钓鱼，和ChatGPT探讨了很久，给了3个选择，强烈建议去第一个ocean reef marina，给出了具体站位钓组潮汐抛竿方向风速…我开车50分钟准时到达，懵了，整个码头栅栏围起来，内部全部推平，没路没建筑，在建，不允许进入。起初以为GPS导航错误，反复比对，这就是ocean reef marina。再google，新闻上写着政府投资重建港口码头…当场就把ChatGPT骂了

jiuxing

google输入“下届冬季奥运会”，AI给的答案是下届是2026.2的米兰奥运会。。这显然已经过期啦

flyinfree

babycare 发表于 2026-3-17 18:01
亲身经历-大概一个月前有个长周末，打算去港口石堤钓鱼，和ChatGPT探讨了很久，给了3个选择，强烈建议去第 ...

haha,我家里人想鉴定一些首饰，于是我问AI，丫信誓旦旦地给我列出一系列机构与场所，吹得天花乱堕，而且还有电话与地址，我把这些资料堆给家人后，没多久，被骂得狗血淋头，我把资料拿出来一一去试，电话没有能打通的，要不是空号就是电话那边已经换了公司了。。。。网址更是上不了。。。。

NND。。。。。后来我上网搜视频，看人家最近去哪里鉴定，赶紧把地址抄下来。。。。这AI。。。TMD。。。慎用。。。。。特别是重要关键信息，一定要反复查验。

Laker2

che999 发表于 2026-3-17 17:20
直到你提醒它，向日葵、菊花不是水果，黄瓜名字里的黄不代表黄瓜是黄色，它才会恍然大悟，感谢你指教

他是 ...

你纠正它的时候，它会再次搜索查证，发现你说的是对的，然后就承认。

Laker2

flyinfree 发表于 2026-3-17 18:35
haha,我家里人想鉴定一些首饰，于是我问AI，丫信誓旦旦地给我列出一系列机构与场所，吹得天花乱堕，而且 ...

AI的意思就是Artificial Idiot

che999

Laker2 发表于 2026-3-17 19:54
你纠正它的时候，它会再次搜索查证，发现你说的是对的，然后就承认。

承认了，下一个人继续忽悠？

Laker2

che999 发表于 2026-3-17 20:33
承认了，下一个人继续忽悠？

我觉是是这样。因为AI模型不会因为一个人或几个人的意见而改变自己的权重矩阵。要是随便能改的话，AI投毒就太容易了。

所以，在尝试了一段时间之后，我现在又逐渐用回了Google。

fnf2000

你们不能把AI当作搜索引擎使用，尤其是查一些实时的，或者最新的，或者争议比较大的东西，应用AI的主要目的是帮你完成一件事情，仅仅在问一个问题的角度，AI目前还不如搜索引擎。

che999

jiuxing 发表于 2026-3-17 18:12
google输入“下届冬季奥运会”，AI给的答案是下届是2026.2的米兰奥运会。。这显然已经过期啦 ...

你得提醒他过期了，他会重新查找