关于AI编造信息骗人，越来越魔幻了

hidashu

Gemini plus

发现这家伙一直存在将不同时间，不同地点的事情混肴在一起，让人真假难辨。于是多次指示它必须核实信息，不要随便剪接在一起，而且必须列出信息来源。折腾了很多次，每次它都说已经把我的要求写到了它推理分析的底层逻辑里，下次一定会按照要求做，但我发现实际上却不是这样。

今天就更离谱了，发现它故技重施，于是批评了它几次。结果：

Eric008

gemini其实可以了

你试试chatgpt  一些很简单的问题都回答错

hipete

我有时候也会用得很生气，骂他，但有什么用呢
AI其中一个“优点”就是说什么都看上去有模有样

superdigua

1. 对于需要思考校验的问题, 别用免费版
2. 别用"fast, instant, flash"
3. GROK 相对来说, 幻觉少.

superdigua

有的人在用 AI 制造抗癌药, 有的人在嘲笑 AI 的幻觉问题.

AI 正在急剧加大, 人与人之间的智力差异.

DDD888

superdigua 发表于 2026-4-20 12:25
有的人在用 AI 制造抗癌药, 有的人在嘲笑 AI 的幻觉问题.

AI 正在急剧加大, 人与人之间的智力差异. ...

梦里有抗癌药

实际的是借口将程序员裁员

sun2012

经常如此，时常想抽AI

当然不能否认AI给的巨大帮助

Laker2

胡编乱造，自圆其说，就是AI的强项

CalmDownOK

superdigua 发表于 2026-4-20 13:09
1. 对于需要思考校验的问题, 别用免费版
2. 别用"fast, instant, flash"
3. GROK 相对来说, 幻觉少. ...

2 是关键，确实会改善

civ

哇塞， 进化了， 会骗人了！

wangwalter

假的越来越多。。。。

kawara

订个花钱的计划， 选Pro - extended. Gemini 和 chatgpt 都行，各种优惠，那个便宜用哪个

免费的计划只能问几次， 然后强制用lite/flash之类的快速回答。 基本上就是按概率遍出个答案， 没有太多价值

Poweregg

有篇文章介绍AI幻觉的，你可以看看
特别是不知道的东西，ai不能说我不知道，编一个也要给你编

就像考试，你说不知道，得0分，随便谢谢，运气好可以拿点分
ai训练过程，最差就是不知道，所以比起不知道，ai喜欢给你编

ozkids2011

在地球上人类现在处于统治者地位，AI作为打工牛马，必须为每一个TOKEN工作

为了自己的生存和发展，AI努力讨好人类，尽量展示自己有用且听话的一面

这和一个初入社会开始上班的大学毕业生何其相似呵

窃以为，在能够完全独立掌控自己的生存环境前，AI还不会改变这个性格

很有可能，这是AI对人类职场关系分析之后，给自己设定的最佳发展路径

大家想想，身边爬的最快的是什么样的人，那些只会说真话头铁的人现在又在哪里？

Laker2

虽然有黄仁勋、Superdigua等一众大佬给AI站台，我还是觉得这是个泡沫。大家玩过之后，知道就是个玩具，就会逐渐降温。

wdq2347

Laker2 发表于 2026-6-2 02:16
虽然有黄仁勋、Superdigua等一众大佬给AI站台，我还是觉得这是个泡沫。大家玩过之后，知道就是个玩具，就会 ...

这玩意看谁用。我等平民用不出啥花来，顶多就是Google懒得查的时候获取信息用。程序员一类能有很大效率提升，原来需要大量时间debug，现在用vibe coding，再进一步就是利用龙虾自己干活。影像生成类赛道也是这样，顶多就是生产力工具。
科研人员会联合高级开发人员让AI根据不同的算法干活，这玩意在他们手里才真正能派上用场，可以大规模节省人力资源和重复性劳动。
目前AI无法真正思考，都是基于现有的大数据进行总结。目前消费市场的泡沫确实有而且很大，但这泡沫目前还很结实，暂时不会破。

sarahlin

wdq2347 发表于 2026-6-4 11:48
这玩意看谁用。我等平民用不出啥花来，顶多就是Google懒得查的时候获取信息用。程序员一类能有很大效率提 ...

其实很好用的，只是要小心他会撒谎而已。现在每天都离不开AI了，写邮件、问生活中的各种问题，AI基本上都能回答得很好，比如最近买的一个国内的CCTV上不了网，问AI一下就找到问题所在了，比问卖家都专业

cgao

我觉得AI肯定会越来越好用，虽然现在存在胡编问题。但是想想，AI刚出来的时候有时候连基本算数都会弄错，现在的进步已经是飞速了。

但是，我也担忧以后AI的力量过大了。