LLM的缺陷

DDD888

不能思考

如果训练数据没有答案，就不能给出正确解决方案，进入死循环

何种数据不在训练答案里？多了去了，例如最新的代码，你是少数人遇到的编程错误 ，这种情况下，只能用自己的脑子思考，我给个解决思路，调试代码里到处写println

hehebear

大哥，你该出洞看看外面的世界了
https://zhuanlan.zhihu.com/p/2022317138967363753

wdq2347

你是要用AI agent写Rust代码吗？目前的AI agent写Rust或者C++对内存处理要求很高的语言来说还是比较困难的，Pre-check必须要搞，但时间和token会大量消耗。而且出错率不能说高，那只能说是极高。

Mushroomm

先定义什么是思考。否则就是鸡同鸭讲。
不过说实话，楼主这么多年码农从业经验，发帖还是这么不严谨。根子上应该是大学里的思维训练不够扎实

DDD888

wdq2347 发表于 2026-4-1 11:52
你是要用AI agent写Rust代码吗？目前的AI agent写Rust或者C++对内存处理要求很高的语言来说还是比较困难的 ...

不是啦，我就想用個用RUST LANGUAGE寫的項目來運行AI MODEL，結果不能運行AI MODEL，我想知道爲啥不能運行，在我自己調試后，找到了解決方案，所以感嘆下

DDD888

Mushroomm 发表于 2026-4-1 11:53
先定义什么是思考。否则就是鸡同鸭讲。
不过说实话，楼主这么多年码农从业经验，发帖还是这么不严谨。根子 ...

自然語言從來就不是嚴謹的，只有RUST LANGUAGE編寫的代碼才是最嚴謹的，但你莫名詆毀我，是不道德的。

Mushroomm

DDD888 发表于 2026-4-1 12:08
自然語言從來就不是嚴謹的，只有RUST LANGUAGE編寫的代碼才是最嚴謹的，但你莫名詆毀我，是不道德的。 ...

我本意并不是诋毁你本人。更多是评价你上的大学的教育水平。
我不知道你的教育背影，或许是文科专业毕业的也有可能。这也不是诋毁文科生。国内的文科大学对逻辑思维训练的水平大家也都知道

DDD888

Mushroomm 发表于 2026-4-1 12:58
我本意并不是诋毁你本人。更多是评价你上的大学的教育水平。
我不知道你的教育背影，或许是文科专业毕业 ...

那你評價下這家公司泄露代碼的人上的大學的教育水平如何？

https://www.v2ex.com/t/1202649

DDD888

wdq2347 发表于 2026-4-1 11:52
你是要用AI agent写Rust代码吗？目前的AI agent写Rust或者C++对内存处理要求很高的语言来说还是比较困难的 ...

另外我不擔心TOKEN，我是本地運行AI MODEL，就花點電費，裝了qwen 3 ai model

yzh1999

原来如此

Mushroomm

DDD888 发表于 2026-4-1 13:06
那你評價下這家公司泄露代碼的人上的大學的教育水平如何？

https://www.v2ex.com/t/1202649 ...

这件事在我看来不是大学的教育水平问题，而是工程师的职业素质有严重缺陷。简单点说，作为一个工程师，不专业。

DDD888

Mushroomm 发表于 2026-4-1 13:31
这件事在我看来不是大学的教育水平问题，而是工程师的职业素质有严重缺陷。简单点说，作为一个工程师，不 ...

應該不能怪工程師，而是AI的核心有重大缺陷，其實叫囂AI取代程序員的人可以歇歇了。世界上沒有一個人會把自己最機密的信息公開來傷害自己，唯有昨天開啓了新的篇章

Mushroomm

DDD888 发表于 2026-4-1 12:08
自然語言從來就不是嚴謹的，只有RUST LANGUAGE編寫的代碼才是最嚴謹的，但你莫名詆毀我，是不道德的。 ...

自然语言当然不严谨。相对于英文和德语，中文更加不严谨，更适合写展开联想的诗歌。
所以，下断言的时候，对于关键概念，需要界定概念的内涵和外延。如果把思考等同于AGI, 那么llm当然没有完全实现思考。
如果认为解奥数题算作一种思考，那么llm已经开始思考了。

DDD888

Mushroomm 发表于 2026-4-1 13:38
自然语言当然不严谨。相对于英文和德语，中文更加不严谨，更适合写展开联想的诗歌。
所以，下断言的时候 ...

LLM並沒有任何思考的能力，只不過是基於概率輸出下一個TOKEN，而這概率來自于喂的訓練數據

人從來不會因爲看到中國傳統舞獅表演，以爲這是真的獅子在跳舞，感嘆就不用去動物園看真的獅子了。

DDD888

DDD888 发表于 2026-4-1 13:42
LLM並沒有任何思考的能力，只不過是基於概率輸出下一個TOKEN，而這概率來自于喂的訓練數據

人從來不會因 ...

提到中國傳統舞獅表演，昨天rangitoto college的中國傳統舞獅表演真是太好看了，題外話

Mushroomm

應該不能怪工程師

合格的工程师应该把好最后一道关。不排除最上面的管理层push 工程师使用AI全程工作。优秀的工程师应该尽可能的防范风险，提醒管理层。

其實叫囂AI取代程序員的人可以歇歇了

我同意你的观点，AI目前确实不能彻底取代所有程序员。很多公司会为这个说法付出巨大的代价。Anthropic这件事就是一个例子。

DDD888

Mushroomm 发表于 2026-4-1 13:51
合格的工程师应该把好最后一道关。不排除最上面的管理层push 工程师使用AI全程工作。优秀的工程师应该尽可 ...

現在最新的廣告是用AI的工程師應該睡覺都可以讓AI寫程序，如何把關啊？夢裏？

Mushroomm

DDD888 发表于 2026-4-1 13:55
現在最新的廣告是用AI的工程師應該睡覺都可以讓AI寫程序，如何把關啊？夢裏？  ...

让AI写程序，没有问题。把npm包release出去，风险非常大。这一步应该有人把关。
真正应该有人把关的是为什么会有policy允许AI publish npm package. 工程师应该加入制定policy的过程，合理的评估风险。
Anthropic有点膨胀了。看到一个统计，Anthropic从今年的2月1日至3月23日，52天内发布了73个产品。这么急的节奏不出问题才怪。
我更相信慢工出细活，即使有AI做助手

Linon

你用的gpt3.5吗

DDD888

Linon 发表于 2026-4-1 14:22
你用的gpt3.5吗

google.com AI mode button

scoopy

DDD888 发表于 2026-4-1 14:25
google.com AI mode button

问题是这样google只能聊天，没法给你写代码，它的回答有严格的长度限制。

gamesover

DDD888 发表于 2026-4-1 12:25
google.com AI mode button

花30块钱，用下claude code

现在ai连浏览器和编译器都能写，不要说一般业务代码

DDD888

scoopy 发表于 2026-4-1 15:48
问题是这样google只能聊天，没法给你写代码，它的回答有严格的长度限制。 ...

挺好的呀，因为免费:loveliness

Chatgpt 免费版只能上传一张图片

DDD888

gamesover 发表于 2026-4-1 15:55
花30块钱，用下claude code

现在ai连浏览器和编译器都能写，不要说一般业务代码 ...

不想花钱，没这需求

我家有许多账单要付，这个属于排队排到10年后的了

xxxxyyyy

AI还是发展的太慢了，竟然还有人在质疑。

DDD888

xxxxyyyy 发表于 2026-4-3 13:37
AI还是发展的太慢了，竟然还有人在质疑。

你用的很開心嗎？

我感覺RTX 5090的VRAM 32GB太小了，跑AI MODEL QWEN 3.5都是缺内存