震惊了！ChatGPT全程编造参考文献造假！

RADEON

但熟悉他的特性，针对性的加以利用是非常好的工具。

DDD888

Flyingfree 发表于 2024-8-19 13:40
上次去公园玩，找不到停车位于是就PARK在了隔壁路那头，结果回来吃了一张罚单，于是我写了个缘由让GPT给 ...

赞啊，我曾说过一个实例，是在新西兰奥克兰北岸私人医院做手术，医生护士没有打电话给中文翻译，我在当场做翻译，结果两个月后，收到要付账单，我就让chatgpt写了拒付的信，我抵制了自己想打电话和医院交涉的情绪，通过email,最终是医院主管给我打电话向我道歉不应该收费，免去了收费，我感觉挺开心的，当然啦，即使要收钱也应该是医疗保险公司付，我只不过想省点麻烦，万一让我付不是倒霉啦

我是向来讨厌说官话的，有了chatgpt后，我就如释重负了

Flyingfree

swe 发表于 2024-8-19 13:33
OpenAI发布公告表示，已经监测到出现了问题，对ChatGPT的胡言乱语正在进行调试。 ...

胡言乱语-->我不知道这个特点是他们程序上的设计还是AI的“智能性的体现”，毕竟据专家门说，“想像力”和“说谎”是现代智人区别于动物和其它人科亚种的重要因素。

但是我觉得有两个潜在可能的担心：

1， AI在未来成为了人类的“领导”，无论是人类自愿给予权限还是想黑客帝国那样强力造反夺取，总之他们可以编织一个谎言或故事改写人类的所有历史。

2，某些国家的统治阶级利用AI编造和改写历史（甚至以后人类社会统一为一个政权了，也有可能），这样的话随着时间的流逝，只有少量实体书和文献记载才能找到“真相”。

DDD888

Flyingfree 发表于 2024-8-19 14:22
胡言乱语-->我不知道这个特点是他们程序上的设计还是AI的“智能性的体现”，毕竟据专家门说，“想像力” ...

人和动物的区别是创造和使用工具

但如果创造出来的工具不能用，那也是没用的

Flyingfree

DDD888 发表于 2024-8-19 14:36
人和动物的区别是创造和使用工具

但如果创造出来的工具不能用，那也是没用的 ...

我觉得你所担心的这个问题会慢慢得到完善，几年或者十几年后应该会有很大的发展。

但是在我所担心的那个领域，如果从源头上没办法解决，AI越强大，问题就越大。一直到某一天，人类的认知和历史都可能会被“改变”。。。以至于到了遥远的未来，真相可能需要靠“考古”。。

DDD888

Flyingfree 发表于 2024-8-19 15:10
我觉得你所担心的这个问题会慢慢得到完善，几年或者十几年后应该会有很大的发展。

但是在我所担心的那个 ...

源头其实是人的创造性，例如我就不相信人工智能能找到e=mc2

kaka3030

请问你是用的GPT 哪个模型？

Flyingfree

DDD888 发表于 2024-8-21 09:53
源头其实是人的创造性，例如我就不相信人工智能能找到e=mc2

e=mc2 也并非就是千万年不变的“真理”，就像牛顿力学后来被称为“经典物理规律”一样，也是存在局限性的，随着人类的知识拓展和AI技术的开发，在未来应该有可能由AI来主导研发工作。

CalmDownOK

就这么说吧，他展现出一种很看不起你的态度

DDD888

Flyingfree 发表于 2024-8-21 13:07
e=mc2 也并非就是千万年不变的“真理”，就像牛顿力学后来被称为“经典物理规律”一样，也是存在局限性的 ...

说到未来，一切都变成了超想象的空间啦

Flyingfree

DDD888 发表于 2024-8-21 14:05
说到未来，一切都变成了超想象的空间啦

时代在变化啊大人，想当年牛顿爵士在树底下被苹果砸到时，仰望的也只是天空而非星空。。。。。谁知道力学还能发展到后面那个地步。

DDD888

Flyingfree 发表于 2024-8-21 14:12
时代在变化啊大人，想当年牛顿爵士在树底下被苹果砸到时，仰望的也只是天空而非星空。。。。。谁知道力学 ...

说真的，我对物理没啥研究，不懂啦