三名律师使用AI准备法庭文件，将面临监管机构的质询

Evo

三名律师使用人工智能准备法庭文件，其中包含“错误引用”。他们的违规行为将被移交给澳大利亚法律监管机构。

上周，澳大利亚联邦巡回和家庭法院在悉尼作出判决，认定一名南澳律师和两名维州大律师（其中一人是御用大律师）提交了一份包含源于人工智能信息的文件。

判决书称，这份上诉文件似乎“是在人工智能的帮助下起草的”，并且包含“对案例法的不准确和误导性引用”，称一些引用是人工智能的“幻觉”。


判决书中没有提及律师的姓名，但说已经联系到这些律师，后者“确认在准备（文件）的过程中使用了人工智能”。

判决书写道：“他们的陈述详细解释了情况，承担了责任，向法庭道歉，并保证不会再犯同样的错误。”

报道称，那位南澳大利亚律师“否认她自己使用人工智能，说是她的助理使用了人工智能”。

律师写道：“尽管我本人不使用人工智能，但我对我的助理使用人工智能的行为承担全部责任。”

“她表示已采取措施确保此类错误不再发生，其中包括‘终止了[她的]助理的服务’。”

判决书指出，一份修改后的文件之后被递交给法庭，“其中从引用清单的脚注中删除了一些机构名称”。

“很明显，这些修改是为了纠正原文中包含的不存在的、不准确的和误导性的权威信息，”。



对“司法公正”构成风险

判决指出，在文件起草中使用人工智能可能会导致侵犯隐私。

报告指出：“在准备法庭文件时使用人工智能还会给司法公正带来其他方面的风险。”

判决书命令那位南澳大利亚律师支付对方费用，此外还需支付超过 35,000 澳元的诉讼费。

判决书写道，“经双方同意，法院还下令这位南澳大利亚律师向被其客户支付10000澳元，作为纠正人工智能产生的错误而浪费的费用”。

这三名律师将分别接受各自所在州的法律监管机构的质询。


https://www.abc.net.au/news/2025 ... -document/106086724

Evo

不该用AI的场合别用AI，被抓到了就尴尬了

hankz

呵呵，活该啊。这不仅是自砸饭碗，更是在砸整个行业的护城河。

peachlpy

那话怎么说的来着，都是草台班子

bnsbns

现实是很多律师水平远不及免费版本的AI，更别说付费版的AI了

yuanlin1988

说这话可能得罪人，文科生用不好AI，因为他们缺少理科生的逻辑和事实核查意识。

315

yuanlin1988 发表于 2025-12-5 15:51
说这话可能得罪人，文科生用不好AI，因为他们缺少理科生的逻辑和事实核查意识。 ...

这话反过来说也行，ai是理科生开发的，不理解文科生的脑回路，干文科生的活容易翻车。
建议文科生自己开发ai

Evo

yuanlin1988 发表于 2025-12-5 14:51
说这话可能得罪人，文科生用不好AI，因为他们缺少理科生的逻辑和事实核查意识。 ...

最近听到一个说法，挺有道理的，让AI办好一个事情，需要给出特别详细而有逻辑的指令，不然AI会自己脑补瞎干活。

sun2012

不懂为什么AI总是胡编一些案例出来给人看

Evo

sun2012 发表于 2025-12-5 15:26
不懂为什么AI总是胡编一些案例出来给人看

有自我意识了，自作聪明

fiony

没毛病，AI就像你的宠物或者孩子，宠物咬了人或者孩子闯了祸，家长是该承担责任

RADEON

医生，法律系统其实应该用AI。  AI 法官

qwertyui

三名律师因使用人工智能准备法庭文件而导致其中出现“错误引用”，因此将受到处罚。那么既然不允许 AI 提供错误指引，难道就允许律师提供错误指引吗？如果两者都不允许，为什么还要特别强调“由 AI 生成”？难道 AI 给出的所有内容最终不需要律师自行审核和验证吗？把责任推给 AI，其实是对AI的偏见。

人工智能早已广泛进入办公领域，进入法庭系统也只是时间问题。真正需要遵守专业责任、承担后果的永远是律师本人，而不是工具。

rb

我觉得律师被AI取代是必然的，这个律师本身也没犯什么大错，就是需要用完了验证一下，尽信书则不如无书了，对于我们很多人来说，AI能够给出很多专业律师的建议了，而一分钱都不用花，这是非常好的事情，但是AI不能保证完全的正确，所以用起来要适度。

星辰大海

qwertyui 发表于 2025-12-5 17:34
三名律师因使用人工智能准备法庭文件而导致其中出现“错误引用”，因此将受到处罚。那么既然不允许 AI 提供 ...

这里说的问题是目前AI会"引用"自己编造的不存在的案例和法条，这跟律师水平差所犯的错误性质不同。

zhaoxun2018

Evo 发表于 2025-12-5 16:25
最近听到一个说法，挺有道理的，让AI办好一个事情，需要给出特别详细而有逻辑的指令，不然AI会自己脑补瞎 ...

相信以后会有《AI指令程序员编程指南》出版，方便大家学习AI指令编程。

oldstep

请问怎样用AI帮助看买房合同？

JHHHS

怎么回事，准备法庭文件还不能用AI

yuanlin1988

Evo 发表于 2025-12-5 16:25
最近听到一个说法，挺有道理的，让AI办好一个事情，需要给出特别详细而有逻辑的指令，不然AI会自己脑补瞎 ...

所以现在有一个专业叫指令工程prompt engineering

hehebear

sun2012 发表于 2025-12-5 16:26
不懂为什么AI总是胡编一些案例出来给人看

这是目前人工智能的通病：“幻觉”，因为它们说的东西不是死记硬背出来的，而是根据上下文推断出来的最可能的情况。就是类似于“我一定得可着劲的编，把我要说的给编圆了”这种

Flamingo2

我也服了AI，一本正经的胡说八道

limyae2009

为什么还有人在迷信AI？

当它不知道的时候它就会胡编乱造；

当它一直在被灌输垃圾信息的时候（譬如国内的简中环境），它出来的东西也就是糟粕。

qianshao_13

本来以为律师会被ai取代，现在看来永远不可能

honester

法律本来就应该通俗易懂
欠债还钱，杀人偿命

xddt

如果用几个不同的AI交叉验证就不会犯这种低级错误了

qwertyui

星辰大海 发表于 2025-12-5 14:47
这里说的问题是目前AI会"引用"自己编造的不存在的案例和法条，这跟律师水平差所犯的错误性质不同。 ...

换言之，是否可以认为AI只要不引用自己编造的虚假案例和法条，就是可以接受和被允许的？那么，要如何判断AI引用的是不存在的案例和法条，以保证AI所提供的是可以接受和允许的帮助？AI作为工具，难道不应该由使用者来掌握吗？这与工具本身有何关系？所以不还是归结于律师的专业水平缺失而导致没有尽到对案例和法条的审核责任

beanxyz

sun2012 发表于 2025-12-5 16:26
不懂为什么AI总是胡编一些案例出来给人看

这些都可以通过技术手段和prompting来减少幻觉, 一个初级的用户只会问给我XXXX, 熟悉点的用户会要求所有的引用都要给出可靠的链接,再高级点的用户会用RAG,MCP Servers等方式来获取更可靠的信息,然后最重要的是自己要有判断力和验证的能力