资深律师用AI生成关于谋杀案的文件而向法官道歉

astina

一名资深律师就在递交关于一个谋杀案的文件时用AI生成虚假引述和不存在的判决A而向维州法官道歉。

根据澳联社周五看到的法庭文件，辩护律师、拥有御用大律师头衔的Rishi Nathwani对一名被控谋杀的少年一案递交了不正确的信息而“负全责”。

Nathwani周三代表辩护团队对法官说：“我们对发生这样的事深感抱歉以及极为尴尬。”

AI生成的错误导致这个本希望在周三解决的案件被推迟了24小时。



法官后来因Nathwani的当事人精神障碍而判决无罪。

“毫不夸张地说，此事发展方式是令人不满意的。”

“法院能够依赖律师提交材料的准确性，是司法公正得以实现的根本。”

这些虚假提交材料中包括捏造的州议会演讲引文，以及所谓来自最高法院的不存在的案例引述。

这些错误是由法官助理发现的。他们找不到相关案例，于是要求辩护律师提供副本。

根据法庭文件，律师承认这些引述“并不存在”，并且提交材料中包含“虚构的引文”。

律师们解释说他们检查开始的引述是准确的，于是错误地假设其余的也都准确。

递交的文件也发给了检察官，但是检察官没有检查准确性。

法官指出高院去年发了关于律师如何使用AI的指引。

法官说：“除非经过独立和彻底核实，不然使用人工智能是不可接受的。”

https://www.abc.net.au/news/2025-08-15/victoria-lawyer-apologises-after-ai-generated-submissions/105661208

BOLANGSHA

估计大众点评上9.9元的刑事辩护套餐就是这种。

zhangwei7461

AI 对于这个行业的冲击就是这样的。  水平低的，写的还不如AI，索性全程AI， 原来水平高或者名气高的，也得依赖AI，把本来几十小时的工作量直接依赖AI压缩成几个小时。然后开始赚轻松钱。

不过AI对于华人在这个行业平均水平，绝对是大大提升的。

凯瑟琳琳

稍微用过 AI 的人都知道，文案不能完全照搬 AI。

我连在足迹发帖都不敢全用 AI，结果知名大律师居然直接拿 AI 生成的文件呈堂，还不检查，心可真大。

星辰大海

AI编得还挺仔细。。。

Y叔

应该disqualified

SAland

zhangwei7461 发表于 2025-8-16 00:08
AI 对于这个行业的冲击就是这样的。  水平低的，写的还不如AI，索性全程AI， 原来水平高或者名气高的，也得 ...

法律行业这种拿案例大帽子吓唬人的操作一直存在，AI 只是把这个行业问题显性化和极端化了而已（从这个角度看 AI真的是高度 “拟人”），当年我 self-represented 打一个官司，一审法官引 HCA 某案例判我输，我上网把案例100多页原文拿到仔细阅读后发现恰恰相反，那个案例总体设立的 general rule 其实是挺我这边的，只是中间有几句话在某些严格预设前提下才会对我不利，而法官就撇开前后文的逻辑设定截中间几句话作出对我的不利判决，于是我毫不犹豫向 supreme court 提出上诉并引用同一案例进行反驳，最终取胜。。。

ctsnzakl12@gmai

SAland 发表于 2025-8-16 09:42
法律行业这种拿案例大帽子吓唬人的操作一直存在，AI 只是把这个行业问题显性化和极端化了而已（从这个角 ...

你跟那个法官都是非常仔细地阅读原文

SAland

ctsnzakl12@gmai 发表于 2025-8-16 09:58
你跟那个法官都是非常仔细地阅读原文

那个法官应该没有仔细地阅读原文（难不成是明知而装不知？），因为如果严格按照原案例前后文的逻辑设定，中间那几句话根本不适用我的情况因而不可能据此作出对我的不利判决，案例法引用从来都是  general rule 先行，特殊场景下的判定必须严格比对前提条件。那是好几年前的事，还没有 AI，我怀疑他也就是拿主题词 google 跳出来案例中间的这一小段，于是就不看上下文直接引用了。

senlin

SAland 发表于 2025-8-16 10:06
那个法官应该没有仔细地阅读原文（难不成是明知而装不知？），因为如果严格按照原案例前后文的逻辑设定， ...

求人不如求己。
看病如此，打官司也是这样了！

为维护自己的正当权益，要放弃很多时间精力。让人感叹。