以ChatGPT生成虚构案例误导法庭?

卑诗省一名华裔律师,因向最高法院提交了两个由人工智能生成、纯属虚构的案例,即使法官相信属无心之失,仍判她需负责讼费。法官又重申,生成式人工智能无法取代司法系统中律师的专业知识。

在卑诗省Westside Family Law执业的律师轲翀(Chong Ke),在案中代表商人陈伟(Wei Chen,音译)。去年十二月,她向法庭申请让陈带同子女前往中国。陈与前妻育有三名子女。根据中国离婚诉讼,陈的资产估计在$7,000至$9,000万之间。其前妻张妮娜(Nina Zhang,音译)与三个孩子,住在温哥华西一栋估计价值$840万的房子里。去年十二月,法院计算出陈的年收入为$100万,并下令他每月向前妻支付$1.6万赡养费。在赡养费判决前,轲翀代表陈申请带子女前往中国。

两个子虚乌有的案例
轲翀的申请列出两个案例:一个是一名母亲带七岁孩子去印度旅行六周;另一个是一名母亲申请带九岁孩子去中国探亲四周,她的申请指,两案例都获得批准。但问题是,两个案例根本是由ChaptGPT子虚乌有,根本不存在。张妮娜的律师在无法找到上述案例后,去信轲翀的事务所要求提供副本,这时轲翀即交出一封道歉信,承认案例是假的,并即时撤回,案例最后未有用于聆讯中。法官马苏哈拉(David Masuhara)在2月26日裁决时,表示不认为律师轲翀蓄意误导法庭。但他对事件仍感不安。

并非故意
法官指轲翀做了一份誓章,表示不知道使用ChatGPT会涉及虚构风险,又指发现案例根本不存在时,感到羞愧不已。“我无意在本案中捏造案例或引用虚构案例。这显然是错误,非有意为之。”轲翀在誓章中写道。法官在判决书所附的最后评论中写道,本案凸显出的,就是生成式人工智能仍然无法取代司法系统对律师要求的专业知识。法官裁定,轲翀应承担张妮娜的律师为拨乱反正而衍生的讼费。但法官指相信轲翀并非故意,故拒絕张妮娜一方申请在对方滥用私法程序下可申请的特别讼费。他并命令轲翀审查提交的其他文件,如果是由从ChatGPT或其他生成式人工智能工具而来,她必须立即通知张的律师和法庭。

律师会提醒成员
事件在加拿大相信属首次。但去年曼哈顿一名律师,已曾根据后来得知是ChatGPT撰写的假裁决,提出诉讼。自本案后,卑诗省律师会提醒会员,在诉讼中使用人工智能生成的文件越来越多。律师会发给会员的一份指引中说,律师有义务确保提交到法庭的文件内容属实。(来源:RCI)

发表回复