• 2024年11月21日 10:36

人工智能在法律领域频现乌龙,美国最高法院首席大法官敦促法律界要 “ 谨慎待之 ”

1 月 1, 2024

美国最高法院首席大法官约翰·罗伯茨(John Roberts)在周日发布的年终报告中表示,人工智能对法律领域的影响,有喜也有忧,他敦促法律界要 “ 谨慎和谦逊 ”,因为不断发展的技术,正在改变法官和律师的工作方式。

在长达 13 页的报告中,罗伯茨以一种矛盾的语气说,人工智能不仅有可能增加贫困诉讼当事人诉诸司法的机会,还有可能革命化法律研究,并可协助法院更快捷、成本更低地解决案件。与此同时,他也指出了涉及隐私的问题,以及目前的技术还无法取代人类的自由裁量权。

罗伯茨写道:“ 我预测,人类法官还会存在一段时间。”“ 但我同样有信心地预测,司法工作——尤其是审判层面的工作——将受到人工智能的重大影响。”

这位首席大法官的评论,是他迄今为止关于人工智能对法律领域之影响的最重要的论述。与此同时,一些下级法院也在争论如何才能最好地适应这项新技术,因为尽管它能够通过律师资格考试,但也容易产生虚构的内容,即所谓的 “ 幻觉 ”。

罗伯茨强调,“ 对人工智能的任何使用,都需要谨慎和谦逊。” 他还提到了人工智能幻觉导致律师在法庭文件中引用虚无案件的例子。这位首席大法官说,这 “ 显然是一个坏主意 ”。罗伯茨没有详细对此说明,只是说这种现象 “ 成为了今年的头条新闻 ”。

例如,上周,川普的前律师迈克尔·科恩(Michael Cohen)在上周公布的法庭文件中表示,他错误地将一个人工智能程序生成的虚假案件引证提供给了律师,该引证后来被写进一份正式的法庭文件。因人工智能幻觉而产生的虚无案件也有被写进法律简报的情况。

上个月,新奥尔良的一家联邦上诉法院公布了一套规则,旨在规范出庭律师使用 OpenAI 的 ChatGPT 等生成式人工智能工具,这套规则似乎是由美国 13 家上诉法院首次提出的。

美国第 5 巡回上诉法院提出的拟议规则将要求律师证明,他们没有依赖人工智能程序起草辩护书,或者证明人工智能生成的任何文本,在被写进法庭文件前,都经过了人工审核。

来源:REUTERS;编译:POLARZONE