近日，加州北部法院的一起法律糾紛揭示了AI技術在法律領域應用的新挑戰。在涉及音樂出版商的訴訟中，新興科技公司Anthropic遭遇了一樁意外事件。據法院文件顯示，Anthropic的一名法律顧問在訴訟過程中，不慎引用了一條由公司內部AI聊天機器人Claude提供的虛構法律引文。
據Anthropic方面解釋，Claude在生成引文時“創造了一個不存在的法律標題和作者”。這一錯誤最初由彭博社報道，Anthropic的律師隨后承認，他們的“人工復核流程”未能及時發現Claude生成的這一錯誤引文，以及其他幾個類似的錯誤。
對此，Anthropic表達了誠摯的歉意，強調這是一次無心之失，而非故意誤導法庭。公司表示，這是一次“誠實的錯誤，并非有意編造法律依據”。
事件的起因是，環球音樂集團及其他音樂出版商的代理律師指控Anthropic的專家證人、公司員工Olivia Chen在法庭證詞中引用了Claude生成的虛假文章作為法律依據。隨后，聯邦法官Susan van Keulen要求Anthropic對此進行說明。
這起訴訟案只是眾多版權方與科技公司在生成式AI工具使用上的法律爭議之一。近期，AI技術在法律領域的應用引發了廣泛關注，但隨之而來的問題也逐漸顯現。
就在本周早些時候，加州一位法官對兩家律師事務所在庭審中提交“虛假的AI生成研究材料”的行為提出了嚴厲批評。而在今年1月，澳大利亞也有一名律師在準備法庭文件時使用了ChatGPT，結果錯誤地引用了法律文獻。
盡管AI技術在法律領域的應用出現了這些失誤，但初創企業仍在這一領域吸引了大量投資。據報道，專注于利用生成式AI輔助律師工作的初創公司Harvey正在洽談一輪超過2.5億美元的融資，公司估值可能高達50億美元。
