Claude幻觉导致错误引用，律所面临专业责任新风险

事件回顾

2025 年 5 月，Latham & Watkins 为 Concord Music Group v. Anthropic 案件准备法院声明时，指示 Claude 将一篇已通过 Google 搜索定位的学术论文格式化为法律引用。Claude 返回的引用虽然链接和出版年份正确，却把作者、标题全部写错。对方律所核查后发现错误，法院随即要求披露 AI 使用并强制人工核实。

“AI 幻觉并未创造虚假来源，而是对真实来源的元数据进行误描述，这种错误最容易逃过表面审查。”——《The Register》

幻觉机制与风险

• 真实来源‑错误元数据：Claude 并未凭空捏造文献，而是对已有文献的标题、作者等信息进行错误填充。
• 验证盲点：律师只检查链接是否可达、年份是否匹配，忽视了对标题和作者的逐字核对。
• 专业外观的误导：AI 输出格式完美、语言流畅，缺乏常见的语法或逻辑警示，导致审阅者产生“可信”错觉。

法院裁决与行业影响

• 强制披露：联邦法院要求在所有提交文件中标注 AI 使用情况。
• 人力核实义务：法官明确指出，AI 生成的内容仍需律师本人完成 Rule 11 认证的合理勤勉审查。
• 处罚案例：2024 年 Gauthier v. Goodyear 中，因使用 Claude 产生的虚假引用，律所被罚款 2,000 美元并强制参加 AI 合规培训。

这些裁决表明，AI 并未改变律师的专业责任，反而把验证难度提升到了技术层面。

律师职责的技术升级

1. 元数据核对流程：
   • 手动打开原文 PDF，逐行比对标题、作者、期刊名称。
   • 使用独立的文献管理工具（如 Zotero）进行二次校验。
2. AI 使用披露模板：
   • 在文件页脚加入 “本文件使用了 Claude（版本 x.x），已由本人核实”。
3. 内部培训：
   • 法律事务所需为律师提供 AI 幻觉模式 与 元数据验证 的专项培训，确保其具备技术辨识能力。

前瞻

随着生成式 AI 在法律研究、合同起草和证据审查中的渗透，行业监管将进一步细化 AI 透明度与验证标准。律所若不能在内部建立系统化的 AI 核查机制，面临的将是专业责任风险与声誉损失的双重冲击。未来，Rule 11 可能被修订为明确要求律师对 AI 输出进行技术层面的审查，而非仅仅的“常规校对”。

“AI 幻觉的最大危害在于它的可信度。”——NexLaw Blog（2026）