“尊敬的法官，我们在此引述Varghese v. China Southern Airlines Co., Ltd.一案的判决……”这听起来是一个再正常不过的法庭陈述。然而，当对方律师和法官在法律数据库中始终找不到这个案件时，一个足以载入法律科技史册的乌龙事件就此揭开。这并非危言耸听，而是2023年真实发生在美国纽约法庭的一幕。人工智能（AI）正以前所未有的速度渗透法律行业，它带来了效率的飞跃，但这份礼物的背后，却隐藏着巨大的幻觉风险，它不仅可能让律师的工作成果化为泡影，甚至会引发严重的职业风险。
仅在最近，就有多起律师因使用AI生成虚假案例而受到处罚的事件：
这些真实案例清晰地表明，即便是法律行业的专业人士，也可能在AI的幻觉面前翻车。律师在享受AI带来便利的同时，必须正视其潜在的法律和伦理风险，确保技术的应用符合严格的法律标准。
一、为什么AI工具会产生幻觉
为何这些顶尖的AI工具会一本正经地胡说八道？要解答这个问题，可能需要回归到大语言模型的技术原理。
AI（特别是大语言模型，LLM）的工作原理并非像传统数据库那样进行精确检索，而是基于其庞大的训练数据，通过复杂的算法和概率计算，来预测下一个最有可能出现的词语，从而生成一段看似流畅且合理的文本。它并非真正地理解或思考，而是在进行一场复杂的文字接龙游戏。这个生成过程缺乏一个可供人类理解的、清晰的逻辑链条，因此被称为“黑箱”。而这种逻辑不透明的黑箱特性，往往会导致信息生成出现偏差，可以说幻觉正是这一黑箱的直接产物。
事实上，AI幻觉在通用领域已给信息获取带来不少困扰，而在对准确性、严谨性要求极高的法律领域，其负面影响更是被成倍放大，幻觉出现的几率也显著高于其他领域：
- 第一，AI不理解法律概念的真实含义，也无法进行真正意义上的逻辑推理。它只是在模仿人类的语言模式。AI的目标是生成语言上看起来最合理的句子，而不是陈述经过验证的事实。如果一个虚构的案例名称和引用格式在语言模式上“看起来很像真的”，AI就有可能将其生成。
- 第二，AI训练数据源存在明显局限。AI的学习材料包罗万象，它无法像人类一样主动评估信源的权威性。在它的眼中，一篇顶尖律所的深度分析文章，与一家法律咨询公司的营销软文、一个网络社区的法律讨论，其可信度权重可能并无本质区别。
- 第三，AI在信息真空时更倾向创造答案。法律领域存在大量非公开信息，例如许多法院的判决书、内部意见并未在互联网上公开，很多仲裁机构的裁决也完全保密，导致AI的知识库存在天然的短板。当AI在其训练数据、网络搜索数据中找不到特定问题的直接答案时，它不会回答“我不知道”，而是倾向于根据已有的数据模式，创造出一个看似合理但实则虚假的答案。
近期的学术研究已经为我们揭示了问题的严重性。斯坦福大学人工智能研究所（Stanford HAI）在2024年5月发布的一项研究《Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools》指出，即使是专为法律行业设计的顶尖AI研究工具，也存在惊人的幻觉率。研究表明，Lexis+ AI 和 Thomson Reuters的Ask Practical Law AI的回答中，超过17%存在幻觉；而Westlaw的AI-Assisted Research的幻觉率更是高达33%。这意味着，即便我们使用的是行业最领先、最昂贵的专业AI工具，律师仍有高达三分之一的几率会遇到虚假信息。这就要求每一位律师在使用AI时，必须时刻保持职业怀疑和警惕，绝不能掉以轻心。
二、谁来为AI的幻觉买单
当AI出错导致客户损失，责任的链条指向何方？是AI开发者，还是使用者律师和其所在的律所？答案是非常明确的：律师永远是最终责任人。
《中华人民共和国律师法》第三条明确规定，律师执业必须“以事实为根据，以法律为准绳”，并“恪守律师职业道德和执业纪律”。《律师执业行为规范》第六条也强调，律师应当“诚实守信、勤勉尽责”。律师的核心职责在于勤勉尽责，向客户提供准确、可靠的法律服务。如将未经核实的AI内容直接用于法律服务，显然违背了这一基本执业要求。我们可以将AI视为一个“能力极强但经验为零的实习生”。你会允许实习生未经审核就直接向法庭提交文件吗？显然不会。同理，AI生成的所有内容，都必须经过律师的严格审查和独立判断。
此前，美国律师协会在2024年7月发布的《关于律师使用人工智能的伦理指南》中，明确了律师在使用AI时必须履行的几项核心义务，包括：能力（Competence），即律师需要了解所使用AI工具的风险和收益；监督（Supervision），强调律师必须对AI生成的工作成果进行审查和验证；以及保密（Confidentiality）等等。
归根结底，AI只是辅助工具，它不能取代律师的专业判断、独立思考和最终决策。将AI的错误归咎于技术本身，在法律和伦理上都是站不住脚的。律师、律所必须为所有对外提供的工作成果负全责。
三、律师使用AI工具时该如何避坑
既然风险客观存在，责任边界清晰，那么律师应如何安全、高效地利用AI工具，避免踏入幻觉的陷阱？我们根据团队的日常使用经验，建议各位律师在使用时特别关注以下几点：
1、使用前：明确工具边界与设置
- 选择专业领域AI工具。优先选择专为法律场景开发的AI工具，如国际上的Lexis+AI、Westlaw Precision，或国内的AlphaGPT、威科AI、案牍等专业平台。这些工具的训练数据更侧重于法律法规、司法判例和专业文献，其产生幻觉的概率相对低于通用大模型。
- 精准定义使用提示词。向AI提问的问题至关重要，我们建议在使用时应避免使用模糊、开放式的指令，提示词应尽可能精确。如可以在提示词中要求AI确保来源可追溯，明确指令AI“在提供任何法律观点或案例时，必须标注具体的法条编号和案例案号，提供链接来源”。此外，可以要求AI工具禁止主观推断，强调“仅基于提供的法律文本和事实进行分析，不进行任何无依据的推测或预测”。也可以在指令中加入类似“如果无法从可靠来源找到答案，请明确告知”的语句，以减少AI为强行回答而编造信息的可能性。
- 调整你的预期。律师在使用时应将AI定位为研究起点或草稿撰写器，而不是答案提供者。它的价值在于激发思路、整理结构和初步检索，而非替代最终的核查与决策。
2、使用中：实时验证与幻觉识别
- 凡是引用，皆需核查。对于AI提供的任何案例、数据或事实，都必须通过传统的、权威的法律数据库（如Westlaw, LexisNexis, 威科先行，北大法宝等）进行交叉验证。对于引用的法条，务必回归到国家法律法规数据库或相关部门发布的原文进行核对，确认条款内容、编号及有效性。
AI常会虚构不存在的案例。例如，在Mata v. Avianca案中，AI甚至杜撰了如“Varghese v. China Southern Airlines”等听起来非常逼真的假案件。手动检索是验证的唯一可靠途径。请找到并阅读每一个被引用案例的判决书原文，确保其真实存在，并且其判决主文和法律论证确实支持你的观点。
- 识别幻觉的典型信号。当AI的输出出现以下特征时，应立即亮起红灯，对相关内容再三进行核查：
- 案例细节模糊：提供的案例摘要中，缺少具体的法院名称、法官姓名、详细的案件事实或判决日期。
- 引用格式异常：法条编号、案例引用格式不符合通行规范，或看起来过于笼统。
- 完美适配的案例：AI提供了一个与你的案件事实和法律观点完美契合，但听起来又过于理想的案例，此时需要高度警惕。
- 模糊的法律分析：AI生成的法律分析缺乏具体的细节和深入的论证，语言风格更像是一篇普法文章而非专业的法律意见书。
- 无法溯源：当你要求AI提供其引用的案例或法条的原始链接或出处时，它无法提供或提供无效链接。Mata案中的律师曾要求ChatGPT确认案例的真实性，而AI给出了肯定的答复，这表明不能轻信AI的自我确认。
3、使用后：独立审查与流程留痕
无论AI生成的初稿多么完美，律师的最终审查都不可或缺。任何由AI辅助生成的文书，在提交给客户、法庭或任何第三方之前，都必须由具备相应资质的律师进行逐字逐句的、批判性的审查。审查的重点不仅是文字是否通顺，更在于事实是否准确、逻辑是否严谨、法律适用是否正确。AI提供的是通用性分析，往往忽略个案的特殊情节。律师必须将AI的分析与具体案情深度结合，进行个性化的调整和完善。
律所层面应建立清晰的AI使用规范，明确AI在工作流程中的定位（如仅用于初步资料搜集和草稿撰写）。同时，建议对使用AI的过程进行记录，包括使用的工具、输入的提示词以及对AI输出结果的核查与修改过程。这不仅有助于风险管理，也能在出现争议时作为履行了审慎义务的证明。
最后，我们还是希望强调：AI不是律师的敌人，AI技术是法律行业不可逆转的趋势，它正在重塑律师的工作方式。技术的发展永远不能取代律师的核心价值：与人共情的能力、独立的专业判断、对客户的认真责任。作为新时代的法律人，我们既要拥抱创新，也要心存敬畏，在科技的浪潮中，坚守法律人的底线与担当。
- 相关领域
- 高科技与人工智能
