AI查来的判例是假的，律师却把它交到了法院——用生成式AI做法律辅助的三个实务判断

　　先说一个这两年在律所里越来越常见的场景。一位年轻律师接到一起商事纠纷，为了把"有类案支持"写进代理意见，他把关键词丢进一个生成式AI工具，几秒钟就拿到几条"裁判要旨"，案号、法院层级、说理脉络一应俱全，读起来严丝合缝。他把这些"案例"稍作整理，随代理意见一起提交给了法庭。开庭时法官当庭核查，发现其中两条案号在中国裁判文书网上根本查不到，还有一条案号是真的，可对应的却是一份与本案毫不相干的判决。律师当场下不来台，更麻烦的是，法官对他此后所有陈述的信任度都打了折扣。

　　这不是危言耸听。2025年10月，北京市通州区人民法院在审理一起股权代持纠纷时，就发现原告代理律师提交的多个"案例"是AI凭空编造的，承办法官在判决书中予以警示；此后，湖北宜昌市西陵区人民法院在一起"以非药品冒充药品"案中，发现代理律师提交的案例材料大部分为AI生成的不实案例，当庭对该律师予以训诫；浙江台州则公布过一起当事人利用AI修改聊天记录、伪造证据而被罚款的案例。这些被公开报道的个案指向同一个问题：生成式AI进入法律工作流之后，"工具出错"的后果，正越来越多地由使用者来承担。

　　要弄清这件事，得先明确当前的规则坐标。诉讼这一侧，《中华人民共和国民事诉讼法》确立了诚信原则，其第一百一十四条第一款又针对"伪造、毁灭重要证据，妨碍人民法院审理案件"等行为规定了罚款、拘留乃至追究刑责；AI这一侧，国家网信办等部门制定的《生成式人工智能服务管理暂行办法》自2023年8月15日起施行、《互联网信息服务深度合成管理规定》自2023年1月10日起施行、《人工智能生成合成内容标识办法》自2025年9月1日起施行，共同管住了生成合成内容的合规边界。规则并不缺，缺的是把它落到"每一次检索、每一份材料、每一次对外发布"上。下面三个判断，建议在使用AI做法律工作之前逐条过一遍。

#一、AI生成的内容，能不能作为依据提交法庭

#规则：提交给法院的"参考材料"，同样受诉讼诚信约束

　　很多人第一反应是：AI给的案例只是"参考"，又不是证据，真伪由法官判断，写错了顶多不被采纳。这个理解低估了问题的分量。

　　民事诉讼应当遵循诚信原则，这是《民事诉讼法》的总则性要求。提交给法院、以期影响裁判的材料，无论是证据还是"参考案例""裁判要旨"，都落在这条原则的射程内。更具体的规则落点，出现在人民法院案例库的一则入库案例中：任某璐诉曹某、北京某国际旅行社有限公司与公司有关的纠纷案（入库编号2025-18-2-494-001），其裁判要旨明确指出，诉讼参与人在民事诉讼活动中应当遵循诚信原则，诉讼参与人提交通过人工智能技术获取且未经甄别核实的虚假案例的，应当承担相应的法律后果；情节轻微的，人民法院可以对其进行批评教育，情节较重的，可以参照民事诉讼法第一百一十四条第一款的规定处理。

　　该案例说理中有一处值得特别注意：它同时指出，向法院提交以供参考适用的"案例"，性质上属于诉辩意见范畴，并非证据，因此提交未经核实的虚假案例，并不当然构成第一百一十四条第一款所称的"伪造、毁灭重要证据"，但仍因违反诉讼诚信、妨害民事诉讼秩序，需要按情节承担法律后果。也就是说，规则给出的是一段"情节梯度"：情节轻微的批评教育，情节较重的可参照罚款、拘留处理，而不是简单地"是证据就罚、不是证据就不管"。

#风险：三种最容易被忽略的误判

　　第一种，是把"AI检索到"等同于"事实存在"。生成式模型的机理是生成通顺文本，而不是查询权威数据库，它完全可能把真实案号、真实法院与虚构的裁判理由拼接在一起，形成一份"半真半假"的材料。前述通州、宜昌两起被通报的案例，问题恰恰出在这里——最难防的不是整条编造，而是"案号是真的、内容对不上"。

　　第二种，是把核验责任外包给AI。实践中有人会让另一个AI去"复核"前一个AI给出的案例，甚至反问同一个模型"你确定吗"。这几乎不构成核验，因为同一类模型的错误往往高度相关，复核结果只会强化原有结论，而不会纠偏。真正有效的核验，是回到原始来源逐项比对。

　　第三种，是低估"提交"这个动作本身的后果。材料一旦进入卷宗、进入法官视野，无论最终是否被采纳，都已对司法资源和法官判断产生了实际影响，而使用者要为此承担相应后果。等到开庭被识破，损失的不只是这一次的论点，而是法官对本案全部陈述的信赖。

#实务建议：给"AI检索结果"设一道不可跨越的核验线

　　对律所而言，最省事的办法不是禁止用AI，而是把"凡是拟提交法院或对外引用的法律依据，必须完成原始来源核验"定为硬性规则，并落到具体动作上：其一，案例须回到中国裁判文书网或人民法院案例库核对案号是否存在、文书是否对应，并核对裁判要旨与原文说理是否一致；其二，法条须核对现行有效版本，特别是经历过修改、修正的法律，要区分修改前后条文序号和表述；其三，对AI输出采取"默认为草稿"的态度，任何未经核验的内容不得进入书面材料。对于批量使用AI做检索的团队，还可以把核验动作前置成流程节点，由不同于撰写人的另一名同事复核，避免"自己验自己"。

#二、律师对外发布的AI生成内容，要不要标识

　　第二层风险不在法庭内向法官提交，而在法庭外对公众输出。越来越多的律所开始用生成式AI制作法律科普文章、短视频，甚至用数字人形象做普法账号。这些内容一旦发布，就不再是内部草稿，而要面对一套关于"生成合成内容标识"的规则。

#规则：生成合成内容的标识是法定义务，且不得恶意删除

　　《互联网信息服务深度合成管理规定》自2023年1月10日起施行，《生成式人工智能服务管理暂行办法》自2023年8月15日起施行，后者第十二条明确要求，提供者应当按照深度合成管理规定对图片、视频等生成内容进行标识。在此基础上，《人工智能生成合成内容标识办法》（国家网信办、工业和信息化部、公安部、国家广播电视总局联合发布，国信办通字〔2025〕2号）自2025年9月1日起施行，把标识义务区分为"显式标识"和"隐式标识"，并要求服务提供者在文件元数据中添加包含生成合成内容属性、服务提供者名称或编码、内容编号等要素的隐式标识；配套的强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》与《标识办法》同步实施。

　　对律师和律所更直接相关的是"用户"这一侧的义务。《标识办法》第十条要求，用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识；任何组织和个人不得恶意删除、篡改、伪造、隐匿该办法规定的生成合成内容标识，也不得为他人实施上述恶意行为提供工具或者服务。

#风险：把"内部辅助"和"对外输出"混为一谈

　　最常见的错误，是把在律所内部用AI起草文案、生成配图的做法，原样搬到对外发布上。内部的AI辅助不涉及对外披露，风险可控；一旦发布到公众号、短视频平台，使用者就落入了"用户主动声明"的义务范围。更隐蔽的问题出在"标识"这一环：有的运营人员嫌AI水印影响观感，顺手裁掉或抹去，或者把平台自动添加的提示标识当作"影响转化"的负担加以规避。这类动作已经不只是平台合规问题，而是直接对应《标识办法》禁止的"恶意删除、篡改"标识行为。

　　还有一种误判，是把标识当成"自曝其短"。实际上，对AI辅助生成的内容如实标识，既符合监管要求，也是对受众知情权的尊重；反过来，用数字人形象冒充真人律师、用AI生成的"案例"包装成真实案例对外宣传，一旦被识破，损失的是专业机构最宝贵的信誉。

#实务建议：分场景处理"披露"与"标识"

　　建议把AI输出分成三类区别对待。第一类，纯内部使用的检索、草拟、改稿，不涉及对外披露，重点在核验，不必对外标识。第二类，用于对外发布的内容，应依规主动声明并保留工具或平台提供的标识功能，尤其不要删除、遮盖标识或水印。第三类，涉及以合成人像、合成声音提供服务的，还要额外注意取得被编辑个人的同意、履行相应的提示与标识义务。对同时运营多个账号的律所，最稳妥的做法是把"是否使用AI辅助""是否已保留标识"写成发布前的检查项，而不是靠个人记忆。

#三、把案件材料喂给AI，保密与个人信息处理的两条红线

　　第三层风险最不显眼，却可能代价最大。为了让AI给出更贴合的分析，使用者往往会把判决书、合同、聊天记录、当事人身份材料整段复制进对话框。这些材料里，既有律师的保密义务所保护的当事人信息，也有受个人信息保护规则约束的个人信息。

#规则：保密义务与个人信息处理规则同时适用

　　律师法确立了律师对执业活动中知悉的国家秘密、商业秘密和当事人隐私的保密义务，这是执业底线，不因使用何种工具而改变。与此同时，《中华人民共和国个人信息保护法》要求处理个人信息具有合法基础，处理敏感个人信息还需满足更严格的条件；《生成式人工智能服务管理暂行办法》第七条也明确，提供者开展预训练、优化训练等训练数据处理活动，涉及知识产权的不得侵害他人知识产权，涉及个人信息的应当取得个人同意或者符合法律、行政法规规定的其他情形。也就是说，当使用者把包含个人信息、商业秘密的材料交给一个对外的AI服务时，两端都可能踩线。

#风险：数据流向不受自己控制的三个隐患

　　隐患之一，是材料可能被用于模型训练或被留存。用户协议里一句"可能用于改进服务"，背后就可能是对当事人信息的再次处理，而律师对此往往没有控制力。隐患之二，是跨境与第三方服务的叠加。若使用境外服务，还可能触及数据出境的合规要求。隐患之三，是把"顾问单位"和"诉讼个案"混在一起处理。企业客户的未公开经营数据、诉讼策略，一旦进入公共模型，泄密后果难以挽回，而这类风险恰恰最难通过事后补救消除。

#实务建议：先分级，再选工具，最后留痕

　　第一，先做材料分级。把当事人身份信息、商业秘密、未公开的诉讼策略、涉密材料划为"禁止输入"类，任何情况下不得交给外部AI；其余材料脱敏后方可使用，能去标识化的先去掉可识别信息。第二，工具准入要前置。优先选择数据不被用于训练的合规企业级服务，必要时采用本地化或私有部署方案，并在采购环节把数据处理目的、留存期限、是否用于训练、是否出境等写入合同。第三，把使用过程留痕。记录使用了什么工具、处理了哪类材料、谁做过复核，既便于内部管理，也便于在出现争议时说明处置过程。

#律师实务建议：把AI用成"助手"，而不是"替身"

　　把上面三层合起来，其实可以归纳成一套可以写进律所工作规则的流程。第一步是工具准入，明确哪些AI工具允许使用、哪些场景禁止使用，把"能不能用于涉密和敏感材料"作为准入的核心标准。第二步是使用规范，把"凡拟提交法院或对外引用的法律依据，必须完成原始来源核验"、"对外发布AI生成内容须主动声明并保留标识"、"敏感材料不得输入外部AI"写成硬性条款。第三步是复核与留痕，对AI输出实行"默认为草稿、人工实质复核、关键节点留痕"的三原则，重要法律意见必须由执业律师独立判断并签字确认。

　　值得强调的是，这些动作的目的不是拒斥技术，而是让技术回到它该在的位置。AI在检索线索、整理材料、排查条款、起草初稿上确实能省下大量时间，它擅长的正是"快"，而不是"准"。当"准"的责任无法外包给工具时，律师的价值恰恰体现在那道人工核验、独立判断的关口上——这既是执业风险的控制阀，也是专业服务的立身之本。

　　如果您所在的律所或企业在把生成式AI引入法律工作流，需要就工具准入、材料分级、核验流程和对外发布规范做一次系统梳理，欢迎在正式启用前把这几件事一次性理清。

---

想让AI真正帮上忙又不踩执业的坑？预约测绘，帮你把工具准入、材料分级、核验流程与对外发布规范一条条理清楚。