AI合成的声音和视频拿到法庭上,法院凭什么信——深度伪造时代电子证据的三个实务判断
结论摘要
当一段微信语音、一通催款电话、一段会议视频被指是AI合成的,法院到底怎么判它有没有证明力?这篇文章从一起真实的合同纠纷举证僵局切入,拆开三个最容易判错的问题:合成出来的声音和脸还算不算本人的、合成内容作为证据提交时真实性怎么审查、以及标识义务与举证责任之间那条线画在哪里。文章以民法典、民事诉讼法与证据规定、在线诉讼规则,以及深度合成、生成式人工智能和生成合成内容标识的现行规则为依据,给出企业在事前留存、事中固定、事后质证三个环节都能落地的做法。
📑 文章目录16 节
引言:一段"老板的语音",把举证责任推到了台前
先说一个在法务和诉讼实务里越来越常见的场景。一家贸易公司起诉下游经销商拖欠货款,手里的核心证据是几段微信语音和一段电话录音——对方负责人在语音里承认"这批货确实收了,钱下个月结"。到了庭上,被告代理人只提了一个抗辩:这段语音不是本人说的,是AI合成的,我方申请对录音做真实性鉴定。原告一方则坚持,录音就是原声,当时双方都在场。案件一下子卡在了"这段声音到底是谁说的"上。
类似的桥段现在出现得越来越频繁,而且形式不止一种。有的是一段"老板语音"要求财务紧急转账,事后查明是拟声工具合成;有的是短视频里出现了公司高管"亲口"说的话,实际是换脸加声音克隆;还有的是当事人提交的聊天截图、会议录像,被对方指为经过剪辑或生成。争议的落点其实高度一致:这份电子数据,法院凭什么相信它是真的;如果不信,举证责任又该由谁承担。
值得注意的是,规则这两年已经从"几乎空白"变成"有章可循"。人格权这一侧,民法典把声音的保护接上了肖像权的轨道,并明确禁止利用信息技术手段伪造他人肖像;监管这一侧,《互联网信息服务深度合成管理规定》从2023年1月起施行,《人工智能生成合成内容标识办法》及配套强制性国家标准从2025年9月1日起施行;证据这一侧,《最高人民法院关于民事诉讼证据的若干规定》对电子数据真实性的审查和推定作了细化,《人民法院在线诉讼规则》对区块链存证另设了规则。规则不缺,难的是把规则落到具体的举证、质证动作上。
一、AI合成出来的声音和脸,在法律上还算不算"本人的"
规则:它走的是一条"参照"的路,而不是"另起一条"
民法典人格权编为声音专门留了一条:对自然人声音的保护,参照适用肖像权保护的有关规定。这句话看似只是技术性指引,实际影响很大——它意味着声音不再被当作普通的录音制品财产来对待,而是放进人格利益的框架里保护。与此同时,肖像权一条里写得很明确:任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权;未经肖像权人同意,不得制作、使用、公开其肖像。把这两条接起来读,结论就很清楚:用他人声音、人脸做AI训练和合成,只要没有取得针对这一用途的同意,天然就落在被质疑的一侧。
监管层面的呼应同样直接。深度合成规定要求,提供人脸、人声等生物识别信息编辑功能的,应当提示使用者依法告知被编辑的个人,并取得其单独同意;提供生成或者编辑人脸、人声等生物识别信息的模型、模板等工具的,应当依法自行或者委托专业机构开展安全评估。在个人信息保护这一侧,生物识别信息属于敏感个人信息,处理它需要单独同意,并要对处理目的、方式的必要性和对个人权益的影响作出说明。
风险:最大的坑是把"版权授权"当成"人格权授权"
实务中最常见的误判,恰恰发生在这里。企业从内容方买了一批音频或视频素材,合同里写着"可用于复制、修改、用于产品及服务",于是理所当然地认为声音和脸也能一并AI化。可录音制品的著作权、邻接权,和自然人对自己声音、肖像的人格利益,是两条并行的权利线,前者的授权不会自动覆盖后者。等到AI产品上线、被本人发现,企业手里那份看着很完整的授权文件,在"AI训练与合成使用"这一项上往往是空的。
第二个坑,是低估"可识别性"的达成难度。有人以为把音色参数调一点、加个水印,就能切断和本人的关联;但判断的立足点是听众和观众的感知与关联结果,而不是技术上有多少次加工。换脸和拟声场景尤其如此——只要合成出来的形象或声音依然能让人认出是谁,"这不是本人"的抗辩几乎站不住。把这个逻辑反过来看,它对诉讼同样有意义:一份被指为AI合成的证据,如果它指向的是一个可识别的特定自然人,法院对其来源、授权链条的审查就会更严。
实务建议
处理这一层,律师能做的动作很具体。第一,把所有"使用他人声音、肖像、人脸素材"的场景单独列一张清单,逐项核对是否取得了针对"AI训练与合成使用"的单独同意,而不是笼统的作品使用许可。第二,素材来自第三方采购或内容方转授权的,要在合同里要求对方保证已取得被编辑个人的合法授权,并约定追偿条款。第三,把"可识别性判断"前置到产品化之前——能不能被认出来,决定了要不要回到授权环节解决。
二、合成内容当证据提交,法院怎么判断它的真实性
规则:证明责任在提交方,且有明确的审查与推定规则
先看责任分配。民事诉讼法确立的基本原则是,当事人对自己提出的主张有责任提供证据。放到电子数据上,就是提交录音、录像、聊天记录的一方,首先要承担"它真实、完整、未经篡改"的说明和证明义务,而不是让怀疑的一方去证明它假。
再看审查方法。证据规定明确,存有疑点的视听资料、电子数据,以及无法与原件、原物核对的复制件、复制品,不能单独作为认定案件事实的根据。也就是说,一份孤零零的、来源说不清楚的录音,即便内容听着很关键,也可能撑不起事实认定。而对电子数据的真实性,法院要结合其生成、存储、传输所依赖的计算机系统环境是否完整可靠、是否具备有效的防错监测核查手段、数据是否被完整保存传输提取、是否在正常往来活动中形成、保存传输提取的主体是否适当等因素综合判断;必要时,还可以通过鉴定或者勘验等方法审查其真实性。
与此配套的还有推定规则:由当事人提交或保管的于己不利的电子数据、由中立第三方平台提供或确认的、在正常业务活动中形成的、以档案管理方式保管的、以当事人约定方式保存传输提取的电子数据,法院可以确认真实性,但有足以反驳的相反证据的除外;内容经公证机关公证的,应当确认真实性,除有相反证据足以推翻。
风险:败在"形式上不完整",而不是败在"内容不有利"
绝大多数电子证据翻车,都不是因为内容对己方不利,而是因为形式链条断掉了。常见的三类:一是只提交剪接后的片段或局部截图,缺失上下文,法官无法判断前后语境;二是录制、转码、导出过程没有记录,原始载体(手机、录音笔、原始文件)拿不出来,无法与原件核对;三是数据来历只能靠当事人自己陈述,缺少第三方平台或正常业务活动形成的印证。这三类问题叠加在一起,正好对应证据规定里"存有疑点""无法与原件核对"两个失权点。
实务建议
围绕真实性,落地动作可以分三步。第一步是"留原物":争议可能发生前,就保留存储视听资料、电子数据的原始载体,不要只留转发后的压缩文件;导出时保留原始文件及其元数据,并对导出过程做记录。第二步是"找中立":能通过中立第三方平台提供或确认的,优先走这条线;涉及重要事实的,及时做公证,或按在线诉讼规则对电子数据作区块链存证——经技术核验一致,法院可以认定其上链后未经篡改;但要特别注意,规则同时保留了"上链前真实性"的审查通道,所以存证只是解决了上链之后的完整性,不能替代对数据来源本身的证明。第三步是"能鉴定就鉴定":对方对真实性提出合理异议时,及时申请对录音、图像是否经过剪辑、合成进行鉴定,用技术手段把争议从"各说各话"拉回到可验证的层面。
三、标识义务和"伪造证据"之间,那条线画在哪里
规则:标识是强制性义务,不是产品体验的取舍
这一块的规则基础是深度合成规定与标识办法。深度合成规定要求,提供智能对话、合成人声仿声、人脸生成替换操控、沉浸式拟真场景等可能导致公众混淆或误认的服务,应当在内容的合理位置、区域作显著标识,并向公众提示深度合成情况;任何组织和个人不得采用技术手段删除、篡改、隐匿这些标识。标识办法进一步区分了显式标识与隐式标识:生成合成服务提供者要在文本、音频、图片、视频、虚拟场景的适当位置添加显式标识,并在文件元数据中添加隐式标识;传播平台要核验元数据中的隐式标识、对疑似生成内容加提示;使用者发布生成合成内容时应当主动声明。标识办法还留了一个口子:用户申请提供不含显式标识内容的,服务提供者可以在协议中明确其标识义务和使用责任后提供,但要依法留存相关日志不少于六个月。同时,生成式人工智能服务管理办法也要求提供者按照深度合成规定对图片、视频等生成内容进行标识。
风险:把"合法合规的标识"当成"可有可无的装饰"
企业最容易踩的,是把标识当成产品体验问题——觉得加了提示影响"真人感"、影响转化率,于是少标、藏在角落,甚至让用户勾选一下就"消掉"。这在监管眼里不是体验取舍,而是义务履行与否的问题。反过来,传播平台如果只看"内容由用户上传"就放手不管,忽视元数据核验与提示义务,也会被单独评价。对诉讼而言,标识还有一层意义:一份带有标识的合成内容,通常能从元数据追溯到生成服务提供者和内容编号,这条追溯链恰恰是判断证据来源、锁定责任主体的重要抓手;反过来,故意删除、篡改标识后再把内容当作"原始证据"提交,性质就变了。
风险的另一面:伪造证据的民事制裁边界
需要把两件事分开:一是合规地生成和使用合成内容(履行标识、取得授权),二是把它伪造、变造成证据提交给法院。后者触到的是妨害民事诉讼的强制措施。民事诉讼法明确列举,诉讼参与人或者其他人伪造、毁灭重要证据,妨碍人民法院审理案件的,人民法院可以根据情节轻重予以罚款、拘留;构成犯罪的,依法追究刑事责任。罚款数额有明确上限,对个人的罚款金额为十万元以下,对单位的罚款金额为五万元以上一百万元以下;拘留的期限为十五日以下。这意味着,把AI合成内容包装成"原始证据"提交,一旦被识破,代价不只是败诉——还可能被单独施加司法制裁。
实务建议
对生成合成服务提供者和采购方,建议把标识写进产品需求和技术验收标准,明确显式标识的位置、样式和元数据的写入字段,并保留生成日志;用户要求去除显式标识的场景,严格执行日志留存要求。对企业使用方,建议建立"素材来源—授权范围—标识状态"的台账,确保每一份对外使用的合成内容都有据可查。对诉讼律师,建议在质证阶段主动调取对方提交音视频的元数据和标识状态;反过来,己方提交合成或编辑过的演示材料时,务必如实说明其生成方式和标识情况,不与"原始证据"混同。
四、给企业和律师的一张落地清单
把这些规则串起来,真正需要落地的无非几个动作。事前,建立音视频素材的授权与标识台账,把"AI训练与合成使用"的单独同意单列出来,不要用作品许可去替代人格权授权。事中,对关键沟通尽量形成多来源、可互证的记录,重要事实及时公证或存证,原始载体不要轻易清理。事后,举证时交完整链条而不是精彩片段,对方质疑真实性时果断申请鉴定,并用元数据、标识状态、第三方平台记录去补强或反驳。
还有一点容易被忽略:在个人信息这一侧,人脸、声纹属于敏感个人信息,处理它既要单独同意,也要做个人信息保护影响评估;在生成式人工智能那一侧,训练数据要有合法来源。这些合规动作平时看着和诉讼无关,真到了争议里,往往就是证明"数据来源正当、留存完整"的那块拼图。
结语
AI生成技术本身不是问题,问题在于它把"这份证据到底是谁的、经没经过处理"这个老问题,以前所未有的尖锐程度重新摆到了法庭上。规则已经给出了方向:人格权这侧守"同意与可识别",证据这侧守"原件、链条与印证",监管这侧守"标识与追溯"。谁把这三条都做扎实,谁在举证和质证里就更主动。
如果你正在处理涉及录音、录像、聊天记录等电子证据的纠纷,或者需要为企业的音视频素材使用和AI产品上线做一次合规体检,欢迎预约测绘,我们结合你的具体场景,把证据链和合规链一并梳理清楚。
免责声明
本文内容仅供参考,不构成正式法律意见;法律法规适用存在个案差异,具体案件请结合实际情况咨询执业律师。
相关服务推荐
相关内容
自动驾驶撞了人,究竟该找谁赔——智能网联汽车事故责任分配的三个实务判断
一辆没有驾驶人的完全自动驾驶车辆在开放道路上撞伤行人,运营方说车是自己开的、车厂说路测运营与自己无关、软件供应商说我只是卖工具——这类争议正在从假设变成日常。本文从一起无驾驶人自动驾驶事故的真实处置场景切入,拆开三个最容易判错的环节:谁该站在被告席上、赔完之后能不能向生产者追偿、以及事故数据归谁、能不能调取,并比较不同处理路径的利弊与代价。规则依据以现行有效的道路交通安全法、民法典,以及2026年7月1日起施行的《深圳经济特区智能网联汽车管理条例》修正文本为准。
AI换脸与拟声,边界到底在哪——深度合成时代人格权与标识义务的三个实务判断
用离职主播的旧录音训练出一个音色几乎一致的AI声音,再配上旧视频做带货短片投放——这类操作在法律上早已不是灰色地带。民法典把声音的保护纳入参照肖像权的轨道,北京互联网法院的首例AI生成声音案划出了可识别性的判断线,《互联网信息服务深度合成管理规定》与《人工智能生成合成内容标识办法》则把标识义务分别压给了生成方、传播平台和使用者。本文从企业采购第三方TTS与数字人产品的真实场景切入,拆开三个最容易判错的问题:合成出来的声音和脸还算不算本人的、生成出来到底该由谁标、以及出事之后责任怎么在生成方、技术支持方和平台之间分,并比较几条处置路径的代价。
《商业秘密保护规定》施行之后,算法、模型和数据到底算不算商业秘密——三个实务判断
2026年6月1日起施行的《商业秘密保护规定》,把数据、算法、计算机程序和代码明确写进了技术信息的范围,也把远程办公、跨境协作下的保密措施写成了可核查的清单。本文从一家AI公司算法负责人离职带走模型与数据的场景切入,拆解三个最容易判错的问题:哪些信息真的构成商业秘密、保密措施要做到哪一步才算数、以及自主研法、反向工程与通用技能这三条抗辩线该怎么防,并比较行政举报、民事索赔与刑事报案三条路径的利弊与代价。