最高法把 AI 换脸、AI 幻觉、大数据杀熟纳入实体裁判规则：AI 仿冒名人带货构成欺诈可主张惩罚性赔偿，直播卖家红线划在哪
一个主播同一时间出现在三个直播间，红衣的卖颈膜、白衣的卖美妆、素颜的当生活博主——这不是平台分身术，而是商家截取明星过往素材、经抠图换脸合成的虚假直播。2025 年直播电商 GMV 已超 5 万亿元，占网络零售额近三分之一，但「AI 分身带货」的灰产，正随着这个数字一起膨胀。9 月 7 日，最高法给了它一道硬边界。
当天，最高人民法院召开新闻发布会，发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》（以下简称《意见》）。据最高法公布，这是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件，全文分为 5 个部分、共 24 条，由副院长陶凯元作主发布，研究室主任周加海、民三庭庭长李剑、研究室副主任司艳丽出席答问。
目前中国尚未出台专门的人工智能法。据中新网报道，最高法坦言，这份《意见》依据民法典、网络安全法、著作权法、个人信息保护法、民事诉讼法等作出理念和规则指引，把「AI 换脸拟声」「AI 幻觉」侵权、「网络开盒」「大数据杀熟」、自动驾驶、模型训练等热点问题，首次写进了实体裁判规则。换句话说，过去只能靠个案摸索的 AI 纠纷，如今有了可援引的裁判依据。
问题也随之而来：当换脸、幻觉、杀熟都被写进条文，直播和带货卖家到底踩到哪条线会被罚、被索赔？
一、首部24条红线
这部《意见》的分量，在于「首次」二字。
据法治日报 9 月 7 日报道，最高法副院长陶凯元在发布会上介绍，《意见》是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件，被定位为贡献「中国司法智慧」。它不另起炉灶立一部 AI 法，而是立足审判职能，对归责原则、模型训练中使用已公开个人信息是否侵权、人工智能产品定义及缺陷认定、涉开源软件责任、涉 AI 发明创造可专利性等作出明确。
结构上看，《意见》分 5 个部分、24 条。第一部分（第 1、2 条）确立指导思想与「以人为本、支持创新发展、筑牢安全防线」三原则；第二部分（第 3—11 条）规制利用 AI 的侵权行为；第三部分（第 12—16 条）专章处理知识产权纠纷；其后是审理程序与惩治违法犯罪的规则。
更关键的是，对目前难有共识的问题，《意见》做了留白。据光明网报道，最高法表示待积累经验、条件成熟时再通过适当方式明确——既划了红线，又没把产业创新的口子堵死。
所以，它不是一部惩罚清单，而是一张「什么能做什么不能做」的导航图。
二、AI换脸禁令闸门
AI 换脸不再是「擦边球」。
《意见》明确，未经同意利用人工智能处理自然人的姓名、肖像，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练语料、模仿音色语调生成可识别合成人声的，构成对声音权益的侵害。据中国新闻网报道，操控虚拟形象或合成声音发表不实言论、降低他人社会评价的，还要追究名誉权侵权责任。
这类侵权的特点是成本低、传播快、影响广、损害难以逆转。为此《意见》第 8 条专门规定了人格权侵害禁令：受害者有证据证明被 AI 换脸造「黄谣」、不及时制止将致难以弥补损害的，可向法院申请人格权侵害禁令，法院既可责令网络用户停止侵权，也可责令网络服务提供者、AI 服务提供者及时采取必要措施。
真实案例已经摆在台面上。2025 年 11 月，演员温峥嵘同一时段「现身」三个不同直播间，妆发各异、产品不同，本人在直播间留言「你是温峥嵘，那我是谁」随即被拉黑。据佛山市消费者委员会统计，其团队日均举报 50 个假冒账号；网信部门全年累计清理 AI 仿冒公众人物违规信息 8700 余条、处置仿冒账号 1.1 万余个。
对卖家来说，这意味着一件更实际的事：过去靠「剪辑素材+换脸」赚快钱，现在消费者一声禁令申请，直播间就可能被法院直接叫停。
三、AI幻觉与避风港
「AI 幻觉」第一次有了明确的裁判口径。
据法治日报报道，最高法研究室主任周加海在答问中介绍，当 AI 因自身幻觉或用户恶意诱导生成侵权内容后，经权利人通知，生成式 AI 服务提供者「应当、也有条件」采取必要措施。由此，《意见》为生成式 AI 服务提供者引入了「避风港规则」——也就是民法典第 1195 条的「通知删除规则」。
逻辑很清晰：最高法认为，AI 服务提供者难以事先预知所有用户输入内容，生成内容数量又极其庞大，无法要求其对生成内容是否侵权逐一预测、审查、拦截。但接到合格通知后若不及时采取屏蔽、删除等措施，就要对损害的扩大部分与用户承担连带责任；及时采取必要措施的，通常不需担责。
三记重拳，打在同一个位置——把「审查义务」从「事前全量审核」后移到「事后通知响应」。配套的是《意见》对诉讼行为的约束：研究室副主任司艳丽在答南方+提问时表示，诉讼参与人不得以「AI 幻觉」、技术中立为由免除自身责任，对 AI 生成的诉讼文书、案例检索报告负有核实说明义务。人民法院案例库已有原告律师提交 AI 生成虚假案例、被判严肃批评的入库案例。
到那时，答案才会真正浮出水面：模型厂商的护身符，是「收到通知就动手」，而不是「事前全知全能」。
四、大数据杀熟标尺
大数据杀熟，第一次有了司法层面的「认定标尺」。
《意见》第 10 条写明，针对同一商品或服务，经营者利用算法在交易价格等交易条件上实行不合理的差别待遇、侵害合法权益造成损害的，法院应依法认定其承担侵权责任。判断「不合理」时，要综合考量三点：是否对知情权、自主选择权、公平交易权造成实质性限制或损害；是否基于消费偏好、支付意愿、支付能力、浏览记录等信息形成针对个人的交易条件；是否违背诚信原则及商业伦理。
这不是纸上条文。天津市市场监管委公开数据显示，2026 年第一季度全市收到「大数据杀熟」投诉举报 327 件，同比增长 47%，其中网约车类占比 42%。一个典型案例是老用户叫车 58 元、新用户仅 35 元，价差 23 元。
监管侧也在收紧。据齐鲁晚报报道，2026 年 4 月 10 日施行的《互联网平台价格行为规则》（发改委、市场监管总局、网信办联合发布）第 15 条确立「三同原则」：同一商品、同一时间、同等条件，所有用户同价；违者没收全部违法所得并处 5 倍以下罚款，无违法所得的处 5 万—500 万元罚款。有报道指出，2026 年 7 月市场监管总局对携程集团罚没合计 51.79 亿元，差别待遇被认定为滥用市场支配地位的情形之一。
真正的考验，是举证责任。过去消费者要自证「同等条件下被差异化定价」，而价格实时变动、证据易灭失；如今《意见》把「不合理差别待遇」的认定要素写清，等于给维权提供了一把尺。
五、仿冒名人带货红线
这一节，是直播卖家最该划线的地方。
《意见》第 10 条后半段明确：经营者提供商品或服务时，利用人工智能实施「仿冒名人带货」且构成欺诈，消费者依据消费者权益保护法第五十五条主张惩罚性赔偿的，法院依法予以支持。据最高法答问，周加海直言「我们不能奢求消费者都火眼金睛，法律必须及时亮剑」。
消法第 55 条的内容很硬：经营者有欺诈行为的，应按消费者要求增加赔偿，金额为价款的三倍；增加赔偿不足 500 元的，按 500 元算。也就是说，买 100 元的产品被 AI 名人忽悠下单，最少也能主张 500 元赔偿。
规模已经不小。央视曝光的仿冒全红婵带货事件，虚假视频销量超 4.7 万件，尽管家人早已声明未授权，侵权内容仍屡禁不止；更早还有江西老人要给 AI 合成「靳东」贷款 200 万元拍戏、港星黄百鸣 AI 分身被拿来推销药膏。据佛山市消费者委员会数据，2025 年直播电商 GMV 超 5 万亿元，而抖音全年已封禁千余个 AI 仿冒账号并移交监管。
对跨境和国内直播卖家而言，红线浮出来了：用未经授权的名人形象或声音带货，一旦被认定欺诈，不只是「下架了事」，而是面对消费者集体主张「退一赔三」。平台若接到通知不处置，还要对扩大部分承担连带责任。
9 月 7 日这道文件，把过去散落在个案里的 AI 纠纷，收拢成一张可援引的裁判网。对直播和带货卖家来说，它真正的信号不是「AI 不能用」，而是「冒用名人、算法杀熟、放任幻觉」这三种玩法，已经从灰色地带正式走进法律责任区。接下来要验证的，是平台与商家愿不愿意把合规成本，算进每一场直播的账里。
