AI换脸拟声，侵权！最高法发布首部涉人工智能司法裁判规则

最高法发布首部涉人工智能司法裁判规则，明确AI换脸拟声侵权行为。

9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》（下称《意见》），分为5个部分，共24条，聚焦社会各界广泛关注的、涉人工智能审判中的突出问题。

《意见》是首部由国家最高审判机构发布的涉人工智能司法裁判规则文件。

《意见》聚焦社会各界普遍关注的“AI换脸拟声”、“AI幻觉”侵权、“网络开盒”、“大数据杀熟”、自动驾驶、模型训练等问题，针对性明确涉人工智能纠纷案件实体裁判和诉讼程序规则。对于目前难以形成共识的问题，《意见》做了留白处理，待进一步积累经验，条件成熟时再通过适当方式作出明确。

规范AI换脸、AI仿声等违法行为

在民生权益保障方面，《意见》进一步加大人格权益司法保护力度。当前，AI换脸、AI仿声、“网络开盒”等违法行为时有发生，社会各界高度关切。为此，《意见》对利用人工智能侵害肖像权、名誉权、隐私权、声音权益等行为的责任追究作出了明确规范，以充分发挥司法裁判规范、引领功能，促进人工智能向上向善。

实践中，反映最强烈的是AI深度伪造。AI换脸技术可以无差别地“收割”所有人的肖像，普通人也可能成为深度伪造的“目标”；使用AI拟声技术，花几元钱就能“偷声”，效果足以乱真。

为此，《意见》第四条明确规定：未经同意利用人工智能处理自然人的姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练语料，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害；操控虚拟形象、合成声音实施不当行为或者发表不实言论、降低他人社会评价的，构成对名誉权的侵害，依法追究行为人的侵权责任。

此外，针对社会关注的“AI复活逝者”现象，《意见》也专门作出规定，依法保护死者的人格利益。

大规模、高质量的训练数据是人工智能技术发展的基石。为平衡、兼顾保护个人信息权益与促进人工智能产业发展，《意见》根据民法典、个人信息保护法等法律规定，明确为人工智能模型训练，在合理范围内处理已合法公开的个人信息，且个人未明确拒绝的，一般不认定为侵权。但是，对个人权益有重大影响的，应当依照法律规定取得个人同意。

依法规制利用AI生成内容实施不正当竞争行为

当前，人工智能生成内容引发的新类型知识产权纠纷频发。为此，《意见》专门针对涉人工智能知识产权纠纷案件作出规定。具体情况有三个方面：

一是明确了人工智能生成内容侵害著作权案件中认定相关主体责任的考虑因素。人工智能生成内容被诉侵害他人著作权的，不能以被诉侵权内容系人工智能生成为由免除相关主体责任，而应当坚持责任承担与控制能力、注意义务相匹配。

二是明确了人工智能生成内容侵害著作权纠纷的举证规则。权利人主张人工智能服务开发者或者提供者侵害其著作权的，应当就侵权内容系由该人工智能生成、与其权利作品构成实质相似等初步事实举证。

三是依法规制利用人工智能生成内容实施的不正当竞争行为。近两年，利用人工智能实施不正当竞争的纠纷日渐增多。经营者利用人工智能生成的图文、视频、虚拟人物形象等，虚构流量和好评，甚至通过利用AI换脸虚构科普视频进行虚假宣传，这些行为不仅损害了他人合法权益，还严重误导消费者，扰乱市场竞争秩序，应当依法认定为构成仿冒侵权、虚假宣传等。

明确“AI幻觉”侵害人格权责任认定

对于生成式人工智能的侵权认定，《意见》引入了“避风港规则”。

所谓“避风港规则”，简单来说，就是一个网络用户利用网络服务实施侵权行为（比如，在网上发帖辱骂他人），权利人发现后，有权通知网络服务提供者采取屏蔽、删除等措施，网络服务提供者接到合格通知后，应当及时采取必要措施，否则，就要对损害的扩大部分与网络用户承担连带责任。反之，如果网络服务提供者接到通知后，及时采取了必要措施，通常不需承担侵权责任。

《意见》针对“AI幻觉”侵害人格权和用户恶意诱导AI侵害人格权的责任认定作了规定，明确：生成式人工智能自动生成的内容侵害人格权益，经权利人通知，人工智能服务提供者未及时采取停止生成侵权内容等必要措施的，应当对造成的损害依法承担侵权责任。

网络用户通过输入侵权提示词等方式恶意诱导生成式人工智能生成侵权内容并造成他人损害的，该网络用户依法承担侵权责任，经权利人通知，人工智能服务提供者未及时采取停止生成侵权内容、屏蔽相关生成指令等必要措施，权利人请求该网络用户、人工智能服务提供者承担民事责任的，人民法院依法予以支持。

责编：陈丽湘

校对：赵燕