随着生成式人工智能技术的迅猛发展，名人声音、肖像被“克隆”冒用越来越真假难辨，消费者极易被误导。在北京互联网法院近日发布的一起案例中，被告未经权利人许可，使用AI合成的名人声音用于带货，法院认定其构成侵权。
AI合成声音或换脸行为的边界在哪儿？可能涉及哪些法律责任？人民网采访了北京互联网法院综合审判三庭（少年法庭）庭长颜君进行解答。
使用AI合成名人声音带货 法院认定被告构成侵权
原告李某某在教育、育儿领域具有一定知名度和社会影响力。2024年，原告李某某发现被告某文化传媒有限公司在其运营的某网络平台店铺中，通过使用原告的公开演讲、授课视频，并配以与原告声音高度近似的AI合成声音，对其销售多本的家庭教育类图书进行宣传推介。原告认为，被告未经许可使用原告的肖像和通过AI合成的声音制作宣传产品，侵犯了原告的肖像权和声音权。被告作为图书销售者，与视频发布者（某带货主播）之间为委托关系，共同完成销售活动，被告对主播发布的视频具有审查义务和能力，对涉案视频的发布应当承担赔礼道歉、赔偿损失等侵权责任。
法院认为，涉案视频使用了原告李某某的肖像以及AI合成声音，该声音与原告李某某本人的声音在音色、语调、发音风格上具有高度一致性，结合原告李某某在教育、育儿领域的知名度，涉案视频对家庭教育类书籍进行宣传推介，更易使观看涉案视频的公众将视频中的相关内容与原告李某某之间建立联系，可以认定一定范围内的听众能够将涉案AI合成声音与原告本人建立一一对应的联系。因此，涉案声音落入李某某声音权益的保护范围。涉案推介视频大幅使用原告肖像、合成模拟原告的声音，未取得原告授权，故涉案视频的发布行为构成对原告肖像权和声音权益的侵犯。
法院认为，被告某文化传媒有限公司与视频发布者（某带货主播）依照平台规则和服务相关约定达成委托推广关系，共同为了推介被告书籍的目的发布涉案视频、获取相应收益，且被告基于平台规则和管理权限，具备对涉案视频进行审核管理的能力。在涉案视频大幅使用原告肖像、合成模拟原告声音的情况下，被告应对视频可能引发的侵权风险具有一定的预见性，并就视频是否获得了原告授权尽到合理的审查义务，但在案证据表明被告未尽到其应有审查注意义务，故被告某文化传媒有限公司应与视频发布者就侵权视频发布承担连带责任。
法院判决，被告某文化传媒有限公司向原告李某某赔礼道歉、赔偿经济损失及维权合理支出，驳回原告李某某其他诉讼请求。宣判后，双方均未提起上诉，该判决已生效。
如何判断AI合成声音等行为是否构成侵权？
《中华人民共和国民法典》第1019条规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。第1023条第2款规定，对自然人声音的保护，参照适用肖像权保护的有关规定。
颜君介绍，未经本人许可即通过AI换脸或AI合成他人声音，属于利用信息技术手段伪造等方式侵害他人的肖像权或声音权，若未经肖像权人同意，制作、使用、公开前述肖像或声音，亦可能构成侵权行为。
“判断是否构成侵权的核心在于，利用AI技术合成的自然人肖像和声音，只要能够使一般社会公众或相关领域公众根据其五官、轮廓等外部形象或音色、语调、发音风格等声音特征识别出特定自然人，即应纳入该自然人人身权益的保护范围。”颜君表示，例如商家“克隆”名人肖像、声音带货，让消费者误以为是名人推荐商品，这就侵犯了名人的声音权和肖像权；再如，有人通过“恶搞换脸”，把其他人的面部换到一些不雅视频或图片中并在网络上传播，这不仅侵犯了肖像权，还严重贬损了他人的名誉。
AI合成声音等行为可能涉及哪些法律责任？
当前，使用AI合成声音或换脸技术制作虚假信息、恶搞等行为在网络上屡见不鲜。颜君表示，前述行为可能涉及的法律责任主要包括三个层面：
一是民事责任。根据《中华人民共和国民法典》的规定，权益受到损害的民事主体可以向法院提起民事诉讼，要求侵权人停止侵害、赔礼道歉、消除影响，并赔偿经济损失和精神损失。需要强调的是，并非只有视频的制作者、发布者才要担责，就视频发布的委托方而言，如果未尽到合理的审核义务，也需要承担连带责任，这意味着委托推广带货的商家等不能以“不知情”为借口来推卸责任。
二是行政责任。如果利用AI技术故意散布谣言、谎报险情等扰乱公共秩序的，公安机关可依据《中华人民共和国治安管理处罚法》等规定，对行为人处以行政拘留、罚款等行政处罚。
三是刑事责任。例如用AI换脸、AI合成声音制作淫秽物品进行传播牟利，可能构成传播淫秽物品牟利罪；用于对他人实施诽谤或侮辱行为，情节严重者可构成诽谤罪、侮辱罪；若通过合成肖像或声音伪造场景实施诈骗，则可能构成诈骗罪等，进而承担刑事责任。
规范AI技术的应用，需多方协同共治。颜君建议，提供信息内容传播服务的网络平台应当依据法律规定加强人工智能生成合成内容的审查，对于属于或可能属于人工智能生成合成内容的，应采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容，避免公众混淆，并建立健全辟谣机制和投诉处理机制，及时处理利用深度合成技术制作、复制、发布、传播的虚假信息。未来，针对AI合成声音侵权等新型侵权行为，需要进一步明确平台在内容审核、数据使用、算法推荐等方面的责任。
“此外，相关技术使用者和信息发布者也应当遵守法律规定和社会公德，防止使用AI技术实施侵犯他人合法权益的行为，共同推动人工智能与深度合成技术向上向善发展，维护良好的网络生态。”颜君表示。