当前位置:首页 > 法治

AI乱象治理 要“打假”也要能“辨真”

2025-08-20 来源:

  新闻1+1丨AI乱象治理 要“打假”也要能“辨真”

  AI仿冒孙颖莎、王楚钦、全红婵带货,打的是什么算盘?一条评论引发全国首例AI误判案,创作者如何自证“我不是AI”?当技术应用的门槛越来越低,当内容检测的难度越来越大,AI乱象治理,如何加速加力?《新闻1+1》连线中国社会科学院大学互联网法治研究中心主任刘晓春、北京互联网法院综合审判一庭法官张倩,共同分析解读。

  01

  AI仿冒奥运冠军声音带货

  法律上怎么看?

  短视频平台上,奥运冠军全红婵、孙颖莎、王楚钦的声音都遭遇了仿冒,被用来带货土鸡蛋。这种行为在法律上怎么去界定?面临哪些法律责任?

  中国社会科学院大学互联网法治研究中心主任刘晓春:借用知名运动员的声音,或者叫盗用这个声音去带货,法律上至少有两个层面的问题。第一是对运动员人格权益的侵犯,比如声音权的侵犯。第二对公众来说,比如粉丝、购买鸡蛋的消费者,实际上是有一个误导、虚假宣传,甚至是欺诈存在的。

  盗用名人的声音构成虚假宣传,可能市场监管部门需要去追究他行政上的责任。

  盗用名人的声音去散播谣言,有可能达到刑事责任,会触犯刑法。

  我国《民法典》当中明确规定了声音权,盗用别人的声音会导致对其人格权益的侵犯,从而要去承担相应的民事责任。

  02

  盗用声音进行正能量宣传

  可以吗?

  另一个视频用了白岩松的声音,既也没有带货,也没有谋利,只是进行一种正能量的宣传,这样做可不可以?

  刘晓春:这样做看起来没有什么伤害,只是伤害到了当事人的人格权益,但也会误导公众。如果一个“新闻”用白老师的声音来播,大家会觉得它很可靠,肯定就是真的新闻。包括用名人的声音去做科普,大家会误以为这个科普的权威性比它应该有的更高。所以整体上对用户、公众有一个误导,对他们的认知会产生一个不同方向的引导,还是有危害性的。

  03

  9月要施行的办法

  能解决什么问题?

  《人工智能生成合成内容标识办法》将于今年9月1日起施行,这个办法能够解决什么样的问题?

  刘晓春:这个办法有一个非常明显的特点,把治理的方式往前端移了。考虑到大家事后再去起诉的成本太高,这个办法是说,AI软件在生成内容的时候,要强制给这个文件打上标。打上以文字、声音、图形等方式呈现的显式标识,提示它是AI生成的;或者采取技术措施在数据中添加隐式标识,大家可能看不见,但是平台包括公众可以有比较方便的方式,识别出它是AI生成的。

  04

  原创作品被判定为AI生成

  法院判了

  网友李先生发布的评论被平台判定因“包含AI生成内容但未标识”而违规,李先生人工复核无果后将平台告上了法庭。这也是全国首例平台运用算法工具进行AI生成合成内容检测识别引发的案件。

  最终北京互联网法院判定原告李先生胜诉,但没有认定内容是原创还是AI,而是认定被告平台没有对算法决策依据和结果进行适度的解释和说明,在没有事实依据的情况下对用户进行了处理,应承担违约责任。

  北京互联网法院综合审判一庭法官张倩介绍,这个案件法院首先肯定了平台审核的正当性。对AI生成合成内容进行标记,既有利于公众准确区分AI生成合成内容和人类创作内容,满足公众的知情权,也便利平台通过标识追溯内容来源,明确责任主体,降低侵权、违法犯罪等社会风险。

  但本案也同时强调,平台应当就其判定结果进行充分的举证和说明,尤其是有义务对平台算法决策的过程和结果进行相应的解释。这涉及举证责任分配的问题。对于像涉案这种简短的网络即时创作内容,创作主体基本上都是在线编辑之后立即发布,很少会保留创作底稿、原件这些证据。所以很难要求本案的原告举证证明内容是由人类创作的。

  但是平台是算法工具的掌控方,以及这个结果的判断方,有能力也有义务对算法工具的运算过程和审查结果进行充分解释说明。当然,这也并不是要求平台把和算法相关的全部内容,甚至是技术秘密都披露出来。而是要求平台就涉案内容AI判定相关的算法运行机制,进行必要的、可以为一般公众理解的解释说明。本案被告败诉,就是因为法院认定被告没有尽到这样的解释说明义务。

  05

  涉AI纠纷有哪些特点?

  近年来AI乱象导致的一些纠纷,有哪些趋势或者特点?主要集中在什么方面?

  张倩:近两年北京互联网法院受理的涉AI纠纷,绝对数量仍然不多,但是也确实呈现出明显的增多趋势,并且涉及各种各样的案件类型。占比较大的几类案件是:

  涉AI的人格权纠纷,比如AI声音权案、AI换脸案、AI陪伴案、AI恶搞案等,都涉及使用AI软件侵害他人的肖像权、名誉权、声音权、个人信息权益等人格权利或者权益的问题。

  涉AI的著作权纠纷,涉及使用AI软件生成的图片视频等是不是构成作品,以及未经许可使用他人利用AI软件生成的前述内容,是否侵害著作权的问题。或者涉及AI大模型使用他人作品进行训练是否构成侵权的问题。

  像本案这类合同纠纷,存在合同关系的双方之间,比如平台和用户,由于一方使用了AI技术所引发的纠纷。

  北京互联网法院受理案件的情况充分反映出来,近两年我国AI技术确实处在一个高速发展,而且应用场景不断丰富的阶段。对于法院来说,树立既有利于AI技术发展,又有助于当事人权益保护的裁判规则,是一个非常大的挑战。

责任编辑:郑容

声明:

1、凡本网注明中国城乡观察网,所有自采资讯(含图片),如需授权转载应在授权范围内使用,并注明来源。

2、部分内容转自其他媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。

3、如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行。电话:4000123612

相关阅读

经中共中央批准,中央纪委国家监委对中国大唐集团有限公司原党组副书记、总经理寇伟严重违纪违法问题进行了立案审查调查 经查,寇伟丧失理想信念,背弃初心使命,处心

2025-08-20

  新闻1+1丨AI乱象治理 要“打假”也要能“辨真”  AI仿冒孙颖莎、王楚钦、全红婵带货,打的是什么算盘?一条评论引发全国首例AI误判案,创作者如何自证

2025-08-20

  针对旅拍、沉浸式体验、水上运动等存在的问题,一些地方出台举措  规范文旅业态,让暑期游玩更安心(民生一线)  核心阅读  暑期,文旅市场生机蓬勃,多元文旅业态持续点燃游

2025-08-20

  中央纪委国家监委网站通报,据中央纪委国家监委驻中国移动纪检监察组、吉林省纪委监委消息:中国移动通信集团内蒙古有限公司党委委员、副总经理韩伟涉嫌严重违纪违法,目前正

2025-08-20

  2025年“全国网络普法行·甘肃站”活动今日在红色革命胜地庆阳市华池县启动。中央网信办网络法治局、司法部普法与依法治理局、甘肃省委网信办、庆阳市

2025-08-20

  广州市公安局白云分局19日发布警情通报称,对涉嫌冒充军人招摇撞骗的余某翔(男,73岁)已依法采取刑事强制措施。  通报称,近日,网传一余姓男子涉嫌假冒国务院参事、抗美援朝

2025-08-20

据河北省纪委监委消息:河北省政府国有资产监督管理委员会原巡视员韩志远涉嫌严重违纪违法,目前正接受河北省纪委监委纪律审查和监察调查。 来源:中央纪委国家监委网站

2025-08-15

据黑龙江省纪委监委8月13日通报,日前,黑龙江省纪委监委对哈尔滨市公安局原二级巡视员于涛严重违纪违法问题进行了立案审查调查,于涛被开除党籍。 红星新闻记者注

2025-08-14

热门推荐

阅读排行

首页 | 新闻 | 财经 | 娱乐 | 房产 | 公益 | 时尚 | 汽车 | 教育 | 健康 | 环保 | 法治 | 关于我们 | 联系我们 | 人员查询

运营单位:北京竣发文化传媒有限公司

地址:北京市丰台区泥洼北路6号院9号楼二层203-1520室

中华人民共和国国家工业和信息化部备案号: 京ICP备2025122738号-1

京公网安备 11010202010554号

Copyright © 2025-2030 中国城乡观察网 版权所有

本网站内容来源于互联网,如因版权和其它问题需要同本网联系。 邮箱:axlt6@qq.com    电话:4000123612