大家好,我是你们的婵宝,今天有事请大家帮忙。婵妹就想着帮妈妈一把,让家里的日子过得好一点,顺便把老家的土鸡蛋分享给粉丝们尝尝尝……
在互联网上,奥运冠军的“声音”突然开始卖农产品,知名演员的“声音”24小时在直播间陪粉丝聊天互动……随着AI技术的普及,“克隆”特定人物声音已经能“一键式”操作了。当声音能被轻易偷走和乱用,侵权的事儿也跟着一波接一波地出现。
记者在某平台发现,一个叫“我是小助理吖”的博主账号,发了17个作品,内容全是利用AI仿冒奥运冠军全红婵的声音卖土鸡蛋的视频,其中一个视频点赞量高达1.1万。评论区里,好多粉丝都以为这就是全红婵本人,赶紧点链接下单买鸡蛋,那个商品链接显示已经卖出了4.7万件。今年4月,全红婵家人曾向媒体证实,全红婵没给这些农产品代言,也没授权过。
除全红婵外,奥运冠军孙颖莎和王楚钦也被人用AI仿冒了。在一个叫“小兔真可爱”的账号里,两位奥运冠军的AI克隆声音也在卖土鸡蛋。声音做得跟真的一样,再加上粉丝对奥运冠军的喜欢,这些博主就靠这个接到了好多订单。
而记者发现,AI仿冒名人的乱象不光是卖东西,还有些自媒体博主克隆名人声音后搞24小时语音直播,演员靳东是被仿冒得最多的。这些操作看着挺离谱的,但其实背后隐藏着另一个灰色产业链。
据网络安全专家潘季明介绍,通过仿冒名人直播,不光能骗粉丝刷礼物赚钱,还能把一个没多少人关注的账号,快速做成有上万粉丝的账号,好为以后赚钱铺路。
合作一次就能无限克隆
配音演员遭“AI盗声”困局
AI仿冒名人的行为,不光骗了消费者,也侵犯了当事人的人格权。而AI克隆技术被乱用盯上的,不光是我们熟悉的那些名人。记者调查发现,配音演员被AI克隆侵权的案例也老发生。
武扬是干了十多年配音的,主要给影视和广告配音。今年6月中旬,武扬突然在某家餐饮店的宣传视频里听到了自己的声音,但这段配音并不是他录制的,那个视频当时已经被转发了2800多次。武扬去问他们的时候,对方承认了是用AI克隆了他的声音,但不愿意公开道歉,说克隆的声音是第三方公司弄的,他们没直接责任,只愿意赔5000块钱。武扬没答应,他怕这笔钱被当成是授权费,更怕要是妥协了,以后侵权会更厉害。
跟武扬的情况差不多,另一位配音演员浩洋的维权也陷入了“自证循环”,侵权方不光不承认克隆了浩洋的声音,还想拖着不解决,蒙混过关。浩洋说,从今年年初,他已经好几次被人侵权了,而且他这种情况在配音圈也不是个例。
当被乱用的AI技术成了侵权的借口,合作一次就能无限克隆。现在,武扬已经收集好了证据,准备通过法律途径起诉侵权方。
一键盗声仅需十几秒
最大隐患是被骗子利用
那AI克隆声音是怎么做到跟真的一样的?又是谁在背后帮着“偷声音”呢?
记者查了发现,在网上搜“声音克隆”这个词,很容易就能找到好多教怎么做的视频和下载软件的信息。有些博主不光一步步演示怎么操作,还直接提供软件下载。
网络安全专家潘季明介绍,基于开源的语音大模型,只要有段清晰的语音,谁的声音都能在很短时间里被克隆出来,还能被操控着说攻击者想让说的任何话。潘季明说,不光侵犯了声音权这些合法权益,现在AI克隆声音最大的隐患就是被骗子用上,要是再跟AI换脸这些技术结合起来,做出特别像真的“数字人”去骗人,危害就太大了。潘季明建议说,现在相关的技术得从源头开始限制,开源的时候得对代码能用多久、用在什么地方这些做个具体限制。
民法典:未经许可
使用或授权他人使用AI合成声音属侵权
从“一听就假”到“真假难辨”,AI克隆技术被乱用,不光严重侵犯了当事人的权益,还涉嫌违法。
法律专家说,我国民法典把人格权独立成编,第一次用法律条文把保护“声音”写进去了,在第1023条里明确说,对自然人声音的保护,参照保护肖像权的规定来办。北航法学院副教授赵精武指出,要是AI合成出来的声音,能让大伙儿一听音色、风格就知道是谁,那就有了法律上的可识别性,就能算侵权。他还说,每个人的声音都应该受法律保护,录音的授权不等于声音AI克隆的授权,没经过许可就用,或者让别人用权利人的声音,都算侵权。
平台应履行监管责任
多部门联合整治AI克隆声音乱象
现在网上到处都是AI克隆声音的内容,平台是不是也应该负点责任?这种乱象该怎么管呢?
专家建议说,针对AI克隆声音被乱用的问题,平台得切实负起监管责任,建好AI声音的审核和侵权举报机制,及时发现问题,拦住侵权、虚假、违法这些不好的内容。今年3月,国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》,会在2025年9月1日开始实行,里面明确说,提供服务的人得对文本、音频、图片、视频、虚拟场景这些AI生成的内容加上明显的标识。还有,中央网信办近日在全国范围内部署开展“清朗·整治AI技术滥用”专项行动,会加强对AI技术源头的治理,清理整顿不合规的AI应用软件,让网站平台提高检测辨别真假的能力。
据央视新闻