|
余佳文11月初,“温峥嵘被AI温峥嵘拉黑”的话题引发热议。其团队曾在一天内集中举报了50多个盗脸账号,范围涵盖化妆品、日用品等类目商家。
被举报后,有的账号照常直播,有的账号被封号后转头换号重开。明星本人及其团队付出了大量精力却收获甚微。
比如,影视明星杨幂的“数字替身”活跃于女装直播间;奥运冠军全红婵的AI分身在短视频平台推销土鸡蛋、蜂蜜……AI盗脸带货正从零星事件演变为行业普遍乱象。
据抖音平台披露,今年10月以来已经处置了1.1万个违规账号,下架6700余件仿冒商品,但新的侵权账号仍在持续涌现
明星、主持人等公众人物的肖像与声音被非法抓取,经AI工具合成后化身“虚假主播”,在直播间里吆喝叫卖。AI盗脸的乱象已从明星、运动员,向网红、普通用户蔓延。
影视明星的高国民度使其成为盗脸重灾区,侵权形式以实时直播和短视频带货为主,带货品类极广,服装、化妆品、日用品、保健品等均有涉及。
早在4月,就有网友发现温峥嵘同一时间在不同直播间卖货,并对此提出质疑;粉丝也曾单日举报18个伪造直播间。
温峥嵘本人也在抖音发视频呼吁“停止侵权”,让大家不要上当受骗,但其形象仍被用于护肤品、厨房电器等产品推广。
时间再往前,早在2023年,杨幂、迪丽热巴等明星就被换脸用于女装带货,通过拼接其过往影视片段的声线,宣称“我穿的同款,显瘦又百搭”。
此外,刘晓庆、刘德华等艺人也未能幸免,刘晓庆的影视片段被AI替换为产品广告,她无奈发文辟谣“画面是我的脸,声音像我的声音,但真不是我”。
被盗脸的明星不仅局限在国内,韩国艺人IU、安昭熙、李荷妮等等则沦为境外网站的“虚假代言人”。
AI合成的IU手持平板宣传“新用户最高可获300万韩元奖金”的广告,凭借逼真效果吸引大量网民点击,不少人因此陷入诈骗陷阱。
不少网友对此愤怒表示“利用明星知名度搞诈骗,太没有底线了”,但因跨境维权难度大,此类账号往往要等到争议发酵后才被封禁,此时早已有不少人被骗。
除了明星,很多有名气的运动员也没能幸免,奥运冠军的正面形象成为不法商家的“流量密码”,侵权内容多以短视频形式传播,带货品类主要集中于农产品和健康食品。
被曝光的全红婵AI盗脸事件中,虚假视频打着“我吃这个鸡蛋训练更有力”的旗号推销土鸡蛋。
单条视频点赞量1.1万,关联商品售出4.7万件,流水超140万元,评论区不乏“支持奥运冠军助农”的留言。哪怕其家人公开声明未授权任何代言,仍有商家顶风作案。
全红婵的哥哥曾气愤表示“告都告不过来”,维权声明发布后,仍有数十个账号更换名称继续侵权。
孙颖莎、王楚钦等运动员的AI克隆形象被拼接成“奥运冠军天团”,推广骆驼奶粉、农家蜂蜜等产品,有网友吐槽“现在打开短视频,全是奥运冠军卖土特产,真假难辨”。
更过分的是,AI盗脸的侵权范围已不再局限于知名人物,普通网红乃至素人都可能成为目标。除了脸是你自己的,国籍、爱好、身份等都由不法分子随心所欲地伪造。
乌克兰网红OlgaLoiek就意外发现自己在中国社交平台拥有多个“俄罗斯分身”。
她的面部被AI克隆后,化身“娜塔莎”“艾莉丝”等多个“俄罗斯进口食品博主”,塑造出“喜欢中国、想嫁中国人”的人设,通过挑起争议话题吸引流量,进而带货俄罗斯食品。
这些AI克隆账号运营成本极低。OlgaLoiek及其家人曾多次向平台申诉,但因语言障碍和流程复杂未能得到有效回应,最终只能通过发布真人视频公开控诉,此事才引发国际关注,而相关账号在争议发酵两周后才被封禁。
AI盗脸技术的滥用之所以愈演愈烈,核心原因在于其门槛极低,再叠加丰厚的利益回报,让黑产群体趋之若鹜。
声纹克隆工具同样易得,开源TTS模型Zonos仅需3-4秒的说话者样本,就能生成相似度八成以上的克隆声,还可调节情感语调和多语言输出,完美匹配换脸视频的语音需求。
硬件方面也无需专业设备,普通用户常用的Windows10/11系统完全能够满足运行需求,显卡仅需8G以上配置,即便是NVIDIA Ge Force RTX系列的中低端型号也能流畅运行主流换脸工具。
整套硬件设备的成本可控制在万元以内,对于想要涉足的黑产从业者来说,这样的投入几乎没有门槛,无需专业机房或高端运算设备,一台普通的家用电脑就能成为侵权工具。
AI盗脸的操作流程更是简单,已被简化为“素材获取-合成制作-上线运营”三步。
第一步,零成本获取素材。不法分子从社交平台、影视片段中截取公众人物的高清照片、视频,无需授权即可使用。
第二步,合成,这阶段堪称“傻瓜式”。以Deep Face Lab为例,安装软件后提取脸部数据、训练模型、生成视频,电脑配置达标时几分钟就能完成低质量换脸,后期仅需调整颜色、亮度即可提升逼真度。
第三步,上线运营。黑产团队会注册多个账号分发侵权内容,精准适配不同时段的流量高峰,通勤时段推送低价商品吸引冲动消费,夜间则瞄准中老年群体推送高价保健品。
简单的短视频转换仅需10元左右,整套AI实时直播服务的价格也不过999元,低廉的付费成本让技术零基础的人也能轻松实施侵权。
行业乱象更体现在侵权的隐蔽性上:部分工具支持“局部换脸”“动态模糊处理”,专门规避平台监测。
黑产团队还会伪造设备信息、地理位置,让侵权源头难以追溯,形成“封号-再生”的恶性循环。
更严重的是,部分技术提供方明知工具被用于侵权,仍持续优化功能,进一步加剧乱象。
与传统代言模式不同,黑产从业者无需支付巨额明星代言费,就能借助公众人物的知名度快速引流,利用粉丝对偶像的信任大幅提升带货转化率。
相比之下,其综合成本极低,硬件投入万元以内,软件可免费获取或低价购买,操作人工成本也微乎其微。
这种“低成本高回报”的盈利模式,让黑产群体甘愿冒着法律风险持续作案,即便部分账号被封禁,也能通过快速复制新账号弥补损失,形成难以根除的黑色产业链。
从奥运冠军到海外网红,从明星艺人到普通用户,AI盗脸技术的滥用正在不断突破道德的底线,AI盗脸带货已触及多重法律红线。
从民事层面看,根据《民法典》第1018条、1023条规定,未经授权使用肖像、克隆声音构成肖像权、声音权侵权,若带货劣质产品导致明星社会评价降低,还涉嫌侵犯名誉权。
从消费者权益保护角度,此类行为属于虚假宣传和欺诈,依据《消费者权益保护法》第55条,消费者可要求“退一赔三”。
从市场竞争角度,商家借明星知名度引流,抢占合法代言机会,违反《反不正当竞争法》。若诈骗金额达3000元以上,更可能触犯《刑法》第266条构成诈骗罪,面临刑事追责。
此外,2025年9月1日施行的《人工智能生成合成内容标识办法》要求AI生成内容必须主动标注。
明星、商家和普通消费者在遇到AI盗脸时,应采取不同措施来保障自己的权益。
首先,需第一时间通过录屏、截图、公证等方式固定证据,避免侵权内容被删除。
其次,向平台提交维权通知,要求下架内容、封禁账号,依据《网络信息内容生态治理规定》,平台未及时处置需承担连带责任。
最后,可通过民事诉讼要求赔偿,必要时向市场监管部门举报或向公安机关报案。
商家更多是防患于未然,若想避免踩坑,需坚守两条底线:一是绝不使用未经授权的明星肖像、声音进行AI合成推广,即便购买第三方提供的“数字分身”服务,也需核实授权文件;二是严格遵守《人工智能生成合成内容标识办法》,若使用AI生成内容带货,必须明确标注“AI合成”,避免误导消费者。
中国政法大学朱巍教授在采访时曾提到,商家若参与AI盗脸带货,不仅要承担民事赔偿,还可能被列入信用黑名单,影响后续经营,MCN机构若协助推广,需承担连带责任。
二是观察视频细节,AI换脸易出现面部扭曲、水波纹、不眨眼等破绽,真人直播能实时互动,而AI分身多循环固定话术。
四是警惕“全网最低价”“专属推荐”等诱导性话术,牢记天上不会掉馅饼,遇疑似侵权可保存证据向平台投诉,或拨打12315举报。
当“温峥嵘们”被迫自证“我是我”,当消费者在直播间与“数字分身”斗智斗勇,这场信任危机已不仅是法律问题,更是文明社会的基本命题。
面对这一新型侵权乱象,仅靠明星个体维权远远不够,需要构建多维度的治理体系。
一方面,需要加快完善相关法律法规,明确AI技术使用的边界,细化侵权认定标准和赔偿计算方式,降低维权门槛。
另一方面,监管部门应加强技术赋能,建立专门的AI侵权监测平台,提升数据溯源和跨境执法的效率,加大对侵权行为的惩处力度,提高违法成本。
同时,网络平台也需履行主体责任,升级算法监测系统,主动识别和清理AI盗脸侵权内容,从源头遏制侵权行为的蔓延。
技术本无善恶,但若放任其成为作恶工具,终将反噬创新本身。“数字分身”本质应当是服务,而非信任杀手。
[2]“温峥嵘”拉黑温峥嵘!抖音回应演员被AI盗播,律师解读消费者如何维权→.中国商报
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
中国3胜2负!5-0到6-4,吴宜泽晋级英锦赛16强,将对罗伯逊附赛程
一位“失败”教练,带出欧洲最强防线逆转水晶宫!齐尔克泽零度角破门 芒特世界波
WCBA揭幕战:广东女篮领冠戒大胜江苏 杨舒予15+6+7罗欣棫21分
Godv亲笔签名+限定非遗周边!2025WCI这场电竞盛宴谁看了不迷糊
|