游客发表
你是偷否曾在短视频平台刷到这样的内容:心仪的明星正热情推荐某款产品,其神态、元秒口型与声音完美契合,个明令人信服。声音然而,被走当你下单后不久,偷明星本人却发布声明辟谣:“从未代言,元秒此为AI伪造。个明”
这并非虚构剧情。声音演员王劲松曾公开怒斥此类现象“太可怕”;太乙真人的被走配音演员遭遇AI盗用,其声音逼真到“连亲妈都听不出”;全红婵、偷孙颖莎等体育明星的元秒声音甚至被用于推销鸡蛋……
AI技术大幅降低了公众人物“被代言”、“被带货”的个明门槛。中国新闻网《民生调查局》的声音调查揭示:在电商平台上,仅需70至100元即可定制一条明星AI仿冒推广视频,被走而1.98元便能永久克隆一个明星的声音,其仿真度足以以假乱真。侵权明星深陷困扰,消费者维权之路亦充满荆棘。
图为演员王劲松怒斥AI造假现场。
“30秒左右的AI艺人祝福视频,从人物生成、背景渲染到文案配音,均按真实情感标准制作。”
“声音完美复刻,画面流畅自然。”
“只需提供几张明星照片,我们直接出片。”
记者在主流电商平台及二手交易平台以“AI视频制作”为关键词检索发现,大量商家公开承接各类AI人物视频定制业务。记者随机选取10家商家咨询,明确提出制作明星AI宣传或祝福视频的需求。
当被问及是否使用剪映等常规剪辑软件时,多位商家明确否认。他们表示,接单成品并非普通用户通过基础操作可达成,而是由专业AI设计师通过精准指令调试生成,仿真度远超常规剪辑效果。
尽管明知业务存在法律风险,大部分商家仍承接定制订单。有客服坦言,此前已完成大量同类订单,“AI真人生成容易违规,目前监管严格,特别是针对明星。能做,但过审较麻烦。”也有少数商家具备合规意识,主动询问是否取得官方授权,在确认无授权后明确拒绝接单,以规避商用侵权风险。
据记者了解,1分钟以内的明星AI定制视频,市场单价普遍在70至100元,且商家均支持免费修改直至客户满意。为验证产业链实操流程与成品效果,记者累计支付230元,选取3家商家,提供照片及百字文案,委托制作明星祝福视频。
图为记者以“AI视频制作”为关键词检索到的商家列表。
调查显示,市面主流的明星AI伪造视频主要分为两种制作模式:
1. 图像生成模式:依托人物照片AI生成图像,再合成动态视频。
2. 视频复刻模式:直接抓取明星原视频,全方位复刻人物画面、动作及神态。
模式一:图片生成视频
记者提交物料和需求后,仅10分钟即收到首版AI人物照片。针对记者提出的人物形象失真问题,商家表示可根据明星脸部细节实拍图进行精准微调,可精细化调整眼型、脸型、鼻型等特征,无限贴近真人。15分钟后,商家提供三版优化后的AI人物形象,相似度大幅提升。确认形象后1小时,首版完整视频制作完成。虽然AI人物手部动作自然,但整体仍存在明显生成痕迹。商家强调,AI人物照片的复刻精细度直接决定最终视频的仿真效果。经过多轮细节修改优化后,最终成品视频高度贴近真人实拍画面。
模式二:原视频复刻
该模式技术流程更为成熟,成品仿真度更高。记者提供明星原视频素材后,商家耗时两天完成初版成品,完整还原人物样貌、神态,眼部细节、发型特征均实现精准复刻,AI生成痕迹极弱,视觉观感与真实视频几乎无差别。
此次调查同时发现,行业内商家技术水平参差不齐。部分商家坦言,AI生成内容缺乏真人情感张力,部分低价、粗制成品僵硬失真,仿真效果较差。
图为记者与商家沟通细节的截图。
除AI视频侵权外,AI声音克隆乱象更为猖獗,其操作门槛更低、侵权成本更低。针对网友反馈的AI仿冒明星声音问题,《民生调查局》同步开展核查。
记者在主流电商、二手平台检索“AI声音克隆”发现,大量商家承接人声复刻、定制配音业务。记者以不足10元的价格下单体验,对方表示,500字以内的文案价格均在10元以内,“复刻还原率能达到98%”。
按照商家要求,记者上传两段总计不足20秒的纯净原声音频及定制文案,仅5分钟便收到两版成品音频。商家还主动提供免费降噪处理服务。针对记者提出的“提升声音欢快情绪”的需求,商家在2分钟内完成情绪微调优化,成品完全符合需求。
经实测,三版定制音频均高度还原明星原声,音色连贯、无机械杂音,听觉效果足以以假乱真。除定制配音服务外,部分商家还售卖专业声音克隆工具,仅需1.98元即可获取永久使用链接及全套操作教程。宣称上传10秒纯净人声,即可永久克隆对应音色,支持手机、电脑随时生成定制音频。
配套教程详细讲解了音频降噪、格式转换等预处理方法,并明确工具核心机制:克隆效果仅依托10秒核心原声素材,上传过长音频不会提升仿真度,反而会触发系统报错。记者实测两款主流克隆网站发现,平台操作极简,流程统一分为原声上传、文本输入、生成语音三大步骤。上传素材与文案后,等待40秒左右即可完成音频生成,成品音色与明星原声高度契合,可直接下载使用。
图片来源:商家提供的AI克隆声音网站界面。
其中,高阶版本网站功能更为精细,页面内置喜、怒、哀、惧、厌恶、低落、惊喜、平静八大情绪调节模块,支持自定义情绪数值强弱,可精准调控声音情绪状态。记者调试“喜悦”情绪数值至0.8后,生成的音频音色活泼自然、情绪饱满,仿真度进一步提升。
据平台教程介绍,成品音频的仿真效果、音色贴合度完全取决于原始上传素材,建议选取与定制文案情绪、语气匹配的原声片段,以进一步提升伪造真实度。
整体来看,此类AI声音克隆工具操作零门槛、成本极低、仿真度极高。普通人仅凭少量明星原声素材,即可批量制作虚假配音内容。与视频定制商家不同,记者调查过程中接触到的声音克隆服务商均未主动提及人格权侵权、商用违法等法律风险。对于公众人物而言,该类乱象蔓延后将形成“侵权成本极低、维权取证难、追责成本极高”的畸形局面。
事实上,AI伪造公众人物肖像、声音的侵权案例早已屡见不鲜。曾有公众人物发布声明辟谣,指出网传多款产品宣传、自媒体文案朗读音频均为AI仿冒生成的虚假内容,甚至导致亲友被误导消费。
据媒体此前报道,演员杨幂方面曾披露一例AI伪造声音侵权案的胜诉细节。被告未经原告授权,在账号中发布视频,使用原告肖像,并利用AI技术合成与原告音色、语调、发音风格高度一致的声音。法院认定,被告使用AI技术合成声音并结合肖像制作视频,进行公开传播和推广销售,假借原告名义开展商业活动,构成侵权,侵犯了原告的肖像权和声音权益。
在AI短剧、AI音乐等领域,明星被AI侵权的现象同样普遍。杨紫、易烊千玺、檀健次、张婧仪、邓为、龚俊等演员曾通过工作室发布声明,指责AI侵权行为。
针对频发的AI深度合成侵权乱象,上海九泽律师事务所芮欢月律师解读称,商家未经授权,利用AI复刻明星声音、伪造肖像制作推广视频,已涉嫌侵犯人格权并构成虚假宣传。依据《中华人民共和国民法典》《中华人民共和国消费者权益保护法》及司法实践,法律规制的关键不在“是否使用生成式AI”,而在“是否侵害他人合法权益、是否误导消费者”。
图为商家向记者提供的AI克隆声音样本。
芮欢月表示,《中华人民共和国民法典》第一千零一十九条明确规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。此外,根据第一千零二十三条规定,对自然人声音的保护参照适用肖像权相关规定。
“商家通过AI‘换脸换声’虚构明星祝福、代言、推广,在未经许可前提下即属于侵权。同时,若未按《互联网信息服务深度合成管理规定》进行显著标识,亦未取得权利人同意,致使消费者产生错误认知下单,则同时满足《中华人民共和国消费者权益保护法》第五十六条规定的虚假宣传与消费欺诈的法定要件。”
针对消费者被虚假AI内容误导消费的问题,律师明确,消费者可依据消费者权益保护法第五十五条,主张“退一赔三”(不足五百元按五百元计)。除民事赔偿外,违法商家亦可能面临包括警告、罚款、停业整顿,甚至吊销执照在内的行政处罚。
此外,依据民法典第一千一百九十七条,网络服务提供者若怠于履行合理的审查义务,亦可能承担相应的法律责任。
(完)
责任编辑:许晓娜 UN990
随机阅读
热门排行
友情链接