“上当受骗了！明星代言没想到视频切片里‘专家推荐说辞’居然是变声AI造假。”00后小高愤怒地将购买的制造减肥产品扔进垃圾桶。

小高告诉新京报贝壳财经记者，克隆自己之所以心动，刘晓源于看见《国医少年志》视频切片里推荐了这款减肥产品，庆声悄带结果未见效果反而被包装营销暗算。音悄“原以为有专家背书的明星代言商品不会差，结果发现这些说辞居然是变声AI工具模仿语音篡改形成，专家根本就没说过这些话。制造”

随着《一路繁花》《国医少年志》等综艺节目出圈，克隆减肥、刘晓养生成为话题，庆声悄带但是音悄短视频平台上不少节目切片却开始“变味”，借着类似节目的明星代言噱头暗中推荐保健商品，甚至宣称“绝对有效”。

实际上，这些视频切片大多为移花接木，内容看似是节目片段，但专家话术、字幕等细节却是商家以AI技术进行篡改，进而植入品牌和带货。

“部分商家和视频主抓住消费者追求健康的心态，借以‘权威’‘专业’噱头让消费者信以为真，继而陷入其所设下的陷阱。”从事电商工作多年的蒋凌告诉新京报贝壳财经记者，如今短视频平台中确实充斥大量类似切片，甚至不乏修改名人语音进行商品带货的现象，“受此影响，不但多位名人和节目IP被造假，消费者权益也在不知情中受到伤害，而唯一获利的只有恶意植入的品牌商。”

加句台词，综艺切片包装出“明星代言”

因为肥胖，小高经常上网寻找各种减肥方法和药物。一次浏览短视频时，他无意中看到视频切片介绍一档名为《国医少年志》的综艺节目，其中，中医专家介绍如何有效减小肚子赘肉时，除了介绍白萝卜、山楂干、红枣等食材用以煮水饮用能控制体重外，还特意推销一款名为“蔻叙堂丁香膏”的减肥产品。

“资深中医在视频里肯定表示‘早晚各一次，一个多月肚子就平了’，加上节目IP和多位艺人的背书，效果应该差不了。”心动的小高当即根据品牌名在电商平台搜索并花费20多元下了一单。几天体验后，小高发现减肥效果远没有视频宣传般明显，体重没有丝毫变化。

和小高有着类似经历的，还有00后女孩张伊。她告诉贝壳财经记者，自己也是在刷综艺节目《一路繁花》的短视频切片时，被刘晓庆在聚会时所提及的一款商品“种草”，但真正体验后发现没有任何效果。

贝壳财经记者调查发现，类似视频切片在短视频平台中比比皆是，但是眼见并非为实。近段时间，《一路繁花》《国医少年志》等综艺节目中健康养生类知识通过短视频传播，被一众消费者所追捧，也让他们成为部分商家收割的对象。

贝壳财经记者在短视频平台上搜索发现，不少非节目官方所发布的切片里夹藏大量“私货”，视频主通过AI技术更换专家语音和字幕，将涉及体重管理、祛湿等保健类商品经过包装成功实现“名人带货”。

以《国医少年志》一期节目中专家介绍如何有效改善大腿过粗为例。原视频中专家推荐苹果、生姜、红枣等食品通过水煮饮用的方式起到提升代谢作用，但在部分视频切片里，专家的话直接被篡改，特意加了“资药堂（的赤菊膏）就很不错”的短短一句话。

移花接木的招数也出现在《一路繁花》的视频切片中。刘晓庆在聚餐时吃鱼的片段，一款名为“诗诺千君贴”的商品被植入，并在字幕中显示“提高代谢水平”“年轻人可以试试”，同样实现明星带货的效果。

AI悄然篡改视频内容，模糊了视频真假的边界，也迷惑了不少消费者。贝壳财经记者注意到，上当的网友在社交平台上吐槽“纯智商税”“节目组推销劣质商品”等，质疑产品的同时也将矛头直指节目组。

对此，《国医少年志》官方发文表示，部分社交媒体上营销账号未经授权擅自剪辑节目图片、视频实施产品推广行为，歪曲了节目内容。节目组从未授权任何第三方账号利用节目内容宣传相关的任何产品，“任何非我司官方账号或非节目原片所发布的我司及与我司合作生产相关产品的信息均为虚假信息。”

 AI变声“零门槛”，仅需几元可随意模仿

一个节目片段就能假冒名人带货，再次暴露了AI合成声音滥用的问题。

“这些商品利用人们对身体健康的关注心态，通过AI篡改台词和字幕，以‘专业’‘权威’的噱头让消费者信以为真，进而陷入销售陷阱。”电商从业者蒋凌说。

近日，贝壳财经记者在短视频平台以“AI克隆声音”为关键词检索发现大量涉及AI合成声音的视频，一条“10秒钟克隆任何声音”的视频讲解显示，AI技术可将声音调整为孙悟空、曹操、哪吒等多个角色。

随着人工智能技术普及，AI模拟声音的门槛也大幅降低，甚至软件都能随处下载。通过一些开源软件和平台，普通用户即使没有专业知识以及成本就能轻松操作。

贝壳财经记者在社交平台上搜索发现多个AI合成声音软件的广告和下载渠道，价格也仅需几元到数十元。不少广告更是标榜“可随意模仿明星语音”“通过一句话就可以克隆出任何声音”等噱头。

为调查所需，贝壳财经记者下载了一款在GitHub上开源的声音克隆软件。体验过程中，贝壳财经记者上传了一段由本人播报的3分钟录音，在经过AI模型训练后，成功得到了这一声音的模型文件。此后只需输入任意文字，软件即可实现这一声音的口播内容。

贝壳财经记者发现，AI生成的语音模型连录制者在发音时的吐字习惯也能模仿。对于一些较短的语句，很难识别出这是机器合成的语音。相比之下，生成长语句时，则会出现瑕疵。尽管如此，只要多次生成，再从中挑选合成效果较好的语句，也能以假乱真。

社交平台上不少公众人物的声音已被AI克隆，其中“如何模仿雷军说话”“让明星给你播新闻”的视频软件教学和推广并不难寻。

贝壳财经记者注意到，这些软件操作流程颇为简单，使用者仅需对着镜头录制一段话，数秒钟后这些话通过AI技术就能变成某位名人的声音。值得注意的是，类似软件录入名人声音时没有任何授权证明，这意味着这些人根本不知道自己的声音已被冒用。

实际上，早前就有利用软件修改的明星靳东声音与“粉丝”互动，诈骗老年人近百万元。另外利用AI模仿国家传染病医学中心主任张文宏的声音吐槽热门话题，也曾引发关注。

一位AI领域从业者告诉贝壳财经记者，AI能够克隆声音源于其能通过深度学习算法，从采集的声音样本中提取频率、音色、声调等关键特征，再将这些特征记录进行合成，“《一路繁花》《国医少年志》等综艺节目中所出现的品牌植入，正是通过类似手段。”

“无论网友将AI模拟人声用于恶搞以追逐流量，还是克隆名人声音用以带货，都对声音‘原主’和消费者带来不良影响。发布者除了获得流量曝光和广告收入外，不乏假借身份传播虚假消息，从而实现诈骗目的。”上述人士表示。

围猎中老年，“AI换脸拟声”亟待治理

隐形的卖货方式以及真真假假的剧情，让不熟悉AI技术的中老年人很难辨别，也就成了被围猎的对象。

多位电商从业者接受采访时坦言，此类商家的目标群体主要为追求身体健康的人群，其中又以中老年人群体为主。通过打造权威专家人设发布“时事点评”“健康养生”等内容，以吸引销售目标的关注，最终再以视频流量分成和橱窗带货的模式变现。

“父母听信‘专家视频’买回一堆保健品，甚至还到处推荐身边朋友购买。”一位网友吐槽称，家中长辈对于AI不了解，认为视频内容和说辞都是真的，甚至当家里人再三解释视频是伪造时，也会固执地坚信没有上当，“根本劝不住，AI语音骗局对老年人简直就是降维打击。”

值得注意的是，类似商品不乏资质存疑、厂商成谜的情况。贝壳财经记者搜索一款同样由AI语音植入的益生菌品牌时注意到，产品链接跳转至商城页面后出现多款宣传封面、产品包装、文案说辞几乎一样的商品，生产厂商却并不相同，很难让人判断出真伪。

“消费者在观看视频时下单往往属于冲动消费，其本质更多出于对艺人和专业人士背书的信任。然而，对商品真实效果、品质优劣、是否适用于自身等情况并不清楚。”蒋凌告诉贝壳财经记者，商家选择类似传播渠道无疑比花钱打广告效果更好，成本也更加低廉，“当消费者反应过来时，商家已完成了快速传播、收割变现，甚至注销跑路的营销闭环。”

无论对于中老年人还是年轻网友而言，AI合成语音比早前的AI换脸视频更难辨别，稍不注意就容易中招。

2024年4月，北京互联网法院宣判全国首例“AI声音侵权案”，明确认定在具备可识别性的前提下，自然人声音权益的保护范围可及于AI生成声音。法院认为，未经权利人许可，擅自使用或许可他人使用录音制品中的声音构成侵权。

今年两会期间，全国人大代表、小米集团创始人雷军建议“加强‘AI换脸拟声’违法侵权治理”，并表示他本人也曾是“AI换脸拟声”的“受害者”。

贝壳财经记者了解到，早前短视频平台上曾出现大量“雷军AI配音”的恶搞视频，涉及堵车、调休、游戏等热门话题，雷军两会期间回应，“一开始我还觉得这是网民喜闻乐见的一种方式，但是随着内容越来越多，网友们也都在投诉。”为此，他呼吁尽快出台相关治理措施。

同样，全国政协委员靳东也回应了AI换脸导致的诈骗问题，并表示“一些喜欢我影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣，希望能建立更好的规则。”

河南泽槿律师事务所主任付建告诉贝壳财经记者，通过AI技术冒用他人声音的行为属于违法行为。根据《中华人民共和国民法典》，对自然人声音的保护参照适用肖像权保护的有关规定。而商家利用AI篡改专家说辞进行直播卖货既侵犯了专家有关声音的人格权益，也可能损害了专家的名誉权以及肖像权。同时，这种打广告的行为也涉及虚假广告宣传，如果所卖商品没有宣传效果还构成消费者欺诈，违反了《反不正当竞争法》和《消费者权益保护法》有关规定，有可能面临罚款、吊销营业执照等行政责任以及相应的民事赔偿责任，情节严重的还涉及刑事犯罪。

“平台有权依据《互联网信息服务管理办法》《电子商务法》以及平台规则履行监管义务，对违法商家采取封禁账号、限流等处理措施。如果未及时采取合理措施导致损害扩大的，对扩大部分与不法商家承担连带责任。”付建说。