经典案例

AI 仿声造假坑民遭央媒痛批 孙颖莎全红婵无辜躺枪

当全红婵在训练馆里纵身跃入泳池时,她不会想到,自己的声音正被 AI 技术克隆,在网络直播间里 "吆喝" 着土鸡蛋;当孙颖莎在赛场上挥拍扣杀时,骗子已用她的名义编造出 "家养鸡场带货" 的剧情。这场围绕奥运冠军的虚假带货骗局,不仅让万千消费者蒙受损失,更让为国争光的运动员们平白背负骂名。央视新闻网 8 月 18 日发文怒斥此类乱象,揭开了 AI 技术滥用背后的行业黑幕。

冠军 "被带货" 的真相

在某短视频平台上,一个冒用全红婵名义的账号短期内发布了近 20 条带货视频,其中一条 "全红婵卖鸡蛋" 的内容点赞量突破 1.1 万,商品链接显示售出 4.7 万件。评论区里,"支持婵宝" 的留言刷屏,粉丝们怀着对奥运冠军的信任纷纷下单,却不知镜头里的训练片段是剪辑的旧素材,耳边亲切的 "家乡口音" 源自 AI 语音克隆技术。更荒诞的是,骗子还编造出 "王楚钦收到全红婵私信来帮忙宣传" 的剧情,将毫无关联的运动员强行捆绑营销。

这些精心设计的骗局背后,是一条成熟的黑色产业链。网络安全专家指出,只需截取十几秒的真实语音样本,通过开源语音大模型就能生成高度相似的声音,成本不过几块钱的软件就能让奥运冠军 "说什么都听话"。骗子们将运动员的公开训练视频与 AI 生成的语音拼接,再辅以 "支持奥运健儿"" 家乡特产直供 " 等话术,轻易就骗取了粉丝信任。有消费者买到变质鸡蛋后投诉无门,联系商家遭拉黑,想找运动员维权更是无从谈起,最终只能自认倒霉。

更令人气愤的是,虚假带货还严重冲击了运动员家人的正当生意。全红婵的母亲本在老家开直播售卖农产品,背景就是自家院子,所有商品都附有正规检测报告。但骗子的假视频泛滥后, genuine 直播间反而被质疑 "也是骗局",订单量骤减过半。这位身体本就不好的母亲,不仅要担心女儿训练,还要承受莫名的生意损失。

技术作恶背后的责任迷局

《法治日报》律师专家库成员焦圣成指出,此类行为已明确侵犯运动员的姓名权、声音权和肖像权。我国《民法典》第一千零二十三条首次明确规定,对自然人声音的保护参照肖像权规定,未经许可的 AI 克隆属于典型侵权。若虚假宣传情节严重,还可能构成虚假广告罪或诈骗罪,面临刑事处罚。今年上海查处的一起案例中,某公司用 AI 生成 "老专家" 形象虚假宣传保健食品,被依法罚款 9218.64 元,这给类似违法者敲响了警钟。

平台的审核失职同样难辞其咎。按照《互联网信息服务深度合成管理规定》,平台对 AI 生成内容负有核验义务和标识责任。但现实是,大量仿冒视频借助运动员的高流量被算法推送,评论区的质疑声音被机器人好评淹没,违规内容举报后处理迟缓。对比新华社批评董宇辉视频的快速下架,奥运冠军被侵权的内容却能长期传播,这种监管尺度的差异,暴露出平台在流量面前的价值倾斜。

消费者维权之路同样艰难。尽管《消费者权益保护法》第五十五条规定了 "退一赔三" 的惩罚性赔偿条款,《食品安全法》更是明确食品问题可索赔十倍价款,但多数受害者面对的是注销跑路的商家和推诿责任的平台。河南商丘鞋厂老板支付 5 万元坑位费后仅卖出 58 双鞋的案例,黑龙江啤酒商被主播念错商品名导致成交 1 单的遭遇,都印证了虚假带货中消费者和商家的双重弱势。

整治风暴与长效之策

面对愈演愈烈的乱象,监管部门已掀起整治风暴。市场监管总局数据显示,2024 年共查处包括直播电商在内的涉网案件 3.6 万件,今年更将出台《直播电商监督管理办法》,强化商品溯源和主体责任。上海近期公布的典型案例中,从虚假抢购奢侈品到私域直播虚假宣传,违法者均受到罚款等处罚,形成有力震慑。湖北黄石一起涉案 55 万元的直播间玉石诈骗案中,5 名团伙成员被判刑四年二个月至十年四个月不等,彰显了法律的严惩态度。

技术防御体系建设同样关键。专家建议平台需建立 AI 生成内容识别系统,对名人声音、肖像的使用设置强制授权核验机制,落实 AI 内容标识义务。监管部门可借鉴网络禁限售商品词库的经验,建立运动员等公众人物权益保护 "白名单",实现侵权内容的快速拦截。

对消费者而言,增强防范意识至关重要。法律人士提醒,购买商品时应保留直播录屏、下单记录等证据,选择平台担保支付而非私下转账,遇侵权可向消协或市场监管部门投诉。更重要的是破除 "流量迷信",理性看待名人 "带货",让真实拼搏的运动员赢得荣誉,让诚信经营的商家获得市场。

AI 仿声造假坑民遭央媒痛批 孙颖莎全红婵无辜躺枪

当全红婵在宿舍跳手势舞的视频收获 200 万点赞时,这份喜爱不应被骗子利用。AI 技术本应服务于人,而非成为侵权牟利的工具。唯有监管不缺位、平台尽责任、消费者擦亮眼,才能涤清虚假带货的污浊,让网络空间回归真实与诚信,让每一份信任都不被辜负。

zoty中欧,zoty中欧官网,zoty中欧体育,zoty中欧官方网站,zoty.com

发表评论