当“AI孙燕姿”横空出世时，人们还在惊叹于技术进步之快 ，而今被滥用的AI克隆技术已经成了人工智能合规发展的“拦路虎 ” 。

近日
，央视曝光了多个利用AI仿冒奥运冠军全红婵带货土鸡蛋的账号，AI全红婵一会儿卖土鸡蛋 、一会又推荐农家土蜂蜜 ，打着助农的旗号让不少喜爱全红婵的网友信以为真
，点赞下单以示支持，但全红婵的家人早在四月就对外声明过 ，全红婵并未给相关农产品代言或授权
。

中招“被带货
”的不仅是全红婵
，AI仿冒的孙颖莎
、王楚钦也去带货推销农产品了，被AI克隆的明星艺人更是不计其数 ，AI杨幂直播卖女装，AI靳东诈骗中老年钱财
，AI孙俪宣传某奶粉，就连综艺节目片段都没能逃过 ，综艺《一路繁花》中
，一段刘晓庆吃饭的片段就被人用AI合成替换成某减肥产品的广告，刘晓庆发文对此进行辟谣：“画面是我的脸 ，声音像我的声音
，但真不是我。”

耳听或为虚，眼见亦非实 ，体育名人、知名企业家 、明星艺人通通都上了AI克隆受害者名单
，这一情况绝非是人工智能技术开发者的初心 。别有用心的商家滥用AI技术其目的无外乎是牟利，直播带货也好广告宣传视频也罢 ，总归是想要利用大众对名人的信任、喜爱走捷径快速攫取利益
。

AI深度伪造技术如此泛滥
、屡禁难止的原因之一在于获取AI深度伪造工具的成本低、门槛低但利润高
，在高利益的诱惑下，一批账号被封禁了还会有一批账号再起来。在网上具有AI深度伪造合成功能的工具 、使用教程唾手可得 ，记者在网上随便搜索了一款宣称可以免费AI声音克隆的工具，该工具客服介绍AI可以通过深度学习精准分析样本语音模式和音调特征
，生成的AI克隆声音还原度高达99%，使用仅需三步：上传5到30秒音频样本 ，AI自动克隆声音
，输入文字即可让AI朗读任意文本，生成的音频可以下载 ，直接用于商用或者个人用途
，当然该工具也做出了免责声明，要求克隆出的声音仅限合法用途 ，但这样的君子协定到底具有多大的约束力
，恐怕要打一个问号 。

要遏制滥用AI深度伪造功能带来的仿冒名人问题，多方面的努力必不可少 ，在技术层面
，一方面需要加强对开源代码的合理限制，从技术源头上减少非法利用的可能 ，另一方面还需要更强的反制技术，仅依靠人类经验识别或用户自觉打上“AI生成 ”标识并不足够
，传播平台需要更强的识别AI深度伪造内容的技术，健全对AI深度伪造合成内容的审核
、识别、惩罚机制。在法律层面 ，新技术带来新发展的同时也会带来新问题
，针对AI技术发展带来的新问题，需要细化侵权认定标准和惩罚措施 ，降低维权成本
，提高违法成本，加大对侵权行为的打击力度
。对于每一个普通人而言 ，面对互联网上纷纷杂杂的声音
，对内容保持怀疑并加以求证，或许才是我们抵御虚假信息的最后防线。