AI配音泛滥：声音克隆背后的隐私与安全问题

在信息爆炸的网络短视频平台上，你是否也常遇到那些采用“AI配音”的视频？如今，AI配音已广泛应用，诸如悟空四郎的音效已然成为经典。

令人惊讶的是，“声音克隆”技术现已渗透至各类短视频及AI平台，成为用户触手可及的功能：只需简短录音，AI便能“复制”你的声音与语调。

然而，这也意味着你的“声音”可能面临被盗用、被滥用的风险，后果不堪设想。

你是否在短视频中刷到过奥运冠军“全红婵”推销鸡蛋的视频？视频中，全红婵戴着口罩对镜头说：“我是你们的婵宝，今天有事请大家帮忙……”有些网友听到“全红婵”的声音，便购买支持。商品销量高达47000次。

网络账号利用全红婵的声音卖鸡蛋，而全红婵的家人表示，这些声音都是AI生成的。｜央视新闻

除了全红婵，奥运冠军孙颖莎、王楚钦等也参与此类推销。但报道显示，这些声音都是AI“偷走”并克隆的，奥运冠军们并未参与任何代言或授权。然而，有47000位网友不慎落入了这场AI骗局。

你在短视频网站上是否见过AI克隆明星带货的视频？｜央视新闻

去年雷军也遭遇了被AI恶搞的情况，网络上涌现大量“恶搞雷军AI配音”的视频，用雷军的形象和声音发布不实言论、极端内容。雷军不得不呼吁大家停止使用他的语音包。

在美国，乔·拜登的声音也被克隆，通过电话欺诈选民，告知他们不要在总统初选中投票。

除了名人带货和发言被假冒，普通人的声音被盗用也很危险。骗子可能用AI声音诱导你的亲友，骗取钱财或泄露敏感信息。

网络安全公司McAfee的调查显示，70%的人无法分辨克隆声音和真实声音。其中，7.7%的人表示曾被AI克隆声音骗钱。损失金额从500至3000美元不等，甚至有7%的人被骗了5000至15000美元。

调查还揭示了诈骗细节，如45%的诈骗是通过假冒亲友发来的语音消息。这些消息往往涉及车祸（48%）、抢劫（47%）、丢失财物（43%）等紧急情况。

骗子常用的诈骗场景：车祸、抢劫等，在每个国家都频繁发生。｜参考资料1

这种诈骗方法属于“鱼叉式网络钓鱼”，即针对特定目标的定向诈骗和攻击。AI让这种诈骗更加普遍且难以检测。

因此，及时联系亲友进行事实核查至关重要。银行信息安全官建议与亲人约定一个“安全短语”，用于通过电话验证身份。

对新技术不熟悉的人更易受骗。因此，提醒家中老人并约定验证身份的方式非常重要。｜CBC截图

更令人担忧的是，骗子“偷走”你声音的难度比你想象的小得多。McAfee的研究人员发现，仅3秒的音频就足以生成与原始语音匹配度高达85%的克隆语音。加入少量训练数据后，匹配度可提升至95%。

一些AI音频生成软件甚至能克隆人声的“呼吸声”，如沉重的叹气、气喘吁吁等声音，甚至能改变你说话时周围的环境音……

那么，骗子通过哪些渠道偷走你的声音呢？

• （1）社交媒体、电话发布的视频中的你的声音。
• （2）在使用软件时，未仔细阅读的用户协议可能已授权你的声音。
• （3）标榜赚钱的骗局：如线上试音的有声书“兼职配音”，可能只是骗取个人隐私和声音的手段。

\n

在信息洪流的网络短视频平台上，你是否也常遇到那些采用“AI配音”的视频？如今，AI配音已广泛应用，诸如悟空四郎的音效已然成为经典。

令人惊讶的是，“声音克隆”技术现已渗透至各类短视频及AI平台，成为用户触手可及的功能：只需简短录音，AI便能“复制”你的声音与语调。

\n

网络浪潮下的AI配音隐私与安全挑战