继AI换脸之后,AI换声也火了!安全性令人担忧

作者:采集侠 发布时间:2019-10-09 09:08:44 点击数:105

还记得去年在色情行业掀起一阵风暴的 Deepfakes 吗?通过 AI 神经网络和演员的照片,反复进行机器学习之后,就能让 AI 自动识别和替换掉影片里某人的脸部数据。

后来 B 站也掀起了一阵「万物皆可徐锦江」的热潮,比如雷神和海王,乃至很多的经典电影的片段都出现了徐锦江的脸,甚至其中还包括《新白娘子传奇》里的白素贞。

继AI换脸之后,AI换声也火了!安全性令人担忧

这一次花式操作确实秀,也让更多人了解了什么是 Deepfakes 和 AI 换脸。

现在,「Deepfakes」已经泛指那些被人工智能改变过的媒体内容,只要是某人没有做过的事被 AI 做出来都可以认为是 Deepfakes,而且不止是视频,音频同样也可以通过 AI 来伪造。

继AI换脸之后,AI换声也火了!安全性令人担忧

但现在 Deepfakes 正在从过去的色情范围进一步扩大到了犯罪的世界,现在有一些犯罪分子使用 Deepfakes 来冒充公司的高管进行诈骗,目前他们使用的是 Deepfakes 的音频而非视频来进行诈骗。

相关的技术其实早已经有所应用,比如网络上那些伪造的 Trump 讲话,这一段乔丹·皮尔「配音」的奥巴马演讲也堪称经典案例

继AI换脸之后,AI换声也火了!安全性令人担忧

而这种诈骗,要比「小 X,明天来我办公室一趟」可要厉害不知多少倍,用被忽悠瘸的范伟老师的话说就是「哎呀,防不胜防!」

作为一家网络安全公司,赛门铁克表示已经发生了至少三起对私营企业成功的音频诈骗,都是将自己伪装成 CEO 的声音要求财务进行紧急汇款。

当然,犯罪分子也为此做了很多训练,用人工智能伪装声音不必多说,他们还通过电话、Youtube 视频和 TED 演讲视频来模仿该公司 CEO 说话习惯,在进行数小时的演练和计划之后才会实施。

继AI换脸之后,AI换声也火了!安全性令人担忧

这三起诈骗让每家公司都损失了数百万美元,但公司的名称目前并没有被披露出来,BBC 最先报道了这些攻击事件。

显然,Deepfakes 对企业的威胁是切实存在的,尤其是在已经有三起成功案例之后。但目前这样的运用方法仍然只是「小儿科」的简单手法,真正令人胆寒的是这样技术能用于更大的破坏。比如你想要拉低苹果公司的股价怎么办,只要一份刻意伪造的音频剪辑,并放出一些类似库克私人谈话等不利信息,苹果的股价恐怕很容易就能蒸发数十亿美元。

继AI换脸之后,AI换声也火了!安全性令人担忧

然而目前并没有非常好的方式去监测这些造假音频,因为技术的越发成熟,这些Deepfakes 的音视频制作正在变得越来越容易,同时破绽也越来越少。但绝大多数企业都对此没有准备。

更糟糕的是,从行业上说,对于 AI 造假的媒体来说,目前来看尚没有高效的检测和抵御解决方案。

技术方面,赛门铁克表示他们正在开发检测音频造假的技术。购买第三方公司服务的话也同样不便宜,New Knowledge 是一家帮助公司抵御虚假信息的公司,但它们的服务费用可能从 5 万到数百万美元不等。

而最让人头疼的是,当这些 AI 造假的音视频被揭穿时,通常损失已经造成了。