AI 语音模仿老板声音要求转账，成功骗走了 173 万
换脸 app ZAO 爆红后，不少人担心自己脸部信息泄露后，刷脸支付会被破解进行盗刷，虽然后来支付宝表示 AI 换脸无法破解刷脸支付，但已经有人开始利用 AI 语音合成软件进行诈骗了。
据《华尔街日报》报道，有骗子通过 AI 合成的语音，冒充了一家英国能源公司德国母公司的 CEO ，成功欺骗该公司员工进行了大额转账，成功骗走了 22 万欧元（约合 173 万人民币）。
AI 语音真有这么逼真吗？据称这家英国能源公司的 CEO 接到了自称是德国母公司 CEO 的电话，要求他将一笔 22 万欧元资金转账给一个匈牙利供应商，十万火急，必须在一个小时之内完成。
▲图片来自：Atlantech Online
这位英国 CEO 开始并没有意识到有什么问题，他表示对方操着德国口音，语调也跟德国母公司的 CEO 几乎一样，因此他也没有觉得可疑，就把款项打了过去。
有意思的是，在收到这笔转账之后，骗子还没有收手，而是再次打来电话，要求英国公司向德国母公司进行一笔汇款来偿还一些费用，不过这次的电话号码却显示来自奥地利，英国公司这才开始怀疑，没有再次转账。
这起案件发生在今年 3 月，事后调查发现，这 22 万欧元并没有转到所谓匈牙利供应商，而是被转移到了墨西哥等多个国家。
幸运的是，这笔损失并不需要这家英国能源公司承担，而是全部由投保的保险公司 Euler Hermes 负责。警方对这起事件进行调查后发现，骗子用了一种 AI 语音合成软件来模仿德国母公司 CEO 的声音，但至今仍无法找到幕后的诈骗者。
该保险公司的反欺诈专家 Rüdiger Kirsch 表示，他们此前从未处理过使用人工智能进行犯罪而造成的索赔案件，这种通过 AI 技术进行诈骗的模式也被称为 vishing（语音网络钓鱼）。
▲ 图片来自：security portal.
更令人担忧的是，这起案例很可能不会是孤例，随着这样的 AI 技术不断进步，且门槛逐渐降低，类似的 AI 语音诈骗很可能会一发不可收拾。
根据一家开发语音欺诈软件的网络安全公司的调查报告，从 2013 年到 2017 年，语音诈骗的数量增长了 350%，其中每 638 个诈骗电话中就有一个是机器合成的。
实际上我们很多人可能已经接到过 AI 打来的电话，今年的 315 晚会就曝光了 AI 骚扰电话的灰色产业，这些 AI 电话的对话、语调都和真人十分几乎以假乱真，每个机器一天能打 1000 个电话，效率远高于人类。
而 DeepFake 技术现在已经发展到可以任意篡改视频和语音，此前斯坦福等几所高校发布了一项新研究，只要输入任意文本，就能让视频中的演讲者说出对应的话，还能修改原视频的语句，比如将电视台主持人报道的「苹果股价收盘于 191.45 美元」的数字改为「182.25 美元」。
尽管这两个词的发音和口型完全不同，但几乎看不出修改痕迹。研究者经过调查发现，59.6% 的受试者认为被修改过的视频是真的，这项技术成功骗过了大部分人的眼睛。
这些 AI 技术不断发展，逐渐就出现了像 ZAO 这样便捷低门槛的工具，让每个人可以使用类似的机遇合成换脸视频，或者模仿别的声音，同时也难以避免被不法分子利用，用于实施犯罪。
前两年被 DeepFake 打开的潘多拉魔盒，正在将种种祸患陆续带给我们。
题图来自：南华早报
欢迎关注爱范儿官方微信公众号：爱范儿（微信号：ifanr），更多精彩内容第一时间为您奉上。
作者暂无likerid, 赞赏暂由本网站代持，当作者有likerid后会全部转账给作者（我们会尽力而为）。Tips: Until now, everytime you want to store your article, we will help you store it in Filecoin network. In the future, you can store it in Filecoin network using your own filecoin.
Support author:
Author's Filecoin address:
Or you can use Likecoin to support author: