世界首例AI诈骗案英国高管接老板电话被骗22万欧元

人工智能软件不只能够仿照别人的声响、语调，乃至还能仿照带德国口音的英语。 图据英国verdict

假如你的老板打电话让你干事，你会不加分辩地照办吗？读完这个故事，或许你会多一个心眼儿。

据《每日邮报》9月6日报导，本年3月，一名诈骗犯运用AI语音仿照软件假充公司大老板，成功让一家英国动力公司的CEO信赖自己正在与德国母公司的老板通电话。

在电话中，诈骗犯要求这位CEO立行将22万欧元转到匈牙利一家供货商的银行账户，以防止交纳“滞纳金”，并将转账信息以邮件方式发送，而这位高管毫不犹豫地照做了。 终究，这22万欧元一去不复返……

近来，为这家动力公司承保的裕利安宜公司（Euler Hermes）向媒体泄漏了此案细节。据报导，此案被认为是全球首例触及人工智能的诈骗案，这再度引发了人们对人工智能软件被用于违法的忧虑。

德国口音的英语也能仿照

据《华盛顿邮报》报导，这位CEO后来在一封电子邮件中指出，这个要求适当“古怪”，但“大老板”的德国口音十分传神，他觉得自己别无选择，只能遵守。

这家英国动力公司的承保人裕利安宜公司说，这位公司高管其时认为自己是在和他的德国老板说话，所以依照要求在一个小时内电汇了这笔钱，为的是协助公司防止拖欠罚款。

这家保险公司表明：“骗子运用的某种人工智能软件，不只能够仿照别人的声响、语调，乃至还能仿照带德国口音的英语。”

据悉，骗子总共打了三次电话。第二通电话是在22万欧元汇出后，对方打电话告知这位高管，母公司会搬运资金归还英国公司的费用。

此案引发了人们对人工智能软件被用于违法的忧虑。 图据《每日邮报》

而在当天晚些时候，当这位高管接到第三通电话，对方故技重施假充德国老板要求第2次付款时，他才认识到不对劲。因为对方许诺的转账归还资金并没有收到，且这次的电话号码显现来自奥地利，出于置疑，他没有付出第二笔金钱，而是直接致电德国老板自己，成果发现自己上圈套。

“（假的）‘约翰内斯’乃至在我正与实在的约翰内斯通话时，要求跟我通话！”这位CEO在一封电子邮件中说道。

但是，裕利安宜公司表明，等发现本相时，第一笔汇出22万欧元现已过匈牙利和墨西哥的账户被搬运涣散到了多个账户，现在还没有称查到嫌疑人，这笔钱已无法找回。终究，保险公司许诺将承当悉数的丢失费用。

一些研究人员表明，这是世界上初次揭露报导的人工智能诈骗案。

“深度假造”AI技能非专业罪犯也能用

据《每日邮报》报导，这种AI语音仿照技能的作业原理是将一个人的声响分解成音节或声响，然后再进行从头排列，再构成新的语句。虽然该体系仍处于前期开发阶段有不少瑕疵，但假如违法者假装在轿车或繁忙的环境中，就能够将令人生疑的当地掩盖曩昔。

一些草创企业Lyrebird等规划较小的公司，正在努力使这些东西能够更广泛地免费、无限制地运用。比方，Lyrebird答应任何人经过上传一分钟的语音片段创立一个“声响化身”，它被称为“世界上最实在的人工声响。”

但这种AI组成音频以及AI组成视频，即所谓的“深度假造（deepfakes）技能”，已加重了人们对重生技能腐蚀大众信赖、赋予违法分子权利、让传统的通讯事务买卖、家庭电话，乃至是总统竞选活动更简单遭到电脑操作的忧虑。

“违法分子会运用任何能让他们以最低本钱到达意图的东西，”斯坦福大学网络方针中心研究员、白宫网络安全方针高档主管安德鲁·格罗托说道。他指出：“这项在十年前听起来很奇特的技能，现在任何一个有发明力的非专业罪犯都能够运用。”

关于外界的冲击和忧虑，Lyrebird的一名讲话人在一份声明中写道：“幻想一下，就算咱们不发布这项技能，其别人也会开发它，谁知道他们的主意是否会和咱们相同真挚。”

Lyrebird这类开发这项技能的公司不断强调着它的活跃用处，称它能够协助自动化电话体系愈加人性化，并协助哑巴“从头说话”。但是，最新陈述的这起事情，势必将引发人们对不受监管的“深度假造”技能被违法分子运用，导致有针对性的黑客进犯和网络违法的忧虑。

网络安全公司Symatec的研究人员称，他们发现了三起相似的事例，高管被运用人工智能的骗子要求向另一个账户汇款。该公司泄漏，其间一个事例的丢失总计达数百万美元。

运用“深度假造”技能制造的美国前总统奥巴马的虚伪视频。图据美联社

明显，不少大型科技公司现已认识到了这项技能带来的损害。就在9月5日，Facebook和微软公司发起了一项新的运动，将冲击那些看起来极端传神的“深度假造”视频。已投入1000万美元建立基金，专门用于创立一个体系，运用一个“假造数据库”来检测这些“深度假造”的产品。

“这项应战的方针是发明一种技能，让每个人都能更好地检测出什么时候人工智能被用来修正视频，误导受众，”Facebook首席技能官迈克·施罗德弗表明。

红星新闻记者 王雅林 徐缓 编译报导

修改 张寻