惊恐,AI黑洞:基于 AI 篡改的网络攻击来了

简介: AI 换脸余波未褪,AI 换声进行电话诈骗的戏码竟也成真了!不得不说,现在确实已经很难区分出利用深度伪造 (deep fake) 技术制作的假文本、假视频。而近日,这种现象似乎又延伸到了假语音领域——一家公司就因为近期发生的一起语音欺诈案件损失了 20 万英镑(合约 24.3 万美元)。

AI 换脸余波未褪,AI 换声进行电话诈骗的戏码竟也成真了!不得不说,现在确实已经很难区分出利用深度伪造 (deep fake) 技术制作的假文本、假视频。而近日,这种现象似乎又延伸到了假语音领域——一家公司就因为近期发生的一起语音欺诈案件损失了 20 万英镑(合约 24.3 万美元)。

image

AI 换脸余波未褪,AI 换声进行电话诈骗的戏码竟也成真了!不得不说,现在确实已经很难区分出利用深度伪造 (deep fake) 技术制作的假文本、假视频。而近日,这种现象似乎又延伸到了假语音领域——一家公司就因为近期发生的一起语音欺诈案件损失了 20 万英镑(合约 24.3 万美元)。

据《华尔街日报》报道,今年 3 月份,网络犯罪分子利用一款基于 AI 的软件模仿了一家德国母公司首席执行官的声音,并欺骗该公司旗下一家英国能源公司的经理向诈骗者控制的银行账户转款 24.3 万美元。

事情是这样的,英国某能源公司的一名高级管理人员接到了一个电话,由于电话另一端的声音非常耳熟,且同样带有轻微的德国口音,所以该高管就以为自己正在和德国母公司的老板通话,而对方要求他把一笔资金转给一家匈牙利供应商,并表示此事非常紧急,需要在一个小时内付款,另外还保证这笔资金会立即得到报销。

由于确信电话那头是老板的声音,所以该负责人就按要求将款项打给了匈牙利供应商。然而事实上,这笔汇款不仅没有得到报销,而且诈骗者又继续冒充这位德国老板要求另一笔紧急汇款。

不过这次,该高管注意到来电显示地点是奥地利,并拒绝了付款请求,随后便对该事件展开了调查。

据《华尔街日报》报道,这位英国 CEO 转给所谓的匈牙利供应商的这笔钱最终被转移到了墨西哥及其他地方。该案件目前尚在调查之中,但此次网络犯罪背后的罪犯身份尚未查明。

“语音网络钓鱼”(voice phishing,简称vishing)攻击并不新鲜,但此次事件可能是网络犯罪分子利用 AI 进行语音欺诈攻击的第一个案例。金融服务公司 Euler Hermes 的欺诈专家 Rüdiger Kirsch 表示,Euler Hermes 最终承担了受害公司索赔的全部金额,而该保险公司之前并没有处理过其他要求追回涉及人工智能犯罪的损失的索赔案件。

ESET 的网络安全专家 Jake Moore 预测称,不久的将来,我们会看到利用机器学习的网络犯罪大幅增加。我们已经看到深度伪造技术使用视频格式模仿名人和公众人物,但制作这些逼真的镜头要花 17 个小时左右。能够伪造声音需要较少的录音即可制作完成。随着计算能力不断提高,我们开始看到这些变得更容易制作,未来形势令人不安。

为了降低风险,不仅有必要让人们意识到这种模仿现在可以实现,还有必要在转账前加入验证技术。双因素身份验证是另一种有效、廉价且简单的技术,它增添了另一层安全性,可以保护打给流氓账户的资金安全。被要求转账时,尤其是大笔金额,请务必核查电话号码并要求回电。使用你地址簿中的号码,而不是点击通话记录中的 “回电” 选项。

在去年发布的一份报告中,Pindrop(一家为呼叫中心开发安全软件和协议的公司)发现,语音相关的欺诈案件——主要影响银行、信用合作社、基金公司、保险公司以及银行卡发行机构——在 2013 年至 2017 年的四年间增长了 350% 以上。

2016 年至 2017 年期间的整体语音渠道欺诈也增加了 47% ——相当于每 638 起欺诈电话中就有 1 个是人工合成的。

2017 年,东芬兰大学 (University of Eastern Finland) 的研究人员进行的一项研究警告称,被各种组织用作生物识别身份验证方式的语音识别系统非常容易被模仿者欺骗。

而事实上,利用 AI 克隆一个人的声音也不是什么新鲜事,百度去年就开发了 “Deep Voice” 软件,可以用不到 4 秒的时间克隆人声,此举也引发了业界对生物识别技术安全性的担忧。

除此之外,谷歌旗下的加拿大公司 Lyrebird,只需一分钟音频即可生成与用户语音特征高度相似的数字语音。

谷歌也发表过一篇题为《Transfer Learning from Speaker Verification to Multispeaker Text-To-Speech Synthesis》 (SV2TTS) 的论文,描述了一种用于文本到语音 (TTS) 合成的基于神经网络的系统,该系统能够以许多不同发言者的声音产生语音音频。
SV2TTS 是一个三阶段的深度学习框架,可以从几秒钟的音频中创建语音的数字表示,并使用它来调节文本到语音的模型,该模型经过训练可归纳为新的语音。也就是说,只需5秒钟的音频样本,就可以克隆一个人的声音。

由此可见,基于 AI 的工具的兴起既有优点也有缺点。一方面,它为技术的探索和创造提供了空间,而另一方面,它也为犯罪、欺骗以及欺诈提供了可能性。

原文发布时间:2019-09-17
本文作者:互联网架构师
本文来自互联网架构师,了解相关信息可以关注“互联网架构师”公号

相关文章
|
1月前
|
机器学习/深度学习 数据采集 人工智能
未来的守护神:AI驱动的网络安全之盾,如何用智慧的光芒驱散网络黑暗势力?揭秘高科技防御系统背后的惊天秘密!
【10月更文挑战第3天】随着网络技术的发展,网络安全问题日益严峻,传统防御手段已显不足。本文探讨了构建AI驱动的自适应网络安全防御系统的必要性及其关键环节:数据采集、行为分析、威胁识别、响应决策和执行。通过Python库(如scapy、scikit-learn和TensorFlow)的应用实例,展示了如何利用AI技术提升网络安全防护水平。这种系统能够实时监控、智能分析并自动化响应,显著提高防护效率与准确性,为数字世界提供更强大的安全保障。
60 2
|
4天前
|
机器学习/深度学习 人工智能 安全
AI与网络安全:防御黑客的新武器
在数字化时代,网络安全面临巨大挑战。本文探讨了人工智能(AI)在网络安全中的应用,包括威胁识别、自动化防御、漏洞发现和预测分析,展示了AI如何提升防御效率和准确性,成为对抗网络威胁的强大工具。
|
16天前
|
机器学习/深度学习 人工智能 物联网
5G与AI融合:智能网络的新纪元
【10月更文挑战第25天】
37 3
|
27天前
|
人工智能 关系型数据库 数据中心
2024 OCP全球峰会:阿里云为代表的中国企业,引领全球AI网络合作和技术创新
今年的OCP(Open Compute Project)峰会于2024年10月14日至17日在美国加州圣何塞举行,在这场全球瞩目的盛会上,以阿里云为代表的中国企业,展示了他们在AI网络架构、液冷技术、SRv6和广域网等前沿领域的强大创新能力,持续引领全球合作与技术创新。
|
29天前
|
人工智能 自然语言处理 NoSQL
|
2月前
|
人工智能 数据中心 云计算
AI网络新生态ALS发起成立,信通院、阿里云、AMD等携手制定互连新标准
9月3日,在2024 ODCC开放数据中心大会上,阿里云联合信通院、AMD等国内外十余家业界伙伴发起AI芯片互连开放生态ALS(ALink System)。
AI网络新生态ALS发起成立,信通院、阿里云、AMD等携手制定互连新标准
|
1月前
|
机器学习/深度学习 人工智能 算法
利用AI技术优化网络安全
【10月更文挑战第4天】随着人工智能(AI)的飞速发展,其在网络安全领域的应用也日益广泛。本文将探讨如何利用AI技术提升网络安全防护能力,包括机器学习、深度学习等方法在识别和防御网络攻击方面的应用。同时,文章还将分析AI技术在网络安全领域面临的挑战和未来发展趋势。
|
2月前
|
机器学习/深度学习 人工智能 TensorFlow
神经网络深度剖析:Python带你潜入AI大脑,揭秘智能背后的秘密神经元
【9月更文挑战第12天】在当今科技飞速发展的时代,人工智能(AI)已深入我们的生活,从智能助手到自动驾驶,从医疗诊断到金融分析,其力量无处不在。这一切的核心是神经网络。本文将带领您搭乘Python的航船,深入AI的大脑,揭秘智能背后的秘密神经元。通过构建神经网络模型,我们可以模拟并学习复杂的数据模式。以下是一个使用Python和TensorFlow搭建的基本神经网络示例,用于解决简单的分类问题。
48 10
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
探索AI的奥秘:深度学习与神经网络
【9月更文挑战第11天】本文将深入探讨人工智能的核心领域——深度学习,以及其背后的神经网络技术。我们将从基础理论出发,逐步深入到实践应用,揭示这一领域的神秘面纱。无论你是AI领域的初学者,还是有一定基础的开发者,都能在这篇文章中获得新的启示和理解。让我们一起踏上这场探索之旅,揭开AI的神秘面纱,体验深度学习的魅力。
|
2月前
|
机器学习/深度学习 人工智能 TensorFlow
深入骨髓的解析:Python中神经网络如何学会‘思考’,解锁AI新纪元
【9月更文挑战第11天】随着科技的发展,人工智能(AI)成为推动社会进步的关键力量,而神经网络作为AI的核心,正以其强大的学习和模式识别能力开启AI新纪元。本文将探讨Python中神经网络的工作原理,并通过示例代码展示其“思考”过程。神经网络模仿生物神经系统,通过加权连接传递信息并优化输出。Python凭借其丰富的科学计算库如TensorFlow和PyTorch,成为神经网络研究的首选语言。
47 1