AI的安全问题是无人敢提还是黑客不屑一顾

简介:

去年,一场以攻破金融支付领域的漏洞主题视觉盛宴后,GeekPwn今年将主题设定在眼下火热的人工智能与物联网上,并同步在上海与硅谷两地进行攻破演示竞赛。它想提醒人们:别光顾着人工智能的酷炫,背后的安全隐患更值得重视。

AI的安全问题是无人敢提还是黑客不屑一顾

24日的GeekPwn2016现场,十几场攻破秀看得人眼花缭乱,又心生忐忑。一个由东南大学与澳门大学师生组成的PhenixCode团队将攻击对象瞄准了生活中并不起眼的智能插座,攻破后,他们竟然让这个智能插座发布了一条微博。

拿人工智能举例,不管是AlphaGo还是自动驾驶,都是通过长期对大量数据的机器学习去实现接近人脑的水平。特斯拉创始人马斯克甚至认为,发展人工智能实则是在“召唤恶魔”。机器变得越聪明,安全风险也就越大。既然一个小小的智能插座能成为黑客远程控制用户社交媒体的载体,那黑客就可以通过这个硬件做更多破坏事情,当人们在朝着智能生活的方向迈进过程中,的确有太多安全漏洞赤裸地呈现在黑客眼前。

在黑客眼中任何智能手机都存在着一定的未知安全漏洞,但是很多厂商不愿意和白帽黑客联合。人工智能领域的安全问题被表面的光辉所掩盖,厂商对于系统漏洞只想着打补丁升级系统,甚至将白帽黑客定义为找茬者。

在科技的繁荣下,智能手机成为了人们必不可少的一部分,一部分生活甚至重要的信息都在仰仗着“智能”这两个字,厂商方面应该主动肩负起更大的安全责任,或将产品带给白帽黑客,当白帽黑客发现漏洞后便会及时交给厂商,协助厂商填补安全漏洞,这种二者协力也不失为一件好事。


作者:qilin

来源:51CTO

相关文章
|
4天前
|
云安全 人工智能 安全
阿里云欧阳欣:AI时代下的安全新范式
2024 云栖大会技术主论坛重磅发布
232 4
阿里云欧阳欣:AI时代下的安全新范式
|
4月前
|
人工智能 安全 算法
AI与大数据:智慧城市安全的护航者与变革引擎
AI与大数据:智慧城市安全的护航者与变革引擎
147 1
|
10天前
|
云安全 人工智能 安全
|
2天前
|
人工智能 安全 开发者
由于安全风险,安全领导者考虑禁止用AI生成代码
由于安全风险,安全领导者考虑禁止用AI生成代码
|
1月前
|
人工智能 安全 网络安全
网络犯罪分子开始利用AI绕过现代电子邮件安全措施
网络犯罪分子开始利用AI绕过现代电子邮件安全措施
|
1月前
|
人工智能 安全 测试技术
|
1月前
|
机器学习/深度学习 人工智能 安全
利用AI逃避规则,黑客的舞台又出神技!
AI技术的发展催生了新型网络威胁。黑客利用AI生成恶意软件代码和钓鱼邮件,挑战传统YARA规则检测,通过微妙变异躲避安全筛查。AI也被用于欺诈和数据窃取,包括模拟高管进行诈骗及通过深度伪造影响操作。研究揭示了ASCII艺术形式的新攻击方式ArtPrompt,能诱导AI模型产生有害内容。面对AI网络钓鱼攻击,需提高警惕,通过检查发件人信息、留意邮件内容和避免点击不明链接来识别攻击;并采用更新安全软件、强化身份验证等策略加强防范。
|
1月前
|
机器学习/深度学习 人工智能 安全
🔐安全升级,AI守护:职场信息安全,有它在就放心!
【8月更文挑战第1天】在信息爆炸的时代,职场信息安全至关重要。一家科技公司遭遇网络钓鱼攻击后,引入AI智能安全解决方案加强防护。AI通过集成到邮件服务器中智能识别并标记可疑邮件,分析员工行为模式识别异常操作,并具备持续学习能力以优化识别算法。通过AI守护,公司成功抵御攻击并提升了信息安全水平,展示了AI在信息安全领域的巨大潜力和应用价值。
75 0
|
3月前
|
存储 人工智能 Kubernetes
[AI OpenAI] 保护前沿AI研究基础设施的安全
概述支持OpenAI前沿AI模型安全训练的架构。
[AI OpenAI] 保护前沿AI研究基础设施的安全
|
2月前
|
存储 人工智能 安全
AI伦理与法规:确保技术安全可控
【7月更文第20天】随着人工智能(AI)技术的飞速发展,其在医疗、金融、教育、交通等领域的应用日益广泛,极大地推动了社会进步和经济发展。然而,AI的广泛应用也引发了诸多伦理问题和对个人隐私的潜在威胁,这些挑战要求我们在追求技术创新的同时,必须建立和完善相应的伦理规范与法律法规框架,以确保技术的安全可控。本文将探讨AI发展中的主要伦理问题、隐私保护策略以及相关的法律法规,并通过代码示例展示如何在实践中实施隐私保护措施。
73 0