人工智能来到你身边!安全和隐私如何保护?

简介:

【编者按】在国外,当Facebook开始将手伸向旗下WhatsApp的用户数据时,当Google推出了智能聊天应用Allo时,都受到了侵犯用户隐私的谴责。相反,当人工智能在国内被捧上风口时,却没多少人预先关心类似技术和产品对个人隐私的侵害。

世界上一些最知名的企业已经在信息安全方面投入了数百万美元。当然,他们的对手也是如此。但一些有恶意的人却希望你的防御系统主要是由人类操控的,而且所有的防御系统的操控方式都是一样的。

当你搬家时,你会换锁还是和你所有的邻居使用共享锁?试想一下,如果小偷仅仅知道了一个共享锁的密码,将会发生什么呢?出于某种原因,信息安全的世界有一种相同的锁定心态。一些“顾客”是有恶意的人,他们费尽力气想去侵犯他人的财产安全。考虑到这种情况,即便各个企业投入了大量资金,安全防护仍会失败,对于这样的结果我们也就不应感到惊讶。

要想网络防御者有机会赢得胜利,我们就必须开始公平竞争。供应商将他们的安全产品的相关副本分发给客户,只是因为这个方式对他们来说很容易,而不是因为这个行为对他们的客户更好。

一个反病毒公司应该为每个恶意软件样本生成多少个变种?所有基于主机的人工智能(AI)防御都能在病毒环境中学习吗?在过去,为每个企业定制这些方案是不可行的。幸运的是,网络安全研究逐渐出现了一些新的技术,它们可以为每一个客户提供独特的病毒检测软件,这些技术可以帮助维护公平竞争环境,甚至有助于企业在商业竞争中取胜。

这些新兴技术广泛地出现在人工智能和机器学习领域。任何人工智能系统的核心都是学习能力。一些人工智能解决方案从本地环境中学习,而另一些则从全局环境中学习。那些能够胜出的是那些利用只存在于客户的网络环境中的数据,并产生一种针对该环境的移动防御类型的数据,根据这些数据建立起某种或全部的威胁探测能力的企业。其中包括:

一种是实质上不同于当前企业之间的防御方式;

一种是随着时间的推移,它会随着环境的变化而不断演变的防御方式;

最重要的一种是,防御系统不会让攻击者事先知道,并且他们断定攻击者一定会失败。

类似于在密码中再次套入密码有助于保护信息不受损害,部署网络安全解决方案,利用网络环境将其与其他所有副本区别开来,有助于保护企业。

使用人工智能系统建立一个移动防御系统

人工智能可以使用数千个特征来判断网络中的内容是否有恶意,或者用户或系统行为是否异常。每一个特征都只提供了一个小的证据来判断是否有病毒。

但是这只有在复杂的组合中才有用。机器学习算法通过专门一段时间的训练,试图找出如何结合特征来产生准确的洞察和预测。

根据每个人工智能系统的方法,培训数据可以来自当地环境、全球环境或两者的混合。然而,与传统方法不同的是,所得到的模型从来都不是基于简单的规则或易于理解的模式。这些模型的自然不透明以及它们的动态构造为有效的移动防御提供了基础。

你可以通过调整训练集或时间来改变人工智能模型。额外的培训数据是否只是简单地添加或用来替换老的培训数据并不重要,因为结果是一样的。

新的模型使用现有的功能或使用全新的功能被创造出来。在人工智能和机器学习方面,量身定制的检测解决方案的成本是可以忽略不计的。然而,必须有一个解决方案提供者来启用这种方法。一些使用机器学习和人工智能的网络安全供应商仍然在以传统方式部署他们的模型,而不会利用本地数据来调整他们的解决方案。当然,移动防御也面临挑战,不仅仅是那些会继续试图打败它们的恶意行为者所带来的挑战。最重大的挑战是如何确保定制解决方案的平价问题。没有人想要“第二好的”检测模型。必须注意的是,任何技术在实际应用过程中都会产生一种具有统计意义的模型,在所有定制的变量中,检测精度和误差几乎是一致的。

很难找到比移动防御更好的安全概念。“改变你的锁”是最完美的安全建议之一。然而,在网络安全领域,有些锁比其他锁更容易改变。



   


 


  

本文转自d1net(转载)

目录
相关文章
|
2月前
|
人工智能 安全 算法
AI与大数据:智慧城市安全的护航者与变革引擎
AI与大数据:智慧城市安全的护航者与变革引擎
36 1
|
3月前
|
机器学习/深度学习 人工智能 安全
中国信通院联合金橙果科技等十七家单位发起人工智能大模型安全基准测试
2024年2月20日下午,AIIA“SafetyAI Bench”(人工智能大模型安全基准测试)线上研讨会成功举办。来自中国信息通信研究院(以下简称“中国信通院”)、厦门大学、北京大学、北京交通大学、360、百度、蚂蚁集团、VIVO、西门​子、小鹏汽车、马上消费、浪潮科技、海信视像、交通银行、商汤科技、邮储银行、普华永道、科大讯飞、金橙果科技、万商天勤律所、中兴通讯、博特智能、开源网安、云天励飞等单位40余位科研机构专家及企业代表参加了本次会议。
|
1天前
|
人工智能 监控 安全
[译][AI OpenAI-doc] 安全最佳实践
这篇文章总结了安全最佳实践,涵盖了使用免费 Moderation API 减少不安全内容频率的建议,对抗性测试的重要性,人在环路中审查输出的必要性,以及限制用户输入输出标记和允许用户报告问题的方法。文章强调了理解和沟通模型的限制的重要性,并提供了关于最终用户 ID 的建议。
|
4天前
|
机器学习/深度学习 人工智能 安全
人工智能在安全中的作用是什么?
【5月更文挑战第10天】人工智能在安全中的作用是什么?
9 3
|
5天前
|
数据采集 人工智能 安全
以AI对抗AI,瑞数“动态安全+AI”助力在线反欺诈
瑞数信息也将进一步加强在反欺诈领域的技术革新和实践,助力企业全方位筑牢网络安全防线,努力实现“御敌于千里之外”。
|
19天前
|
机器学习/深度学习 人工智能 安全
模型被投毒攻击,如今有了新的安全手段,还被AI顶刊接收
【4月更文挑战第25天】研究人员提出了一种结合区块链和分布式账本技术的联邦学习系统,以增强对抗投毒攻击的安全性。该系统利用智能合约支持的点对点投票和奖励惩罚机制,提高模型聚合的鲁棒性。此创新方法首次将区块链应用于联邦学习,减少中心化服务器的风险,但同时也面临计算成本增加、延迟问题以及智能合约安全性的挑战。论文已被AI顶刊接收,为金融、医疗等领域提供更安全的机器学习解决方案。[[1](https://ieeexplore.ieee.org/document/10471193)]
26 3
|
20天前
|
人工智能 安全 API
【AI大模型应用开发】1.3 Prompt攻防(安全) 和 Prompt逆向工程
【AI大模型应用开发】1.3 Prompt攻防(安全) 和 Prompt逆向工程
44 0
|
5月前
|
人工智能 安全 数据挖掘
AI大数据分析对安全隐私的保护
AI大数据分析对安全隐私的保护非常重要。随着大数据技术和人工智能的发展,个人和企业的数据越来越容易被收集和分析。这种数据分析可以为企业提供有价值的洞察和决策支持,但同时也带来了安全隐私的风险。
|
2月前
|
云安全 人工智能 安全