如果你觉得让计算机程序学会自学，并在积累知识的过程中变得日渐成熟甚至有了自己的想法，是一件很可怕的事情，那么你将无法想象当它学会攻击的时候，事情会变得多失控。这不难让人们联想到目前正火热的人工智能，而在日常应用中，机器学习算法是被提到的更多的一个专业术语。
与电影“银翼杀手”里的杀手机器人相去甚远，机器学习应用程序的设计目的是训练一台计算机自己完成某项任务。而从本质上来说，机器是通过一遍又一遍的人类“教导”和训练来完成这项任务的，而学习的太多，可能会成为抑制它们的障碍。
网络安全初创公司Deep Instinct的首席执行官盖伊·卡斯皮（Guy Caspi）在CNBC的新栏目“Beyond the Valley”上表示，“今天看起来像科幻小说的这种智能攻击可能在未来几年内成为现实。”
虽然这项技术有望给人们带来许多好处，比如更流畅的计算或者在没有人为干预的情况下可进行的自动化任务及其管理。但专家对此却感到万分担心，与此同时，技术人员和研究人员也在警告称这种技术对网络安全会构成的威胁，而网络安全是保护我们的计算机和数据——以及政府和企业的计算机和数据——免受黑客攻击的最根本的一环。
今年2月，牛津大学和剑桥大学的研究团队展开了一项研究，并表示，人工智能可被用作攻击自动驾驶飞机和自动驾驶汽车的工具，并极有可能转化成潜在的危险武器。
“像谷歌（Waymo）这样的自动驾驶汽车已经在使用深度学习技术并可以在一定程度上突破现实世界中的障碍了”卡斯皮说，“因此在网络领域，人工智能攻击传统的反恶意软件是可能的。”
此外，美国网络安全软件巨头赛门铁克公司（Symantec）的一项研究表明，去年20个国家的9.78亿人受到了网络犯罪的影响。研究人员表示，网络犯罪的受害者共损失了1720亿美元，大概平均每人142美元。
对大多数专家来说，他们更担心的是人工智能将带来一种全新的网络攻击形式，而绕过传统的反击手段。
网络安全公司Darktrace的首席执行官Nicole Eagan称：“现在使用人工智能的网络攻击仍处于早期阶段，但那一天将会到来。我认为一旦开关被打开，就不会有回头路，所以我们会特别关注攻击者可以使用AI的多种方式，因为他们有能力可以让AI融入这些网络案件中。”
原文发布时间为：2018-07-25
本文作者：Sandy
本文来自云栖社区合作伙伴“人工智能观察”，了解相关信息可以关注“人工智能观察”。
