战胜棋王后,人工智能是否可以颠覆安全?

简介:

继谷歌宣布人工智能项目AlphaGo实现突破性研究——计算机程序首次击败专业棋手之后, 谷歌DeepMind公布了将与过去十年最佳围棋手李世石之间的终极挑战的详细情况。3月9日至3月15日,AlphaGo将在韩国首尔与李世石进行5场挑战赛。比赛完全平等,获胜者将得到一百万美元奖金。

战胜棋王后,人工智能是否可以颠覆安全?

今天下午,谷歌人工智能AlphaGo与韩国棋手李世石的第一场比赛结束,AlphaGo获得今日比赛的胜利。双方在较量3个半小时后,李世石宣布认输。今日比赛结束后,双方还将分别在10日、12日、13日、15日的北京时间中午12点进行剩余4场比赛。

战胜棋王后,人工智能是否可以颠覆安全?

李世石赛后的表情,求此时人类棋王的阴影面积

AlphaGo开发者DeepMind公司在今年1月的学术杂志《Nature》刊登封面文章,展示了围棋人工智能领域突破性进展的详细情况。这次对弈中,坐在李世石对面正是《Nature》封面文章作者之一黄士杰(Aja Huang),他本人来代替AlphaGo在棋盘上落子。AlphaGo一方的旗帜是英国国旗,因为这次参赛的谷歌围棋程序AlphaGo来自英国人工智能公司DeepMind。

谷歌AlphaGo在第一次与世界顶尖围棋手的较量中取得胜利,这是人工智能发展史上重要的里程碑,代表人工智能已经能在诸如围棋等高度复杂的项目中发挥出超过人类的作用。

谷歌的AlphaGo有多强大

传统的人工智能方法是将所有可能的走法构建成一棵搜索树 ,但这种方法对围棋并不适用。此次谷歌推出的AlphaGo,将高级搜索树与深度神经网络结合在一起。这些神经网络通过12个处理层传递对棋盘的描述,处理层则包含数百万个类似于神经的连接点。

其中一个神经网络“决策网络”(policy network)负责选择下一步走法,另一个神经网络“值网络”(“value network)则预测比赛胜利方。谷歌方面用人类围棋高手的三千万步围棋走法训练神经网络,与此同时,AlphaGo也自行研究新战略,在它的神经网络之间运行了数千局围棋,利用反复试验调整连接点,这个流程也称为巩固学习(reinforcement learning),通过广泛使用Google云平台,完成了大量研究工作。

AlphaGo在与人的对弈中用了“两个大脑”来解决问题:“决策网络”和“值网络”。通俗来说就是,一个大脑用来决策当前应该如何落子,另一个大脑来预测比赛最终的胜利方。

谷歌希望能把这套人工智能算法用于灾害预测、风险控制、医疗健康和机器人等复杂领域。也就是说谷歌的目的还是为了更好的服务人类,没有任何恶意。DeepMind(AlphaGo的研究公司)创始人哈萨比斯说:公众对人工智能的警示掩盖了人工智能带来的帮助。距离人脑水平的人工智能仍然相当遥远,可能还需要几十年。

在昨天的赛前发布会上,谷歌董事长施密特表示,输赢都是人类的胜利。因为正是人类的努力才让人工智能有了现在的突破。

人工智能在安全领域也表现不俗

今年八月一场名为Darpa’s Cyber Grand Challenge网络挑战赛将举行,参加决赛的七支团队必须利用对手漏洞进行攻击的同时,还要发现并自动修复自身漏洞、维护性能与功能正常。与其他“夺旗”竞赛不同, 这是世界第一个完全由计算机软件主导的黑客比赛。

获胜者最后会赢得200万美元大奖,Darpa其实就是美国国防部高级研究计划局,不怪人家就是财大气粗!

机器黑客:自动挖洞、打补丁

加州大学圣芭芭拉分校计算机科学教授Giovanni Vigna是黑客团队“Shellphish”的创始人,他们建立了一个叫做“Mechanical Phish”(机械钓鱼)的系统将参加本次比赛。

Vigna在2016年美国RSA安全大会上表示:

“完全自动化的hacking系统是我们最终的边界。人类能发现漏洞,却没办法对数以百万计的项目进行分析。”

现实中的黑客并不如电影描述的那么“性感”,他说:

“黑客通常只是一堆围在桌边的人,很疲惫却仍在笔记本上敲击键盘。而我们之所以当黑客,要么是因为我们想攻击别人,要么是想找出漏洞,或者仅仅是因为好玩。”

“机器黑客”在保护网络、快速识别、系统补丁等过程表现出色,从而避免了漏洞的利用、数据被盗或网络服务遭到攻击的情况。

人工智能快速通关“超级玛丽”

除了Cyber Grand Challenge之外,其他组织也已经开始将人工智能运用于hacking机器中。

Konstantinos Karagiannis利用神经网络(模拟人类大脑学习和解决问题)建立了一个hacking系统。据他介绍,这个名为MarI/O的人工智能程序可以在没有任何先验知识的情况下,只经过34次尝试便通关了“超级玛丽”。最初,它只有几个简单的参数设置,经过几次不同尝试之后它就“了解”到应该怎么玩,它“学会了”。

视频

Karagiannis说:

“采用了AI技术的安全扫描器可以识别复杂的漏洞,那些具有极具创意的手法是人们不曾想到过的。它可以采用非常低端硬件,价值一千美金的GPU(图形处理单元,通常用在游戏当中)就可以超过一台十年前的超级计算机。”

Karagiannis希望能在今年夏天演示这个POC。

每个硬币都有另一面

尽管“机器黑客”能为安全专家的弹药库提供颇具杀伤力的武器,但是更大的风险在于这些武器也可能落入错误的人手中。Karagiannis告诉卫报,攻击者如果在一年内使用了这些技术,他并不会感到惊讶。

HackerOne安全公司联合创始人Alex Rice同意这一观点,他认为任何可以用来发现漏洞的防御手段都可能被罪犯利用——技术最终都会成为一把双刃剑。

尽管如此,Rice认为自动化安全措施的兴起是一件好事:

“人人都在努力跟上趋势。几乎所有组织都经历过网络攻击,这关系到生死存亡,显然之前我们所做的一切都是失败的。而最好的解决办法就是将人类与机器的技能加以结合,人类最擅长的东西目前我们还没发现。而即使未来我们拥有了有感知的机器时,它们依然要接受人类的指挥。”


作者:哆啦A梦

来源:51CTO

相关文章
|
1月前
|
传感器 人工智能 运维
拔俗AI巡检系统:让设备“会说话”,让隐患“早发现”,打造更安全高效的智能运维
AI巡检系统融合AI、物联网与大数据,实现设备7×24小时智能监测,自动识别隐患并预警,支持预测性维护,提升巡检效率5倍以上,准确率超95%。广泛应用于工厂、电力、交通等领域,推动运维从“被动响应”转向“主动预防”,降本增效,保障安全,助力数字化转型。(238字)
|
2月前
|
传感器 人工智能 监控
建筑施工安全 “智能防线”!AI 施工监测系统,全方位破解多场景隐患难题
AI施工监测系统通过多场景识别、智能联动与数据迭代,实现材料堆放、安全通道、用电、大型设备及人员行为的全场景智能监管。实时预警隐患,自动推送告警,联动现场处置,推动建筑安全从“人工巡查”迈向“主动防控”,全面提升施工安全管理水平。
424 15
|
2月前
|
人工智能 安全 网络安全
从不确定性到确定性,“动态安全+AI”成网络安全破题密码
2025年国家网络安全宣传周以“网络安全为人民,靠人民”为主题,聚焦AI安全、个人信息保护等热点。随着AI技术滥用加剧,智能化攻击频发,瑞数信息推出“动态安全+AI”防护体系,构建“三层防护+两大闭环”,实现风险前置识别与全链路防控,助力企业应对新型网络威胁,筑牢数字时代安全防线。(238字)
148 1
|
2月前
|
人工智能 安全 网络安全
人工智能 安全 Ubuntu
523 0
|
2月前
|
人工智能 运维 安全
|
3月前
|
人工智能 安全 测试技术
RidgeBot 5.4.5 - 基于 AI 的主动安全验证平台
RidgeBot 5.4.5 - 基于 AI 的主动安全验证平台
174 2
RidgeBot 5.4.5 - 基于 AI 的主动安全验证平台
|
3月前
|
人工智能 安全 算法
四位大咖齐聚 《AI 进化论》第二期揭秘专有云 OS 安全信任基石重构之道
《AI 进化论:智算时代操作系统的破局之路》系列直播第二期「重构专有云操作系统安全信任基石」将于 8 月 13 日 14:00 开始。
|
3月前
|
云安全 机器学习/深度学习 人工智能
阿里云安全Black Hat技术开源大揭秘,AI安全检测的工程化实践
阿里云安全 LLMDYara框架开源核心思路,赋能云安全产品!
|
3月前
|
人工智能 安全 算法
龙蜥专家等共同揭秘专有云 OS 安全信任基石重构之道 |《AI 进化论》第二期
探讨如何通过 TEE、国产 OS 与芯片协同、国密算法、SLSA/SBOM 等技术,从底层操作系统重构信任,帮助用户应对复杂的云上威胁。

热门文章

最新文章