智能安全攻防升级!阿里建AI智能防御系统保障安全

简介: 6月30日,阿里巴巴安全部资深总监路全在2018 全球人工智能与机器人峰会(CCF-GAIR)上指出, 阿里已建成流量清洗智能防御系统治理“污染数据”问题。

大数据、计算和算法是人工智能的三大要素,如何保障数据安全和数据的清洁度,则成为提升智能产品安全性的关键因素。近日,BAT等互联网企业齐聚深圳,在2018 全球人工智能与机器人峰会(CCF-GAIR)上围绕智能安全等议题,进行了深入探讨。
IMG_9259
6月30日,阿里巴巴安全部资深总监路全在2018 全球人工智能与机器人峰会(CCF-GAIR)上指出, 阿里已建成流量清洗智能防御系统治理“污染数据”问题。

作为受邀嘉宾,阿里巴巴安全部资深总监路全在参会时指出,人工智能带来更多可能的同时,也带来了诸多安全风险,尤其黑灰产正在使用“数据污染”、“数据中毒”等新型复杂化手段,与人工智能行业的正向发展进行激烈对抗。

他以人工智能汽车的安全问题举例称,除了“利用智能算法本身缺陷改变交通标志”或以“传统的黑客入侵渗透控制其他平民汽车”等方式,可以控制攻击智能汽车外,通过向智能设备云端或系统输入污染、中毒数据,同样可以用来攻击人工智能系统及设备。

其攻击原理是,人工智能都基于大数据算法来实现精准运算,最终产生实际行为,正是利用这一特性,对抗方可以输入一些受污染的数据“喂养”、“训练”人工智能系统,使其偏离正常的运算目标,最终产生失焦的运算行为,从而引发系列安全风险。

“黑灰产对抗方会用大量低级爬虫或低级流量,来试图爬取互联网公司的数据信息,他们明知低级爬虫很容易被杀掉,但仍会不惜成本投入。”路全解释称,这些低级爬虫样本产生的“污染数据”会影响和扭曲算法模型,最终他们还会利用少量掺杂其中的高级爬虫进行攻击。

“数据中毒的目的就是让机器学习模型不能覆盖正确的目标,从而使其防护失效。”路全表示,阿里安全已经建立起了双层防护机制,专门防护系统安全和防护数据污染。

“所有互联网公司必须警惕‘数据污染’这种攻击手段,因为由黑灰产发起的机器流量是数据污染的源头,为此阿里巴巴除了在传统网络安全上建立安全防御体系防御黑客入侵和渗透,阿里安全还建立了全新的流量清洗智能防御系统。”路全介绍,阿里巴巴建立的机器流量防控体系主要由三部分组成,其中包括相当于“眼睛”的检测模块;以及等同“大脑”的分类模型,还有辅助系统。

基于阿里巴巴拥有丰富的业态,阿里安全实验室在机器算法方面已有深入研究,由达摩院领衔的各大实验室也已研发出各种优秀算法,并应用于阿里生态的搜索、广告、IoT、客服等多个业务线。

“如果把AI视作一个正在茁壮成长的小孩,那么脏数据或数据污染就是病毒有害物,AI算法和机器学习是根据大量数据来进行的,如果数据被污染,就像小孩吃了不健康的东西。”路全形象地比喻说,“要像呵护孩子一样,去呵护我们的AI系统。”

目录
相关文章
|
4天前
|
人工智能 边缘计算 安全
边缘计算与AI的融合:未来智能系统的关键
【5月更文挑战第24天】随着人工智能(AI)和物联网(IoT)技术的迅猛发展,数据的产生和处理需求呈指数级增长。边缘计算作为一种新兴的分布式计算范式,旨在通过在数据生成的源头即边缘设备上进行数据处理,来降低延迟、提高效率并保护隐私。本文探讨了边缘计算与AI技术结合的必要性,分析了其在实现智能化系统方面的优势,并讨论了在融合过程中面临的挑战及潜在的解决方案。
|
4天前
|
人工智能 图形学
阿里AI模型EMO免费上线通义APP
阿里AI模型EMO免费上线通义APP
19 1
|
4天前
|
人工智能 弹性计算 监控
【阿里云云原生专栏】阿里云云原生与AI结合:智能应用的快速构建与部署
【5月更文挑战第24天】阿里云融合云原生和AI技术,助力快速构建智能应用。弹性伸缩、CI/CD、微服务和自动化运维带来优势。通过需求分析、环境准备、数据处理、模型开发到服务部署,阿里云提供容器服务、函数计算、服务网格等工具,支持自动化测试和监控,实现一站式智能应用开发。示例代码展示创建ACK集群和部署AI模型服务过程。
250 1
|
4天前
|
数据采集 人工智能 运维
智能运维:AI在IT基础设施管理中的应用与挑战
随着人工智能技术的飞速发展,其在IT基础设施管理领域的应用日益广泛。本文将探讨AI技术在智能运维中的作用,分析其带来的优势与面临的挑战,并展望未来的发展趋势。
|
7天前
|
存储 人工智能 Linux
|
11天前
|
人工智能 Serverless 异构计算
上海站丨飞天技术沙龙 Serverless + AI 专场开启报名!
"飞天技术沙龙——Serverless 技术实践营"将于2024年5月31日举行,聚焦Serverless在AI中的应用。活动包括演讲、实操,探讨Serverless演进趋势、AI应用开发及降低成本等议题。限额80人,报名审核制,现场还有大奖和证书待您领取。扫描链接<https://summit.aliyun.com/Serverless2024shanghai>报名。
上海站丨飞天技术沙龙 Serverless + AI 专场开启报名!
|
人工智能 大数据
从大数据到ET大脑-阿里云的超智能AI平台
首先声明本座并不是阿里粉丝,一直认为阿里的服务框架Dubbo跟Netflix的Spring Cloud相比,无论从社区成熟度还是功能组件上相比都差了一大截。 但就在刚刚过去的618年中大促中,阿里硬是将这个京东成立日变成了自己在上半年的购物狂欢节。
1742 0
|
机器学习/深度学习 人工智能 自然语言处理
搜狗翻宝Pro机再次开挂,智能翻译硬件成中国人工智能的新风口
第五届世界互联网大会正在如火如荼的举行。
搜狗翻宝Pro机再次开挂,智能翻译硬件成中国人工智能的新风口
|
机器学习/深度学习 人工智能 自然语言处理
与世界同行 2017中国人工智能大会有感
与世界同行 2017中国人工智能大会有感
1894 0
与世界同行 2017中国人工智能大会有感
|
人工智能 自动驾驶
2019年上半年收集到的中国人工智能发展详情文章
2019年上半年收集到的中国人工智能发展详情文章

热门文章

最新文章