智能安全攻防升级!阿里建AI智能防御系统保障安全

简介: 6月30日,阿里巴巴安全部资深总监路全在2018 全球人工智能与机器人峰会(CCF-GAIR)上指出, 阿里已建成流量清洗智能防御系统治理“污染数据”问题。

大数据、计算和算法是人工智能的三大要素,如何保障数据安全和数据的清洁度,则成为提升智能产品安全性的关键因素。近日,BAT等互联网企业齐聚深圳,在2018 全球人工智能与机器人峰会(CCF-GAIR)上围绕智能安全等议题,进行了深入探讨。
IMG_9259
6月30日,阿里巴巴安全部资深总监路全在2018 全球人工智能与机器人峰会(CCF-GAIR)上指出, 阿里已建成流量清洗智能防御系统治理“污染数据”问题。

作为受邀嘉宾,阿里巴巴安全部资深总监路全在参会时指出,人工智能带来更多可能的同时,也带来了诸多安全风险,尤其黑灰产正在使用“数据污染”、“数据中毒”等新型复杂化手段,与人工智能行业的正向发展进行激烈对抗。

他以人工智能汽车的安全问题举例称,除了“利用智能算法本身缺陷改变交通标志”或以“传统的黑客入侵渗透控制其他平民汽车”等方式,可以控制攻击智能汽车外,通过向智能设备云端或系统输入污染、中毒数据,同样可以用来攻击人工智能系统及设备。

其攻击原理是,人工智能都基于大数据算法来实现精准运算,最终产生实际行为,正是利用这一特性,对抗方可以输入一些受污染的数据“喂养”、“训练”人工智能系统,使其偏离正常的运算目标,最终产生失焦的运算行为,从而引发系列安全风险。

“黑灰产对抗方会用大量低级爬虫或低级流量,来试图爬取互联网公司的数据信息,他们明知低级爬虫很容易被杀掉,但仍会不惜成本投入。”路全解释称,这些低级爬虫样本产生的“污染数据”会影响和扭曲算法模型,最终他们还会利用少量掺杂其中的高级爬虫进行攻击。

“数据中毒的目的就是让机器学习模型不能覆盖正确的目标,从而使其防护失效。”路全表示,阿里安全已经建立起了双层防护机制,专门防护系统安全和防护数据污染。

“所有互联网公司必须警惕‘数据污染’这种攻击手段,因为由黑灰产发起的机器流量是数据污染的源头,为此阿里巴巴除了在传统网络安全上建立安全防御体系防御黑客入侵和渗透,阿里安全还建立了全新的流量清洗智能防御系统。”路全介绍,阿里巴巴建立的机器流量防控体系主要由三部分组成,其中包括相当于“眼睛”的检测模块;以及等同“大脑”的分类模型,还有辅助系统。

基于阿里巴巴拥有丰富的业态,阿里安全实验室在机器算法方面已有深入研究,由达摩院领衔的各大实验室也已研发出各种优秀算法,并应用于阿里生态的搜索、广告、IoT、客服等多个业务线。

“如果把AI视作一个正在茁壮成长的小孩,那么脏数据或数据污染就是病毒有害物,AI算法和机器学习是根据大量数据来进行的,如果数据被污染,就像小孩吃了不健康的东西。”路全形象地比喻说,“要像呵护孩子一样,去呵护我们的AI系统。”

目录
相关文章
|
3天前
|
人工智能 自然语言处理 算法
具身智能高校实训解决方案 ----从AI大模型+机器人到通用具身智能
在具身智能的发展历程中,AI 大模型的出现成为了关键的推动力量。高校作为培养未来科技人才的摇篮,需要紧跟这一前沿趋势,开展具身智能实训课程。通过将 AI 大模型与具备 3D 视觉的机器人相结合,为学生搭建一个实践平台。
120 63
|
1天前
|
人工智能 JSON 自然语言处理
智能化AI工具-语言翻译与本地化
在全球化发展的背景下,语言翻译与本地化需求日益增长。无论是跨境电商、国际合作,还是本地化应用开发,都需要高效、准确的翻译解决方案。阿里云通义千问作为一款强大的大语言模型,不仅具备出色的自然语言理解能力,还能够在多语言翻译和本地化场景中发挥重要作用。本博客将详细介绍如何基于阿里云通义千问开发语言翻译与本地化工具,包括产品介绍、程序代码以及阿里云相关产品的具体使用流程。
21 10
|
3天前
|
数据采集 人工智能 DataWorks
加速AI应用落地!DataWorks数据治理中心全新升级为数据资产治理
DataWorks进行全面升级,从数据治理中心转型为综合数据资产管理平台,强调业务视角下的数据分类与管理,引入Data+AI全链路数据血缘追踪,提升数据质量和安全性,促进跨部门协作。同时,提供限时优惠活动,助力企业高效利用数据资产。
20 1
|
14天前
|
人工智能 文字识别 运维
AI多模态的5大核心关键技术,让高端制造实现智能化管理
结合大模型应用场景,通过AI技术解析高端制造业的复杂设备与文档数据,自动化地将大型零件、机械图纸、操作手册等文档结构化。核心技术包括版面识别、表格抽取、要素抽取和文档抽取,实现信息的系统化管理和高效查询,大幅提升设备维护和生产管理的效率。
|
10天前
|
机器学习/深度学习 人工智能 运维
电话机器人源码-智能ai系统-freeswitch-smartivr呼叫中心-crm
电话机器人源码-智能ai系统-freeswitch-smartivr呼叫中心-crm
28 0
|
14天前
|
存储 人工智能 大数据
面向 AI 的存储基础设施升级
AI 与大数据融合化是大势所趋,企业可以通过大数据技术收集和存储大量数据,进行一站式计算分析和数据治理,以便安全、精确、高效、智能地应用数据。在这个话题中,我们将会介绍阿里云全栈存储数据基础设施如何支撑 AI 场景的创新与实践,并带来全新一代存储产品的重磅发布,帮助企业高效数字创新。
|
7天前
|
机器学习/深度学习 人工智能 算法
AI技术在医疗诊断中的应用及前景展望
本文旨在探讨人工智能(AI)技术在医疗诊断领域的应用现状、挑战与未来发展趋势。通过分析AI技术如何助力提高诊断准确率、缩短诊断时间以及降低医疗成本,揭示了其在现代医疗体系中的重要价值。同时,文章也指出了当前AI医疗面临的数据隐私、算法透明度等挑战,并对未来的发展方向进行了展望。
|
14天前
|
机器学习/深度学习 人工智能 自然语言处理
当前AI大模型在软件开发中的创新应用与挑战
2024年,AI大模型在软件开发领域的应用正重塑传统流程,从自动化编码、智能协作到代码审查和测试,显著提升了开发效率和代码质量。然而,技术挑战、伦理安全及模型可解释性等问题仍需解决。未来,AI将继续推动软件开发向更高效、智能化方向发展。
|
19天前
|
机器学习/深度学习 人工智能 自然语言处理
AI在医疗领域的应用及其挑战
【10月更文挑战第34天】本文将探讨人工智能(AI)在医疗领域的应用及其面临的挑战。我们将从AI技术的基本概念入手,然后详细介绍其在医疗领域的各种应用,如疾病诊断、药物研发、患者护理等。最后,我们将讨论AI在医疗领域面临的主要挑战,包括数据隐私、算法偏见、法规合规等问题。
40 1
|
11天前
|
机器学习/深度学习 人工智能 算法
AI在医疗诊断中的应用
【10月更文挑战第42天】本文将探讨人工智能(AI)在医疗诊断中的应用,包括其优势、挑战和未来发展方向。我们将通过实例来说明AI如何改变医疗行业,提高诊断的准确性和效率。