锁定未来AI攻防,百度安全全新诠释“矛与盾”

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 锁定未来AI攻防,百度安全全新诠释“矛与盾”

image.png

日前,百度安全配合北京市公安局海淀分局破获了国内首例新型侵犯用户个人隐私黑产团伙——“手机访客营销”黑产。在百度安全技术支持和配合下,北京市公安局海淀分局历时3个月,跨越了全国十几个省市,破获了从“手机访客营销”黑产工具制作、多层级销售代理、到黑产工具购买者的整个产业链,涉案人员上百人,涉案资金数千万元,对黑产组织形成极大的震慑。这一案件的破获,也再次引发安全行业的重视。在万物互联的今天,全球百亿甚至千亿台设备互联互通,安全威胁的影响层面已经从传统的程序安全、数据安全、金融安全传导到人身安全和社会安全的各个层面,并且随着AI技术的发展以及应用,黑产更加猖獗,攻击方式的升级换代也让各行各业都面临着全新的安全挑战。


打击黑产,AI显威成智能之“盾”


本次破获的“手机访客营销”的黑产链条,其数据泄露源头为运营商手机号返回接口,犯罪分子利用这个接口开发出“手机访客营销”平台,一旦有用户利用手机访问到带有特殊代码的网页,其隐私信息就会被泄露。而当用户问及隐私信息来源时,犯罪分子则将责任推至搜索服务提供商。这一新型黑产不仅侵犯了大量网民的隐私,也对搜索服务提供商的声誉造成了极大的伤害。在百度安全技术的支持下,通过发挥威胁情报、大数据、深度学习等AI技术优势,警方得以对黑产团伙深度溯源。经统计,百度安全总共发现大约4万个站点存在类似的情况,涉及多个搜索引擎服务提供商和数百万网民的隐私数据。截至9月25日,“滤网行动”专案组历时2个月深入全国18个地市开展落地核查工作,初步抓获了26家涉案网站多名违法犯罪嫌疑人,查获公民信息100余万条。

除“滤网行动”之外,近年来,百度安全一直在进行着“AI+安全”的探索,将百度优势的AI技术应用于安全领域,尤其是机器学习和大数据技术,在异常行为检测、信息分类等场景中越来越发挥着重要的作用。此外,借助“AI+安全”的技术领先优势,百度安全在全网安全检测、网络犯罪研究、攻击溯源、黑产追踪等方面开展了大量工作,对公安机关打击网络犯罪提供了坚实的技术支持,从2016年初至今,百度安全已配合公安机关成功破获了多起重大黑客、黑产类案件,为网民上网安全打造了一面智能之“盾”!


赋能生态,百度安全迈出“AI+安全”关键一步


在“OASES智能终端安全生态联盟”(Open AI System Security Alliance,简称OASES联盟)成立大会上,百度总裁张亚勤表示:“AI是我们这一时代最具变革性的力量,它将改变我们所做的一切。”百度的AI核心研发人员超过2000人,正在致力于实现人工智能的宏伟构想,研究包括计算机视觉、语音识别、深度学习和自然语言理解等在内的先进人机交互技术。在守护这些业务的过程中,百度安全也积累了丰富的黑产对抗经验,研发了多项安全技术。跟以前的诸多联盟不同,这些核心技术不仅将专利免费授权给联盟厂商使用,还将核心基础技术开源,以打消产业链的顾虑,推动核心安全技术真正落地。


AI是百度的核心战略,更是整个互联网产业的大势所趋,做好新技术、新产业链背后的坚实安防,是百度安全的重中之重。百度安全通过发挥威胁情报、大数据、深度学习三者合力支撑构成的技术优势,已提前布局,在AI的基础层、平台层、应用层等,都推出了相应的安全方案。在GITC2017大会上,百度安全携旗下多款安全产品和解决方案亮相,包括针对智能终端系统碎片化安全问题的KARMA自适应内核热修复方案;针对终端应用的OASP应用签名安全方案;针对传输通信安全的Mesalink通信协议栈;针对云端安全防护的OpenRASP自适应安全方案,向业界展示了其AI安全生态建设成果。


另外,依托于海量的数据基础和强大的深度学习技术,百度安全自主研发的新一代综合性移动安全服务平台:avp,目前已应用到百度手机卫士、手机百度、小米路由器等10多个明星产品中,接入到30多个应用分发平台,达成了多方向的合作,构建了完整的国内、国外产品矩阵,打造了闭环安全生态。在应用商店,通过AVP为应用商店提供病毒、广告、支付等信息的检测,在源头阻止恶意APP的传播;在手机端,为企业自有APP(包括安全中心等)提供轻量级SDK,在手机端做安全防护,避免恶意APP从其它渠道进入用户手机,为用户提供综合性安全服务。其中,百度安全和vivo的合作作为典型,双方依托于百度安全应用分析平台,结合AI大数据及深度学习神经网络,为vivo用户打造了从应用商店到手机端的安全闭环,全面打击恶意病毒,为手机用户搭建起一个安全的生态环境。与vivo的合作,不仅是百度安全在移动安全领域的跨品牌合作,也是其AI赋能安全的突破性尝试。


未来AI攻防,决胜于“矛”与“盾”转换之间


AI用在黑客手里就是一把锋利无比的“矛”,顷刻间就可以制造出“永恒之蓝”那样席卷全球的灾难;而如果用在安全专家手里它就是一面异常坚固的“盾”,能够更快、更高效地防御各种安全威胁。在百度安全马杰看来,安全是一个动态的过程,当进入到某一个攻防的均衡状态的时候,其实相对是安全的。问题在于现在攻防双方在AI安全方面的研究都还比较薄弱,所以谁略微有一点进展,谁就有优势。“在AI研究相对薄弱的时候,双方研究越少,空白领域越多,攻击者越有优势,钻哪都能钻出一个洞来。到了攻守双方到了相对平衡状态时,云、管、端各个环节虽然问题多,但是都有解决方案,所以攻就不是那么容易了。”

image.png

AI时代,所有的行业面对的安全问题都是系统性的,企业如果再如以往孤立地站在自身信息安全、业务安全的角度谈安全防护,已经无法应对未来5-10年的安全风险与挑战。 “以往,安全厂商在整个生态链上是缺位的,导致设备厂商和安全厂商都处在艰难的状态。另一方面,生态碎片化导致安全成本急剧上升,需要各个环节协力避免。”百度首席安全科学家、百度安全实验室负责人韦韬对未来AI时代的攻防战进行了分析,并且指出生态联合的必要性与紧迫性。其实目前在一些领域,黑产已经开始使用深度学习技术破解图片校验码;利用用机器学习来刷帖,自动生成评论,甚至实现写作风格上的模仿。AI时代,安全攻防的“矛”与“盾”正快速转换。


应对未来AI时代的安全危险,需要生态系统性的防护,这是百度安全推动OASES联盟建立的主要原因所在。联合终端厂商、安全厂商、高校专家和科研机构的力量,通过专利共享、核心开源、标准驱动、产业共赢的全新安全生态设计,共同推动提升智能终端安全的快速响应及防护能力,共同应对AI时代将面临的各种安全问题。百度安全更是身先士卒将自适应内核漏洞热修复技术、OASP移动应用签名安全技术、Open RASP自适应安全方案、MesaLink内存安全技术等核心技术向联盟成员开放,以鼓励更多力量加入联盟安全生态,应对未来AI攻防挑战。


相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
3月前
|
云安全 人工智能 安全
阿里云欧阳欣:AI时代下的安全新范式
2024 云栖大会技术主论坛重磅发布
799 4
阿里云欧阳欣:AI时代下的安全新范式
|
4天前
|
机器学习/深度学习 人工智能 安全
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
近日,由中国计算机学会计算机视觉专委会主办的《打造大模型时代的可信AI》论坛顺利举行。论坛邀请了来自上海交通大学、中国科学技术大学等机构的专家,从立法、监管、前沿研究等多角度探讨AI安全治理。合合信息等企业展示了图像篡改检测等技术,助力AI向善发展。
35 11
CCF-CV企业交流会:打造大模型时代的可信AI,探索AI安全治理新路径
|
1月前
|
云安全 人工智能 自然语言处理
|
1月前
|
人工智能 安全 网络安全
揭秘!大模型私有化部署的全方位安全攻略与优化秘籍,让你的AI项目稳如磐石,数据安全无忧!
【10月更文挑战第24天】本文探讨了大模型私有化部署的安全性考量与优化策略,涵盖数据安全、防火墙配置、性能优化、容器化部署、模型更新和数据备份等方面,提供了实用的示例代码,旨在为企业提供全面的技术参考。
100 6
|
29天前
|
机器学习/深度学习 传感器 人工智能
智慧矿山AI安全监管方案
智慧矿山AI安全监管方案通过集成AI技术,实现了对矿山环境、设备和人员的全方位智能监控与管理。该方案利用高清摄像头、传感器等设备实时采集数据,通过AI算法进行智能分析,提前预测安全隐患,及时发出预警,有效提升矿山安全管理水平。方案涵盖顶板与边坡监测、设备运行监测、人员行为识别等多个方面,旨在构建一个高效、安全的智能化矿山环境。
|
2月前
|
人工智能 运维 安全
AI来袭,IT人的工作还安全吗?来自汽车行业CIO的探讨
AI来袭,IT人的工作还安全吗?来自汽车行业CIO的探讨
AI来袭,IT人的工作还安全吗?来自汽车行业CIO的探讨
|
3月前
|
云安全 人工智能 安全
|
3月前
|
人工智能 安全 开发者
由于安全风险,安全领导者考虑禁止用AI生成代码
由于安全风险,安全领导者考虑禁止用AI生成代码
|
4月前
|
人工智能 安全 网络安全
网络犯罪分子开始利用AI绕过现代电子邮件安全措施
网络犯罪分子开始利用AI绕过现代电子邮件安全措施
|
4月前
|
人工智能 安全 测试技术
下一篇
DataWorks