AI时代:匿名不等于隐私保护

简介:

苹果在WWDC 2016的主题演讲中,讲到“差分隐私 (Differential Privacy)”这个密码学专有名词的时候,只有少数人意识到,苹果又走在了时代前列。

苹果独辟蹊径!“差分隐私”完爆匿名搜集数据

匿名电话、匿名信息、匿名用户••••••“匿名”仿佛已经成为隐私安全的防护栏。

然而在AI时代,匿名真的能保护隐私安全吗?来看看苹果怎么说!

在 WWDC 2016 的主题演讲中,当苹果讲到“差分隐私 (Differential Privacy)”这个密码学专有名词的时候,只有少数人意识到,苹果又走在了时代前列。

但是大部分中外观察者都认为,苹果为人工智能时代所做的努力不够,它依然是一家以硬件设备为核心的公司,对于为更大规模的用户提供服务不感兴趣(例如 iMessage 等软件均没有 Android 版),所以当人工智能技术得以真正崭露头角的时候,很可能难以追赶 Google、Facebook、亚马逊和微软

从这个方面来说,苹果确实不如Google、Facebook等行业巨头,但是苹果在解决人工智能时代的隐私保护难题上,又似乎比其他科技巨头走得更远。

在发展的需求方面,人工智能依赖于机器学习(深度学习)算法,而机器学习又需要大规模的训练数据,所以向用户搜集数据比以往更加重要。这也是搜集数据的原始意图。互联网时代,搜集数据主要以匿名为挡箭牌,但AI时代,匿名还可靠吗?

匿名VS差分隐私

有句话说得好,“内行看门道,外行看热闹”。互联网行业搜集信息的标准答案:一、收集用户信息是必要的,这样有助于改善产品或服务。二、我们是匿名收集用户信息的,并不保存任何用户的身份信息。有了这个挡箭牌,外行很容易被唬住,认为匿名就联系不到用户信息。

但是内行都应该清楚,匿名并不能完全保证用户的隐私安全。最经典的案例莫过于,Netflix 曾放出“经过匿名处理的”上亿条电影评分数据,“仅仅保留了每个用户对电影的评分和评分的时间戳”,希望通过竞赛的形式,找到更好的影片推荐算法。但是 2009年,德州大学的两位研究人员,通过这些匿名数据与公开的IMDB数据做对比,成功将匿名数据与具体的用户对应了起来。Netflix 不得不取消了,这项原计划每年举行的竞赛。

这样的匿名还有的玩?必将寿终正寝啊!

这不,拯救AI时代隐私保护的高手出场,“差分隐私”通过苹果高调亮相!其实差分隐私不是苹果的首创,因为学者们已经就这个概念进行了多年的研究。但当苹果将它随着 iOS 10 一起发布后,差分隐私就将走进人们的视野里,帮助公司收集和分析不同来源的用户数据。

这项密码学前沿技术的基本原理,就是向包含个体信息的大量数据集里注入噪音(或者说扰动),通过算法来打乱个体用户数据,让任何人都不能凭此追踪到具体的某一名用户,但又可以允许机构成批分析数据以获得大规模的整体趋势。最终保证每个个体信息都无法泄露,同时这个数据集的统计学信息依然可以被外界分析。

这简直甩了“匿名”好几条街啊!苹果此举,可谓是不鸣则已,一鸣惊人。

差分隐私的未来前景如何?

差分隐私并不是某一项单独的技术,而是一种以避免在数据与特定个人之间建立联系为前提的数据处理方案。它允许数据以聚合的形式被分析,但同时还要将干扰注入那些数据中,使得处理数据的过程中个人隐私不会被侵害。

但是强调安全性是有代价的,在加入这些干扰因素之后,获取的信息就不会有那么清晰和准确了。在这个取舍之间,苹果毫不让人惊讶地选择了注重隐私。很明显,苹果遵守了注重隐私的承诺,利用自己独特的方式在AI大战中首次告捷!

苹果将成为第一个真正大规模使用这项“差分隐私 (Differential Privacy)”算法的公司。即便有些学者认为这项技术前景可期,还没有成熟到大规模商用的时候。但差分隐私的引入仍将会为我们带来更好的体验,让更多的人摆脱匿名的“欺骗”。


原文发布时间: 2016-06-22 08:41
本文作者: 刘惠
本文来自云栖社区合作伙伴镁客网,了解相关信息可以关注镁客网。
相关文章
|
人工智能 监控 算法
【AI 现况分析】AI 应用导致的隐私问题分析
【1月更文挑战第27天】【AI 现况分析】AI 应用导致的隐私问题分析
|
3月前
|
人工智能 边缘计算 运维
AI守护隐私?边缘计算设备的“护城河”原来可以这么建
AI守护隐私?边缘计算设备的“护城河”原来可以这么建
176 0
|
10月前
|
人工智能 监控 数据安全/隐私保护
AI视频监控在大型商场的隐私保护技术
为保障隐私合规,商场采取数据加密与匿名化处理,防止敏感信息泄露;同时通过透明性声明和合法授权,确保顾客知情并同意监控措施。技术手段包括加密算法保护、去除身份识别细节,并在显眼位置张贴隐私政策,采用电子屏幕、语音提示或二维码获取顾客同意,确保监控行为合法合规。
363 0
|
人工智能 安全 数据挖掘
AI大数据分析对安全隐私的保护
AI大数据分析对安全隐私的保护非常重要。随着大数据技术和人工智能的发展,个人和企业的数据越来越容易被收集和分析。这种数据分析可以为企业提供有价值的洞察和决策支持,但同时也带来了安全隐私的风险。
|
人工智能 自动驾驶 云计算
【通义】AI视界|谷歌大模型被盯上!欧盟最高隐私监管机构对PaLM2模型展开调查~
本文汇总了近24小时内科技领域的五大要闻:欧盟对谷歌PaLM2模型启动隐私合规调查;甲骨文推出Zettascale云计算集群,集成大量NVIDIA GPU强化计算力;红杉资本偏好AI应用投资而非模型构建;夸克新推智能助手CueMe,支持长达2万字内容生成;沃尔沃与NVIDIA合作,未来车型将采用后者先进芯片提升自动驾驶功能。以上内容由通义自动生成。
|
机器学习/深度学习 人工智能 安全
智能时代的隐私守护者:AI加密技术的崛起与挑战###
本文深入探讨了人工智能(AI)在数据加密领域的创新应用,分析了AI如何增强数据安全性,同时也指出了面临的挑战和未来发展趋势。通过具体案例分析,展现了AI加密技术在保护个人隐私与促进数据安全方面的潜力,为读者提供对未来智能时代隐私保护的深刻洞见。 ###
|
存储 边缘计算 人工智能
【边缘计算与AI】分析边缘计算在处理AI任务、优化响应速度和数据隐私保护方面的作用和潜力
边缘计算与AI的结合是当前技术发展的重要趋势,两者相互依存、相互促进,共同推动着数字化转型的深入发展。以下是对边缘计算与AI关系的详细分析
453 6
|
机器学习/深度学习 人工智能 算法
【AI伦理与社会责任】讨论人工智能在隐私保护、偏见消除、自动化对就业的影响等伦理和社会问题。
人工智能(AI)作为第四次产业革命的核心技术,在推动社会进步和经济发展的同时,也引发了一系列伦理和社会问题。以下从隐私保护、偏见消除以及自动化对就业的影响三个方面进行详细讨论。
603 2
|
机器学习/深度学习 人工智能 TensorFlow
AI Native应用中利用联邦学习保障隐私的模型微调实践
【8月更文第2天】随着人工智能技术的发展,越来越多的应用程序开始采用AI原生(AI Native)设计思路,即从一开始就将AI作为核心功能来构建软件和服务。然而,在AI Native应用中,数据隐私和安全性是不容忽视的重要问题。联邦学习(Federated Learning, FL)作为一种新兴的技术框架,为解决这一难题提供了有力的支持。它允许在多个客户端上训练机器学习模型,而无需直接传输原始数据到中心服务器,从而保护了用户的隐私。
440 1
|
存储 人工智能 安全
保障隐私的Elasticsearch AI搜索解决方案
【8月更文第28天】随着大数据和人工智能技术的发展,搜索引擎在日常生活中扮演着越来越重要的角色。然而,用户隐私保护成为了一个不容忽视的问题。本文将探讨如何在确保用户数据隐私的同时,利用Elasticsearch实现智能搜索功能。我们将介绍一种综合方案,该方案结合了加密技术、差分隐私、匿名化处理以及安全多方计算等方法,以保障用户数据的安全性
935 0

热门文章

最新文章