《中国人工智能学会通讯》——11.60 安全隐私感知的移动 App 推荐方法

简介: 本节书摘来自CCAI《中国人工智能学会通讯》一书中的第11章,第11.60节, 更多章节内容可以访问云栖社区“CCAI”公众号查看。

11.60 安全隐私感知的移动 App 推荐方法

由于移动 App 类型繁多、更新速度快,移动用户通常对其与安全隐私相关的功能了解甚少。为了改进用户体验,越来越多的移动 App 致力于为移动用户提供智能的个性化服务,例如基于地理位置的服务、社交分享服务等。而这些服务通常需要通过申请访问移动用户的各种私人数据来进行实现,例如读取用户当前的 GPS 坐标以及用户的通讯录列表等。这种对于移动用户私人数据的访问必然会使得App 存在潜在的安全隐私风险。举例来说,用户会担心他们的敏感地理信息(例如家庭住址、工作地点等)以及其他隐私信息(例如通讯录、短信内容等)被不可靠的移动 App 监视,并泄漏给不良的服务提供商。事实上,越来越多的移动 App 消费者开始担心他们移动设备中的安全隐私问题。因此,开发一个安全隐私感知的移动 App 推荐系统,对于整个移动 App 产业的健康发展具有重大意义。

在近年的文献中,有许多研究移动 App 安全和隐私以及推荐系统的研究发表。但是这些研究工作或者需要分析移动 App 的源代码,或者需要在 App运行时监视系统 API 的访问。事实上,这些方法在实际的面向 App 的服务场景中很难实现,因为高效和准确地分析一个 App 的恶意代码并不是一件容易的事情,同时移动用户也不希望一些安全软件在后台频繁的扫描他们的设备。另一方面,在移动 App推荐系统领域,现有工作通常只考虑了移动用户对于移动 App 流行度方面的偏好(例如评分等),而没有考虑到移动 App 可能存在的安全隐私风险。

基于上面的背景,我们提出了一种安全隐私感知的移动 App 推荐系统。其设计目标是让推荐系统能够自动地检测和评价移动 App 的安全隐私风险;同时,该推荐系统在推荐移动 App 时,可以实现推荐结果在 App 流行度,以及用户自身安全偏好上的折中。然而在设计这个移动 App 推荐系统时,我们发现存在两个重要的技术挑战。其一为如何结合大规模的移动 App 数据进行分析,从而有效地评价不同 App 的潜在安全隐私风险;其二为如何将移动 App 的流行度和移动用户不同的安全偏好进行整合,并产生最终的推荐结果。经过相关文献的分析,以及对于 App 的真实使用体验 , 我们认为移动App 的潜在安全隐私风险来源于其所使用的数据访问权限(Data Access Permission)。因此,我们首先提出一个基于 App 的数据访问权限分析的方法,检测 App 存在的潜在安全隐私风险。所提出的方法不需要预先定义一个固定的风险评估函数,只需进行基于 App-permission 二部图上的随机游走正则化(Random Walk Regularization)。该方法另一个特别之处在于可以整合相关领域知识作为先验信息,改进风险评估的效果。进一步,基于经济学中的现代投资组合理论(Modern Portfolio Theory) [15] ,我们设计了一个优化方法,实现 App 推荐结果中对于App 流行度和用户安全偏好的折中。特别地,为了提高推荐系统的效率,以及方便服务提供商对 App进行后台管理,我们设计了一种新的数据存储结构App 哈希树(App Hash Tree),对 App 进行索引和快速查询。图 4 展示了所提的安全隐私感知的推荐系统框架。

image

目录
打赏
0
0
0
0
325
分享
相关文章
AI战略丨协同共治,应对 AI 时代安全新挑战
人工智能行业的安全发展,需要整个行业“产学研用”等多方协同共治,才能实现人工智能的高质量发展目标。
从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧:安全可观测体系建设刻不容缓
唯有通过全行业的协同努力,加强整体、完善的网络安全可观测建设,才能为 AI 技术的创新和发展构建一个安全而稳固的环境。我们期盼并相信,在攻克这些网络安全难题之后,AI 创新将迎来更加安全、灿烂的未来。
AI 安全架构概述
AI 安全架构涵盖数据采集、模型训练、推理部署等阶段,确保安全性、隐私与合规。其核心组件包括数据层、模型层、推理层、应用层和运维层,针对数据安全威胁(如数据投毒)、模型窃取、对抗攻击及系统漏洞等风险,提出数据加密、对抗训练、联邦学习等防御策略,并强调开发前、开发中和部署后的最佳实践,以降低 AI 解决方案的安全风险。
152 13
基于DeepSeek R1改进的AI安全模型!MAI-DS-R1:微软开源AI安全卫士,敏感话题响应率高达99.3%
微软开源的MAI-DS-R1是基于DeepSeek R1改进的AI模型,通过后训练优化将敏感话题响应率提升至99.3%,同时将有害内容风险降低50%,保持原版推理能力并增强多语言支持。
44 3
基于DeepSeek R1改进的AI安全模型!MAI-DS-R1:微软开源AI安全卫士,敏感话题响应率高达99.3%
|
30天前
|
如何在苹果内购开发中获取App Store Connect API密钥-共享密钥理解内购安全-优雅草卓伊凡
如何在苹果内购开发中获取App Store Connect API密钥-共享密钥理解内购安全-优雅草卓伊凡
107 15
如何在苹果内购开发中获取App Store Connect API密钥-共享密钥理解内购安全-优雅草卓伊凡
(ERP系统查看DWG)MxCAD APP调用内部弹框的方法
MxCAD APP 二次开发提供了调用项目内部弹框的接口,以保持样式统一。用户需创建 `test_dialog` 文件夹并依次创建 `dialog.ts`、`dialog.vue` 和 `index.ts` 文件来注册、构建和渲染弹框。通过 `useDialogIsShow` 钩子函数控制弹框显示,并可在方法中直接调用 `dialog.showDialog()` 来控制弹框显隐。此外,还支持监听确认或取消事件获取数据,以及通过配置 `vite.config.ts` 解决样式冲突问题。最终在 `src/index.ts` 中引入相关文件即可实现弹框功能。
从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧:安全可观测体系建设刻不容缓
从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧:安全可观测体系建设刻不容缓
更低成本、更高效、更安全!阿里云与钉钉联合推出协同办公AI解决方案
阿里云与钉钉携手推出了全新的“钉钉·AI Stack一体机”,以“低成本、高安全、零门槛”为核心,为用户提供基于钉钉,从模型部署到全员落地的AI解决方案,开启智能化办公的“一键加速”。
184 1

热门文章

最新文章