大模型时代,一定要来讨论下数据与隐私

简介: 大模型时代,一定要来讨论下数据与隐私


凭借大数据、大算力的「大力出奇迹」,各类大模型「智能涌现」,再一次诠释了「数据是新时代的石油」。然而AI 大模型是把双刃剑,随着 ChatGPT 等智能化工具产品的应用,暴露出的用户隐私泄漏、存储敏感信息、未授权访问等隐私安全问题也再次引发广泛关注。作为平衡数据流通与隐私安全的关键技术路径,隐私计算技术和产业迎来突破发展新动力。


由世界人工智能大会组委会办公室指导,蚂蚁集团、机器之心和隐语开源社区联合主办的 2023WAIC 数据要素与隐私计算高峰论坛将于 7 月 7 日上海世博会议中心举行,旨在打造每年一度的隐私计算领域高规格学术交流和产业创新合作平台,呈现隐私计算新理论、新技术、新成果,连通政产学研用各界,共探数据要素流通与安全的平衡点,助力数据要素市场体系建设,推动数字经济安全合规高质量发展。


本次活动学术与产业并重,设置主旨演讲、主题演讲、重磅发布、高端对话、前沿发布和圆桌对话等精彩活动模块,汇聚国内外研究机构和顶尖学者代表以及国内知名企业代表等 30+ 重磅嘉宾,从不同视角分享数据要素与隐私计算的研究与行业应用进展、趋势,深入讨论隐私计算技术如何助力数字经济规高质量发展,共探科技普惠之路。


云集顶尖学者,共建隐私计算学术生态


2021 年以来,WAIC 隐私计算学术交流会连续举办三届,从顶尖学者最新研究报告到新锐学者研究趋势,持续聚焦联邦学习、安全多方计算、可信执行环境、机密计算等关键技术领域,向业界分享隐私计算技术最新前沿研究与学术成果,致力营造繁荣的隐私计算学术生态。

今年的高峰论坛学术场同样邀请到众多顶尖学术嘉宾。ACM SIGSAC 副主席、IEEE Fellow 王晓峰,上海交通大学讲席教授、网络空间安全学院副院长刑朝平复旦大学教授、上海市数据科学重点实验室主任肖仰华上海交通大学教授、上海期智研究院首席科学家郁昱等专家学者,将结合数字经济发展和大模型时代趋势与挑战,分享分布式计算架构、区块链、多方安全计算等,探讨隐私计算研究新发展。


携手产业各方,探讨数据要素时代趋势


论坛行业场汇聚政产学研用各方代表,从政策深度解读、全球发展报告、行业标准讨论,到政府、金融、广告、零售等领域国内外优秀创新应用案例经验,呈现数据要素市场化背景下的隐私计算产业现状和发展趋势。


上海临港新片区跨境数据科技有限公司总经理李晶IEEE 副主席、董事、标准协会主席袁昱蚂蚁集团副总裁兼首席技术安全官韦韬上海交通大学教授、博士生导师夏虞斌,中国信通院云大所大数据与区块链部副主任闫树,Certik CTO 倪兆中和洞见科技 CTO 何浩等行业大咖,将带来「高站位、大视角」的数据要素市场发展分析,并围绕「互联互通、智能化、创新应用」等关键词分享观察与洞见。


三大核心发布,推出技术标准和开源基建


全球数据近年呈几何级增长,为了解决数据流通与数据安全的全球性行业难题,本次论坛将重磅发布 IEEE 首个「可信执行环境安全」国际标准 IEEE 2952-2023《Standard for Secure Computing Based on Trusted Execution Environment》,迈出探索数据跨境管理规范的重要一步。该标准由蚂蚁集团牵头制定,制定了基于可信执行环境(TEE)的安全计算系统的技术框架,从隔离性、保密性、兼容性、性能、可用性和安全性等方面定义了通用安全计算平台的技术要求,并指定了安全计算技术的用例和场景。为了更好地落地相关标准,各界代表还将进一步探讨「隐私计算标准如何更好推动产业发展」。


届时,还将重磅发布隐语开源框架 1.0 版本,共享 kuscia 隐私计算应用编排框架成果、推出面向隐私计算初学者的功能体验工具 MVP 部署包,推动隐私计算技术互联互通与易用性共建。


现场还将进行国内外首个开源的金融安全级商用 TEE 方案 HyperEnclave 国产 TEE 开源发布,持续加速数据安全领域前沿技术探索与落地应用。


论坛报名


本次活动开放线下专业观众席位,欢迎扫描下图二维码报名参会。如果您想与我们进一步交流或对大会有任何疑问,请添加机器之心小助手微信(id:13661489516),备注「数据要素与隐私计算高峰论坛」进行咨询。

目录
打赏
0
0
0
0
367
分享
相关文章
论文介绍:从黑盒生产语言模型中提取信息的模型窃取攻击
【2月更文挑战第22天】论文介绍:从黑盒生产语言模型中提取信息的模型窃取攻击
156 6
论文介绍:从黑盒生产语言模型中提取信息的模型窃取攻击
【Tied-Augment】卷出新花样:加强数据增强的有效性!从一篇顶刊论文中窥探的一些信息,
【Tied-Augment】卷出新花样:加强数据增强的有效性!从一篇顶刊论文中窥探的一些信息,
141 0
【Tied-Augment】卷出新花样:加强数据增强的有效性!从一篇顶刊论文中窥探的一些信息,
# 隐私计算实训营note#3 详解隐私计算框架及技术要点
这一讲的内容是介绍蚂蚁的SecretFlow框架[第3讲:详解隐私计算框架及技术要点](https://www.bilibili.com/video/BV1dJ4m1b7AX/)。
基于联邦学习的数据隐私保护机制在智能模型训练中的应用
【8月更文第15天】随着大数据和人工智能的发展,数据隐私保护成为了亟待解决的问题。传统的集中式机器学习方法需要将数据收集到一个中心服务器进行处理,这不仅增加了数据泄露的风险,还可能触犯相关的法律法规。联邦学习(Federated Learning, FL)作为一种新兴的分布式机器学习框架,允许终端设备直接在本地数据上训练模型,并仅将更新后的模型参数发送给中心服务器汇总,从而在不暴露原始数据的情况下实现模型训练。
346 0
现有的区块链隐私保护技术有哪些局限性
现有的区块链隐私技术在透明度与隐私平衡、技术复杂性、性能、可扩展性、成本、监管合规及用户教育上面临挑战。虽然ZKP和环签名等能增强隐私,但增加计算复杂性,降低交易效率,且可能加重网络拥堵。此外,高成本和监管难题也是待解问题。用户理解和使用不足进一步凸显了教育和意识培养的重要性。
社区供稿 | 封神榜团队揭秘大模型训练秘密:以数据为中心
近一年来,各种各样的开源和闭源的大语言模型,不断在多个中文英文的测试基准中刷新着记录。然而,大语言模型的开发仍然面临诸多挑战,比如从头开始训练大语言模型的高昂成本,以及继续预训练导致的灾难性遗忘等等。尽管许多研究致力于解决这些问题,但一个重要而且实际的限制是,许多研究过于追求扩大模型规模,没有全面分析和优化预训练数据在训练大语言模型过程中的使用。
第3讲笔记:详解隐私计算框架及技术要点
隐语架构是一个分层设计,支持不同技术路线,具有高内聚、低耦合特性,允许各层次的技术人员发挥所长。它包括产品层、算法层和计算层。产品层有SecretPad和SecretNote,提供轻量化安装和全栈产品,支持MPC、TEE等。算法层涉及PSI、PIR协议和SCQL,用于安全数据分析,屏蔽底层复杂性。计算层包含RayFed分布式调度框架和SPU密态计算核心,提供高性能密态计算能力和机器学习算法支持。
263 1
利用深度学习技术优化图像识别准确性网络堡垒的构建者:深入网络安全与信息保护策略
【5月更文挑战第28天】 随着人工智能的不断发展,图像识别作为其重要分支之一,在多个领域内得到了广泛应用。然而,识别准确性的提升一直是该领域的研究重点。本文通过引入深度学习技术,构建了一个多层次的卷积神经网络模型,用于提升图像识别的准确性。文中详细阐述了模型的结构设计、训练过程以及参数调优策略,并通过实验验证了所提出方法的有效性。结果表明,与传统图像识别方法相比,深度学习技术能显著提高识别精度,并具有较强的泛化能力。
|
10月前
|
隐私计算实训营 第三讲 详解隐私计算框架及技术要点
隐语架构包括产品、算法、计算、资源和硬件层。产品层关注可视化和模块化API,服务于集成商和研究人员。算法层涉及PSI/PIR、安全数据分析及联邦学习。计算层有混合编译调度、SPU、HEU、TEEU和YACL。资源层采用kuscia,基于K8s的隐私计算框架。硬件层未详述。互通互联提供黑盒和白盒模式,跨域管控实施三权分置、秘态存储和全栈审计。该架构设计便于集成和使用。
104 0
隐私计算实训营 第三讲 详解隐私计算框架及技术要点
大模型安全性评测技术
大模型安全性评测技术
688 1
大模型安全性评测技术
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等