RSA 2017:量子计算与AI安全都是炒作,代码无bug才是正事

简介:

 每一年,旧金山的RSA大会都会在其加密专项讨论环节中,吸引到全球最出色及最睿智的头脑,而其探讨核心也非常简单——摆脱一切热门及炒作性因素,集中精力考虑如何实现更出色、更简洁且更安全的编程成果。

 RSA 2017:量子计算与AI安全都是炒作,无bug代码才是正事

研讨小组各成员对于人工智能安全系统(尽管其已经在DARPA Cyber挑战赛中取得成功)的动向毫不关心,并表示目前探讨此类系统的可靠性还为时过早,同时警告称相当一部分此类设想将永远无法变为现实。

“我对于AI在安全领域的应用持怀疑态度,”麻省理工学院教授兼RSA三巨头中的“R” Ronald Rivest表示。“我们发现AI机器人的聊天表现已经成为像去年总统大选一样热门但无聊的议题。至少还要十到十五年,我们才会真正难以在一堆聊天机器人中发现真正的人类。”

而前RSA成员、现任魏兹曼研究所计算机科学教授Adi Shamir对于AI系统在安全领域的作用亦同样抱有怀疑。对此类设备进行训练可能带来一些有趣的问题。

“十五年之后,如果我们将全部数据都交给AI系统打理,其可能会认为为了保护互联网,最好是将其彻底毁灭,”他打趣道。“互联网本身是无可挽救的我们必须找到更理想的起点。”

一部分AI系统也许确实能够用于IT防御,Shamir坦言,这是因为未来的计算机将能够处理规模更大的数据集并检查其中的异常状况。然而大家仍然需要人为介入以发现零漏洞以及与之相关的攻击行为。

Shamir同样对量子计算系统与量子加密技术表达了不屑,他表示这些“不在我的考虑范围内”。他更关心如何利用大规模计算来破解现有加密算法。

伍斯特理工学院网络安全政策教授Susan Landau则表示她对量子计算系统相当担忧。目前行业在利用量子计算能力建立防御性算法方面缺少足够的研究,她坚持认为这很可能成为安全领域的一大致命短板。

与此同时,公钥加密机制发明者之一Whitfield Diffie指出,目前安全业界面临的问题在于,各类潜在风险绝不可能被AI或者量子技术一股脑奇迹般地解决。相反,行业内需要重新回归基础,他建议称。

“如果能够将投入到防火墙及反病毒软件等交互式安全方案的资源用于改进设备的逻辑功能并显著提升编程质量,我们将能够得到更好的结果,”Diffie总结称。


原文发布时间为: 2017年2月16日

本文作者:孙博

本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。

目录
打赏
0
0
0
0
192
分享
相关文章
基于DeepSeek R1改进的AI安全模型!MAI-DS-R1:微软开源AI安全卫士,敏感话题响应率高达99.3%
微软开源的MAI-DS-R1是基于DeepSeek R1改进的AI模型,通过后训练优化将敏感话题响应率提升至99.3%,同时将有害内容风险降低50%,保持原版推理能力并增强多语言支持。
63 3
基于DeepSeek R1改进的AI安全模型!MAI-DS-R1:微软开源AI安全卫士,敏感话题响应率高达99.3%
AI时代下的代理IP新机遇:解锁数据、安全与效率的隐形密码
在AI浪潮推动下,代理IP从辅助工具升级为数据采集与传输的核心基础设施。它突破地域限制、规避反爬机制,助力AI模型训练效率提升;通过智能路由和协议优化,实现高效稳定的数据传输;同时满足隐私保护与合规需求。在电商、金融、内容创作等领域,代理IP已成为不可或缺的效率与安全护航者。未来,智能化、合规化、全球化将成为其发展关键趋势。
34 0
AI战略丨协同共治,应对 AI 时代安全新挑战
人工智能行业的安全发展,需要整个行业“产学研用”等多方协同共治,才能实现人工智能的高质量发展目标。
从大规模恶意攻击 DeepSeek 事件看 AI 创新隐忧:安全可观测体系建设刻不容缓
唯有通过全行业的协同努力,加强整体、完善的网络安全可观测建设,才能为 AI 技术的创新和发展构建一个安全而稳固的环境。我们期盼并相信,在攻克这些网络安全难题之后,AI 创新将迎来更加安全、灿烂的未来。
更低成本、更高效、更安全!阿里云与钉钉联合推出协同办公AI解决方案
阿里云与钉钉携手推出了全新的“钉钉·AI Stack一体机”,以“低成本、高安全、零门槛”为核心,为用户提供基于钉钉,从模型部署到全员落地的AI解决方案,开启智能化办公的“一键加速”。
188 1
AI 安全架构概述
AI 安全架构涵盖数据采集、模型训练、推理部署等阶段,确保安全性、隐私与合规。其核心组件包括数据层、模型层、推理层、应用层和运维层,针对数据安全威胁(如数据投毒)、模型窃取、对抗攻击及系统漏洞等风险,提出数据加密、对抗训练、联邦学习等防御策略,并强调开发前、开发中和部署后的最佳实践,以降低 AI 解决方案的安全风险。
154 13
AI 解决方案的安全控制设计与实施
AI 解决方案的安全控制设计与实施涵盖数据安全、模型安全、系统安全及合规治理四大领域。通过数据加密、访问控制、差分隐私等手段保障数据安全;采用对抗训练、联邦学习确保模型安全;利用容器化部署、可信执行环境维护系统安全;并遵循 GDPR 等法规,进行红队测试和应急响应,确保 AI 全生命周期的安全性与合规性。
AI大模型安全风险和应对方案
AI大模型面临核心安全问题,包括模型内在风险(如欺骗性对齐、不可解释性和模型幻觉)、外部攻击面扩大(如API漏洞、数据泄露和对抗性攻击)及生成内容滥用(如深度伪造和虚假信息)。应对方案涵盖技术防御与优化、全生命周期管理、治理与行业协同及用户教育。未来需关注动态风险适应、跨领域协同和量子安全预研,构建“技术+管理+法律”三位一体的防护体系,推动AI安全发展。
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等