如何防范人工智能、大数据、区块链、云计算的技术风险?

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

如何防范人工智能、大数据、区块链、云计算的技术风险?

近期京东集团发布了2017年第二季度业绩。除了京东集团的业绩情况,还值得注意的一点是,京东金融重组已于 2017年6月30日 完成交割,京东金融的财务数据将不再纳入京东集团的合并财务报表。

京东金融于2013年10月开始独立运营。经历一段时间技术储备和锤炼后,京东金融剑指更广阔的金融科技市场,以期向金融业输出自身技术,直接厮杀于这个巨大而竞争激烈的Techfin市场。

众所周知,人工智能、大数据、区块链、云计算这四项技术是Techfin市场中的顶梁柱。近日京东金融研究院发布了《2017金融科技报告——行业发展与法律前沿》(以下简称“报告”),今天将从技术风险与防范角度带来报告精彩内容!

云计算技术风险与防范

美国国家标准技术研究院 (NIST) 关于云计算的定义是 : “云计算是一种按使用量付费的模式,这种模式提供可用的、 便捷的、按需的网络访问,进入可配置的计算资源共享池 ( 资源包括网络、服务器、存储、应用软件、服务等 ) ,这些资源能够被快速提供,只需投入很少的管理工作,或与服务供应商进行很少的交互。”

“云计算”概念产生于谷歌和 IBM 等大型互联网公司处理海量数据的实践。2006 年 Google 首席执行官埃里克 · 施密特 (Eric Schmidt) 在搜索引擎大会首次提出 “云计算”的概念。

云计算面临的技术挑战

利用云计算解决海量异构信息处理和多样化复杂应用的整合问题,成为众多金融机构的选择,但这一方式也给金融 行业以及金融监管带来挑战。第一层面的挑战基于“云计算”本身,其自带属性易发生风险;第二层面的挑战基于“云计算”与金融的结合所产生的更为明显的集聚性风险。

云计算的基础性风险

数据存取缺乏控制或不易取用,是造成金融机构及政府不敢贸然采用云方案的主要原因。云安全联盟 ( Cloud Security Alliance ,CSA) 定义了云计算七个方面的主要风险:数据损害、共享技术的议题、窃取账户及服务;危险的局内人;滥用云计算;不安全的程序接口与其他未知风险

基于云环境下的金融信息系统的安全性风险

对于金融企业的基础设施而言,物理安全十分重要。云计算环境下的大部分金融系统往往需要在浏览器内访问客户 端,网络服务器成为其沟通的纽带和桥梁。

基础的金融信息风险常涉及两个方面: 一是金融内部人员的滥用导致金融资产损失; 二是金融设施的缺陷使部分金融业务陷入中断。 云计算下网络金融系统最大的安全隐患在于病毒或木马的侵袭。网络服务器未受到有效保护,一旦遭到病毒入侵,网络数据就会丢失,云计算环境下的金融服务体系,因其具有特殊的分布性,针对其中的敏感数据,必须采取针对性的保护措施。

云计算风险防控政策建议

基础性风险防控建议

企业及政府对是否导入云计算的考虑集中在云计算的风险控制上,在规划导入云技术及云外包服务前,必须先考虑相 关风险是否可被管控。在云环境中制作或转移数据时,用户必须将数据分类,分析其安全需求,并定义云服务商应如何存储或传递那些数据。

此外,数据安全等级的分类和定义,应依据云服务商所定的安全标准来进行。

云计算环境下金融系统风险防范建议

在金融系统的应用过程中注重金融信息安全评估,在发现金融系统的安全隐患时及时修复。有效控制金融信息,制定 安全的金融系统策略和科学决策,保证系统的完整性和可靠性,重视金融信息管控治理。

  • 注重金融信息安全处理
  • 加强金融信息安全评估
  • 重视金融信息管控治理
  • 大数据技术风险与防范
  • 大数据面临的风险

数据窃取

大数据采用云端存储处理海量数据,对数据的管理较为分散,对用户进行数据处理的场所无法控制,难以区分合 法用户与非法用户,容易导致非法用户入侵,窃取重要信息,在网络空间,大数据更容易成为攻击目标。

非法添加和篡改分析结果

黑 客入侵大数据系统,非法添加和篡改分析结果,可能对金融机构以及个人甚至政府的决策造成干扰。

个人信息泄露

面临用户移动客户端安全管理和个人金融隐私信息保护的双重安全挑战,企业较难在安全性与便利性之间达成 平衡。

数据存储安全

“数据大集中”在中国金融业获得广泛认可。一些大型券商和银行纷纷建设数据种子作为金融服务的核心和基 础。大数据对数据存储的物理安全性、多副本性要求较高。一方面各类复杂数据的集中存储易出现存储混乱,造 成安全管理违规。另一方面安全防护手段的更新升级速度无法跟上数据量的非线性增长,大数据安全防护容易出现漏洞。

大数据风险防控政策建议

建立大数据金融系统

大数据金融生态系统是指金融大数据与从事大数据金融活动的个人、家庭、厂商、政府、非政府组织等社会行为体之间 共同形成的动态系统整体。

大数据金融系统可用下图表示:

各主体在从事金融交易活动时会产生海量金融大数据,这种大数据呈几何增长,构建海量金融大数据与大数据金融活 动相互影响的大数据金融生态系统非常重要。加强对系统内不法行为的规制,杜绝信息篡改、窃取,保护个人隐私,促 进信息流的良性循环,保证数据的真实可靠。引入信用系统、评级系统等,强化金融大数据系统的安全性和可靠性。

规范数据提取及交易程序

一方面,明确收集大数据主体。大数据的产生包括两个渠道,一是来自法律授权收集,二是公民使用网络设备自动形成 的信息记录。两种信息源头的信息混杂在一起,形成更为精准、私密的信息。针对此类信息的收集,目前无法做到程序化和模板化,只能秉持两个基本原则:利益原则和知情与许可原则。

另一方面,明晰数据交易主体。大数据是静态的提取与存储过程,也是动态的交易过程。在金融领域,不论是个人信 息、企业信息还是政府信息都非常重要,应严格审查和审批参与大数据交易的主体及其掌握的信息,从信息供给层面予以规范。

  • 人工智能技术风险与防范
  • 人工智能发展中面临的风险
  • 用户隐私被泄露

人工智能的背后,是局域大数据及智能算法的继续升级,人工智能系统通常具有记忆功能,通过收集、统计、分析 用户的数据不断提升自己的智能型。如果被黑客入侵,用户隐私可能被泄露,轻则用户信息被不法分子掌握,重 则危害用户财产安全甚至人身安全。

故障排解和行为监管成本急速上升

人工智能自身的负载性及系统风险性的增加导致故障排解成本将大幅度提升。在现有法律监管体系下,对机器 及运行程序故障造成的损害,难以有效界定责任主体及责任份额。

技术面临失控风险

人工智能在短期内的影响取决于谁来控制,长期影响取决于它是否受到控制。一旦应用环境和数据脱离用户的 可控范围,尚无技术避开人工智能失控带来的风险。

人工智能风险防控政策建议

加强访问控制和身份认证

人工智能的安全性很大程度上已超出人工智能用户的控制,开发者和使用者必须提供强有力的安全防御支持,将人工 智能与网络安全防御技术相结合,使用密码技术来保证机密数据的安全,统一用户身份管理、授权管理、访问管理,以 增强信息安全性。

出台审计措施和相关的监管措施

需要采取必要的验证和升级措施,出台相关评价方案对人工智能软、硬件环境进行严格评价,同时对服务器、客户 端、软件配置、负荷管理等进行实时监控和安全测试,及时发现系统故障及受感染恶意控制的情况,一旦出现问题立 即报警。

不能过度依赖人工智能

基于深度学习的人工智能将会创造更多价值是发展趋势,它能为人类服务甚至取代某些工作,但用户不应过度依赖人 工智能,仍要掌握安全主动权,做好保护措施,通过技术、服务和管理相互配合的方式,形成共同遵循的安全规范,营造 保障人工智能健康发展的可信环境。

区块链技术风险与防范

区块链面临的风险

网络公开不设防可能导致信息源复杂且不可控

所有数据都在公网上传输,所有加入网络的节点都可无障碍地链接其他节点和接受其他节点的链接,网络层没有身份验证或其他防护措施。

去中心化不利于合法隐私的保护

共有链上交易数据全网可见,公众可跟踪交易,不利于个人或机构的合法隐私保护。

容易遭受算力攻击以及道德风险

工作量证明型的区块链解决方案,面临 51% 算力攻击问题。随着算力的逐渐集中,客观上掌握超过 50% 算力的 组织会出现,若不改进,会逐渐演变为弱肉强食的丛林法则。

区块链内部容量问题难以掌控

区块链处于发展初级阶段,大规模实际应用面临很多困难。现有计算机系统,存在区块容量不足、信息批量存储、 验证较难等问题,若处理不善,会影响到整个区块链系统的稳定,甚至给其他金融系统造成很强的负外部性。

区块链标准不统一

“得标准者得天下”已成为业界共识。中国的标准化还没有真正起步,表现在两方面:一是区块链技术不够标准 化,二是区块链标准需要面对不同层面的矛盾:诸多标准竞争可能带来市场混乱。

区块链带来的安全风险

“安全”是金融业的命脉,区块链与金融业的逐渐融合,将面临很大的安全挑战。

首先,去中心化的运作机制一定 程度上削弱了中央政府对金融的控制,可能危及国家金融安全。 其次,用户匿名化的操作在发生意外时(如密码丢失等)相关的权益得不到相应的保护; 再次,客户端蕴含风险,既可能遭受黑客攻击,也可能因为系统操作原 因导致丢失。

区块链风险防范对策

立足于微观层面的风险点防控

1. 网络公开不设防是区块链的一大属性,这要求更高的私密性并谨慎控制网络链接。对安全性较高的行业,宜采用专 线接入区块链网络,对接入的链接进行身份验证,排除未经授权的节点接入以免数据泄露,防止网络攻击。

2. 隐私泄露是互联网企业面临的普遍问题,对该类风险的应对策略是:第一,由认证机构代理用户在区块链上进行交 易,用户资料和个人行为不进入区块链;第二,不采用全网广播方式,而是将交易数据的传输限制在正在进行相关交 易的节点之间;第三,对用户数据的访问采用权限控制,持有密钥的访问者才能解密和访问数据;第四,采用隐私保 护算法,规避隐私暴露。

3. 针对算力攻击,采用算法和现实约束相结合的方式,例如用资产抵押、法律和监管手段联合管控。

4. 加快金融区块链技术应用的研发。一方面,推动国内金融机构联合学术界、产业界加强密码学等学科研究,在加密技 术和网络安全等领域集体发力;另一方面,适度增加对光纤等网络基础设施的投入,构建稳定、安全的主干信息网络, 提升网络宽带,满足区块链技术分布式记账方式可能带来的网络容量需求的提升。

立足于宏观层面的系统内部监管

针对现有区块链技术的属性,构建一套系统安全的监管体系,整体提升区块链系统的安全性能。

  1. 物理安全角度。根据具体业务的监管要求不同,采用不同方法对运行区块链系统的物理网络和主机进行保护。
  2. 数据安全角度。区块链节点和节点之间的数据交换,原则上不应明文传输,数据提供方应采用严格的访问权限控制 措施,严格评估数据的敏感程度、安全级别,决定数据是否发送到区块链,是否进行数据脱敏。
  3. 应用系统安全。从身份认证、权限体系、交易规则、防欺诈策略等方面着手,参与运行的相关人员、交易节点、交易数 据应事前受控、事后审计。
  4. 密钥安全。对区块链节点之间的通行数据加密,密钥不应存储在同一个节点上,应通过加密机将私钥妥善保管。
  5. 风险机制角度。在系统的网络层、应用系统及交易频度层面,应有周密的检测措施,对任何可疑操作进行告警、记录、 核查。 


本文作者:伊莉

来源:51CTO

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
8天前
|
机器学习/深度学习 人工智能 数据可视化
生成AI的两大范式:扩散模型与Flow Matching的理论基础与技术比较
本文系统对比了扩散模型与Flow Matching两种生成模型技术。扩散模型通过逐步添加噪声再逆转过程生成数据,类比为沙堡的侵蚀与重建;Flow Matching构建分布间连续路径的速度场,如同矢量导航系统。两者在数学原理、训练动态及应用上各有优劣:扩散模型适合复杂数据,Flow Matching采样效率更高。文章结合实例解析两者的差异与联系,并探讨其在图像、音频等领域的实际应用,为生成建模提供了全面视角。
63 1
|
7天前
|
传感器 人工智能 物联网
健康监测设备的技术革命:AI+物联网如何让你随时掌握健康数据?
健康监测设备的技术革命:AI+物联网如何让你随时掌握健康数据?
77 19
|
11天前
|
存储 分布式计算 Hadoop
从“笨重大象”到“敏捷火花”:Hadoop与Spark的大数据技术进化之路
从“笨重大象”到“敏捷火花”:Hadoop与Spark的大数据技术进化之路
128 79
|
4天前
|
人工智能 API 语音技术
HarmonyOS Next~鸿蒙AI功能开发:Core Speech Kit与Core Vision Kit的技术解析与实践
本文深入解析鸿蒙操作系统(HarmonyOS)中的Core Speech Kit与Core Vision Kit,探讨其在AI功能开发中的核心能力与实践方法。Core Speech Kit聚焦语音交互,提供语音识别、合成等功能,支持多场景应用;Core Vision Kit专注视觉处理,涵盖人脸检测、OCR等技术。文章还分析了两者的协同应用及生态发展趋势,展望未来AI技术与鸿蒙系统结合带来的智能交互新阶段。
54 31
|
17天前
|
机器学习/深度学习 人工智能 自然语言处理
QwQ-32B为襄阳职业技术学院拥抱强化学习的AI力量
信息技术学院大数据专业学生团队与UNHub平台合作,利用QwQ-32B模型开启AI教育新范式。通过强化学习驱动,构建职业教育智能化实践平台,支持从算法开发到应用的全链路教学。QwQ-32B具备320亿参数,优化数学、编程及复杂逻辑任务处理能力,提供智能教学助手、科研加速器和产教融合桥梁等应用场景,推动职业教育模式创新。项目已进入关键训练阶段,计划于2025年夏季上线公测。
79 10
QwQ-32B为襄阳职业技术学院拥抱强化学习的AI力量
|
4天前
|
人工智能 监控 算法
Python下的毫秒级延迟RTSP|RTMP播放器技术探究和AI视觉算法对接
本文深入解析了基于Python实现的RTSP/RTMP播放器,探讨其代码结构、实现原理及优化策略。播放器通过大牛直播SDK提供的接口,支持低延迟播放,适用于实时监控、视频会议和智能分析等场景。文章详细介绍了播放控制、硬件解码、录像与截图功能,并分析了回调机制和UI设计。此外,还讨论了性能优化方法(如硬件加速、异步处理)和功能扩展(如音量调节、多格式支持)。针对AI视觉算法对接,文章提供了YUV/RGB数据处理示例,便于开发者在Python环境下进行算法集成。最终,播放器凭借低延迟、高兼容性和灵活扩展性,为实时交互场景提供了高效解决方案。
|
15天前
|
存储 传感器 供应链
大数据与区块链——天作之合的技术搭档
大数据与区块链——天作之合的技术搭档
43 17
|
10天前
|
机器学习/深度学习 人工智能 自然语言处理
AI技术如何重塑客服系统?解析合力亿捷AI智能客服系统实践案例
本文探讨了人工智能技术在客服系统中的应用,涵盖技术架构、关键技术和优化策略。通过感知层、认知层、决策层和执行层的协同工作,结合自然语言处理、知识库构建和多模态交互技术,合力亿捷客服系统实现了智能化服务。文章还提出了用户体验优化、服务质量提升和系统性能改进的方法,并展望了未来发展方向,强调其在客户服务领域的核心价值与潜力。
51 6
|
21天前
|
安全 大数据 虚拟化
随着云计算和大数据技术的发展,Hyper-V在虚拟化领域的地位日益凸显
随着云计算和大数据技术的发展,Hyper-V在虚拟化领域的地位日益凸显。作为Windows Server的核心组件,Hyper-V具备卓越的技术性能,支持高可用性、动态迁移等功能,确保虚拟机稳定高效运行。它与Windows深度集成,管理便捷,支持远程管理和自动化部署,降低管理成本。内置防火墙、RBAC等安全功能,提供全方位安全保障。作为内置组件,Hyper-V无需额外购买软件,降低成本。其广泛的生态系统支持和持续增长的市场需求,使其成为企业虚拟化解决方案的首选。
|
3天前
|
传感器 数据采集 机器学习/深度学习
AI战略丨从探索到突破,全面解读智实融合关键技术
关键技术的发展水平直接决定了智实融合的深度与广度,是其应用进一步拓展的关键因素。