如何防范人工智能、大数据、区块链、云计算的技术风险?

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介:

如何防范人工智能、大数据、区块链、云计算的技术风险?

近期京东集团发布了2017年第二季度业绩。除了京东集团的业绩情况,还值得注意的一点是,京东金融重组已于 2017年6月30日 完成交割,京东金融的财务数据将不再纳入京东集团的合并财务报表。

京东金融于2013年10月开始独立运营。经历一段时间技术储备和锤炼后,京东金融剑指更广阔的金融科技市场,以期向金融业输出自身技术,直接厮杀于这个巨大而竞争激烈的Techfin市场。

众所周知,人工智能、大数据、区块链、云计算这四项技术是Techfin市场中的顶梁柱。近日京东金融研究院发布了《2017金融科技报告——行业发展与法律前沿》(以下简称“报告”),今天将从技术风险与防范角度带来报告精彩内容!

云计算技术风险与防范

美国国家标准技术研究院 (NIST) 关于云计算的定义是 : “云计算是一种按使用量付费的模式,这种模式提供可用的、 便捷的、按需的网络访问,进入可配置的计算资源共享池 ( 资源包括网络、服务器、存储、应用软件、服务等 ) ,这些资源能够被快速提供,只需投入很少的管理工作,或与服务供应商进行很少的交互。”

“云计算”概念产生于谷歌和 IBM 等大型互联网公司处理海量数据的实践。2006 年 Google 首席执行官埃里克 · 施密特 (Eric Schmidt) 在搜索引擎大会首次提出 “云计算”的概念。

云计算面临的技术挑战

利用云计算解决海量异构信息处理和多样化复杂应用的整合问题,成为众多金融机构的选择,但这一方式也给金融 行业以及金融监管带来挑战。第一层面的挑战基于“云计算”本身,其自带属性易发生风险;第二层面的挑战基于“云计算”与金融的结合所产生的更为明显的集聚性风险。

云计算的基础性风险

数据存取缺乏控制或不易取用,是造成金融机构及政府不敢贸然采用云方案的主要原因。云安全联盟 ( Cloud Security Alliance ,CSA) 定义了云计算七个方面的主要风险:数据损害、共享技术的议题、窃取账户及服务;危险的局内人;滥用云计算;不安全的程序接口与其他未知风险

基于云环境下的金融信息系统的安全性风险

对于金融企业的基础设施而言,物理安全十分重要。云计算环境下的大部分金融系统往往需要在浏览器内访问客户 端,网络服务器成为其沟通的纽带和桥梁。

基础的金融信息风险常涉及两个方面: 一是金融内部人员的滥用导致金融资产损失; 二是金融设施的缺陷使部分金融业务陷入中断。 云计算下网络金融系统最大的安全隐患在于病毒或木马的侵袭。网络服务器未受到有效保护,一旦遭到病毒入侵,网络数据就会丢失,云计算环境下的金融服务体系,因其具有特殊的分布性,针对其中的敏感数据,必须采取针对性的保护措施。

云计算风险防控政策建议

基础性风险防控建议

企业及政府对是否导入云计算的考虑集中在云计算的风险控制上,在规划导入云技术及云外包服务前,必须先考虑相 关风险是否可被管控。在云环境中制作或转移数据时,用户必须将数据分类,分析其安全需求,并定义云服务商应如何存储或传递那些数据。

此外,数据安全等级的分类和定义,应依据云服务商所定的安全标准来进行。

云计算环境下金融系统风险防范建议

在金融系统的应用过程中注重金融信息安全评估,在发现金融系统的安全隐患时及时修复。有效控制金融信息,制定 安全的金融系统策略和科学决策,保证系统的完整性和可靠性,重视金融信息管控治理。

  • 注重金融信息安全处理
  • 加强金融信息安全评估
  • 重视金融信息管控治理
  • 大数据技术风险与防范
  • 大数据面临的风险

数据窃取

大数据采用云端存储处理海量数据,对数据的管理较为分散,对用户进行数据处理的场所无法控制,难以区分合 法用户与非法用户,容易导致非法用户入侵,窃取重要信息,在网络空间,大数据更容易成为攻击目标。

非法添加和篡改分析结果

黑 客入侵大数据系统,非法添加和篡改分析结果,可能对金融机构以及个人甚至政府的决策造成干扰。

个人信息泄露

面临用户移动客户端安全管理和个人金融隐私信息保护的双重安全挑战,企业较难在安全性与便利性之间达成 平衡。

数据存储安全

“数据大集中”在中国金融业获得广泛认可。一些大型券商和银行纷纷建设数据种子作为金融服务的核心和基 础。大数据对数据存储的物理安全性、多副本性要求较高。一方面各类复杂数据的集中存储易出现存储混乱,造 成安全管理违规。另一方面安全防护手段的更新升级速度无法跟上数据量的非线性增长,大数据安全防护容易出现漏洞。

大数据风险防控政策建议

建立大数据金融系统

大数据金融生态系统是指金融大数据与从事大数据金融活动的个人、家庭、厂商、政府、非政府组织等社会行为体之间 共同形成的动态系统整体。

大数据金融系统可用下图表示:

各主体在从事金融交易活动时会产生海量金融大数据,这种大数据呈几何增长,构建海量金融大数据与大数据金融活 动相互影响的大数据金融生态系统非常重要。加强对系统内不法行为的规制,杜绝信息篡改、窃取,保护个人隐私,促 进信息流的良性循环,保证数据的真实可靠。引入信用系统、评级系统等,强化金融大数据系统的安全性和可靠性。

规范数据提取及交易程序

一方面,明确收集大数据主体。大数据的产生包括两个渠道,一是来自法律授权收集,二是公民使用网络设备自动形成 的信息记录。两种信息源头的信息混杂在一起,形成更为精准、私密的信息。针对此类信息的收集,目前无法做到程序化和模板化,只能秉持两个基本原则:利益原则和知情与许可原则。

另一方面,明晰数据交易主体。大数据是静态的提取与存储过程,也是动态的交易过程。在金融领域,不论是个人信 息、企业信息还是政府信息都非常重要,应严格审查和审批参与大数据交易的主体及其掌握的信息,从信息供给层面予以规范。

  • 人工智能技术风险与防范
  • 人工智能发展中面临的风险
  • 用户隐私被泄露

人工智能的背后,是局域大数据及智能算法的继续升级,人工智能系统通常具有记忆功能,通过收集、统计、分析 用户的数据不断提升自己的智能型。如果被黑客入侵,用户隐私可能被泄露,轻则用户信息被不法分子掌握,重 则危害用户财产安全甚至人身安全。

故障排解和行为监管成本急速上升

人工智能自身的负载性及系统风险性的增加导致故障排解成本将大幅度提升。在现有法律监管体系下,对机器 及运行程序故障造成的损害,难以有效界定责任主体及责任份额。

技术面临失控风险

人工智能在短期内的影响取决于谁来控制,长期影响取决于它是否受到控制。一旦应用环境和数据脱离用户的 可控范围,尚无技术避开人工智能失控带来的风险。

人工智能风险防控政策建议

加强访问控制和身份认证

人工智能的安全性很大程度上已超出人工智能用户的控制,开发者和使用者必须提供强有力的安全防御支持,将人工 智能与网络安全防御技术相结合,使用密码技术来保证机密数据的安全,统一用户身份管理、授权管理、访问管理,以 增强信息安全性。

出台审计措施和相关的监管措施

需要采取必要的验证和升级措施,出台相关评价方案对人工智能软、硬件环境进行严格评价,同时对服务器、客户 端、软件配置、负荷管理等进行实时监控和安全测试,及时发现系统故障及受感染恶意控制的情况,一旦出现问题立 即报警。

不能过度依赖人工智能

基于深度学习的人工智能将会创造更多价值是发展趋势,它能为人类服务甚至取代某些工作,但用户不应过度依赖人 工智能,仍要掌握安全主动权,做好保护措施,通过技术、服务和管理相互配合的方式,形成共同遵循的安全规范,营造 保障人工智能健康发展的可信环境。

区块链技术风险与防范

区块链面临的风险

网络公开不设防可能导致信息源复杂且不可控

所有数据都在公网上传输,所有加入网络的节点都可无障碍地链接其他节点和接受其他节点的链接,网络层没有身份验证或其他防护措施。

去中心化不利于合法隐私的保护

共有链上交易数据全网可见,公众可跟踪交易,不利于个人或机构的合法隐私保护。

容易遭受算力攻击以及道德风险

工作量证明型的区块链解决方案,面临 51% 算力攻击问题。随着算力的逐渐集中,客观上掌握超过 50% 算力的 组织会出现,若不改进,会逐渐演变为弱肉强食的丛林法则。

区块链内部容量问题难以掌控

区块链处于发展初级阶段,大规模实际应用面临很多困难。现有计算机系统,存在区块容量不足、信息批量存储、 验证较难等问题,若处理不善,会影响到整个区块链系统的稳定,甚至给其他金融系统造成很强的负外部性。

区块链标准不统一

“得标准者得天下”已成为业界共识。中国的标准化还没有真正起步,表现在两方面:一是区块链技术不够标准 化,二是区块链标准需要面对不同层面的矛盾:诸多标准竞争可能带来市场混乱。

区块链带来的安全风险

“安全”是金融业的命脉,区块链与金融业的逐渐融合,将面临很大的安全挑战。

首先,去中心化的运作机制一定 程度上削弱了中央政府对金融的控制,可能危及国家金融安全。 其次,用户匿名化的操作在发生意外时(如密码丢失等)相关的权益得不到相应的保护; 再次,客户端蕴含风险,既可能遭受黑客攻击,也可能因为系统操作原 因导致丢失。

区块链风险防范对策

立足于微观层面的风险点防控

1. 网络公开不设防是区块链的一大属性,这要求更高的私密性并谨慎控制网络链接。对安全性较高的行业,宜采用专 线接入区块链网络,对接入的链接进行身份验证,排除未经授权的节点接入以免数据泄露,防止网络攻击。

2. 隐私泄露是互联网企业面临的普遍问题,对该类风险的应对策略是:第一,由认证机构代理用户在区块链上进行交 易,用户资料和个人行为不进入区块链;第二,不采用全网广播方式,而是将交易数据的传输限制在正在进行相关交 易的节点之间;第三,对用户数据的访问采用权限控制,持有密钥的访问者才能解密和访问数据;第四,采用隐私保 护算法,规避隐私暴露。

3. 针对算力攻击,采用算法和现实约束相结合的方式,例如用资产抵押、法律和监管手段联合管控。

4. 加快金融区块链技术应用的研发。一方面,推动国内金融机构联合学术界、产业界加强密码学等学科研究,在加密技 术和网络安全等领域集体发力;另一方面,适度增加对光纤等网络基础设施的投入,构建稳定、安全的主干信息网络, 提升网络宽带,满足区块链技术分布式记账方式可能带来的网络容量需求的提升。

立足于宏观层面的系统内部监管

针对现有区块链技术的属性,构建一套系统安全的监管体系,整体提升区块链系统的安全性能。

  1. 物理安全角度。根据具体业务的监管要求不同,采用不同方法对运行区块链系统的物理网络和主机进行保护。
  2. 数据安全角度。区块链节点和节点之间的数据交换,原则上不应明文传输,数据提供方应采用严格的访问权限控制 措施,严格评估数据的敏感程度、安全级别,决定数据是否发送到区块链,是否进行数据脱敏。
  3. 应用系统安全。从身份认证、权限体系、交易规则、防欺诈策略等方面着手,参与运行的相关人员、交易节点、交易数 据应事前受控、事后审计。
  4. 密钥安全。对区块链节点之间的通行数据加密,密钥不应存储在同一个节点上,应通过加密机将私钥妥善保管。
  5. 风险机制角度。在系统的网络层、应用系统及交易频度层面,应有周密的检测措施,对任何可疑操作进行告警、记录、 核查。 


本文作者:伊莉

来源:51CTO

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
4天前
|
人工智能 达摩院 计算机视觉
SHMT:体验 AI 虚拟化妆!阿里巴巴达摩院推出自监督化妆转移技术
SHMT 是阿里达摩院与武汉理工等机构联合研发的自监督化妆转移技术,支持高效妆容迁移与动态对齐,适用于图像处理、虚拟试妆等多个领域。
33 9
SHMT:体验 AI 虚拟化妆!阿里巴巴达摩院推出自监督化妆转移技术
|
10天前
|
机器学习/深度学习 人工智能 分布式计算
我的阿里云社区年度总结报告:Python、人工智能与大数据领域的探索之旅
我的阿里云社区年度总结报告:Python、人工智能与大数据领域的探索之旅
87 35
|
8天前
|
供应链 算法 安全
探索区块链技术中的隐私保护机制
探索区块链技术中的隐私保护机制
55 27
|
3天前
|
存储 供应链 安全
区块链技术在选举中的应用:透明与安全的新时代
区块链技术在选举中的应用:透明与安全的新时代
29 16
|
9天前
|
人工智能 缓存 Ubuntu
AI+树莓派=阿里P8技术专家。模拟面试、学技术真的太香了 | 手把手教学
本课程由阿里P8技术专家分享,介绍如何使用树莓派和阿里云服务构建AI面试助手。通过模拟面试场景,讲解了Java中`==`与`equals`的区别,并演示了从硬件搭建、语音识别、AI Agent配置到代码实现的完整流程。项目利用树莓派作为核心,结合阿里云的实时语音识别、AI Agent和文字转语音服务,实现了一个能够回答面试问题的智能玩偶。课程展示了AI应用的简易构建过程,适合初学者学习和实践。
69 22
|
6天前
|
人工智能 Java 程序员
通义灵码AI编码助手和AI程序员背后的技术
通义灵码AI编码助手和AI程序员背后的技术,由通义实验室科学家黎槟华分享。内容涵盖三部分:1. 编码助手技术,包括构建优秀AI编码助手及代码生成补全;2. 相关的AI程序员技术,探讨AI程序员的优势、发展情况、评估方法及核心难点;3. 代码智能方向的展望,分析AI在软件开发中的角色转变,从辅助编程到成为开发主力,未来将由AI执行细节任务,开发者负责决策和审核,大幅提升开发效率。
71 12
|
8天前
|
人工智能 搜索推荐
AI视频技术的发展是否会影响原创内容的价值
AI视频技术的发展显著降低了视频制作的门槛与成本,自动完成剪辑、特效添加等繁琐工作,大大缩短创作时间。它提供个性化创意建议,帮助创作者突破传统思维,拓展创意边界。此外,AI技术使更多非专业人士也能参与视频创作,注入新活力与多样性,丰富了原创内容。总体而言,AI视频技术不仅提升了创作效率,还促进了视频内容的创新与多样化。
|
1天前
|
机器学习/深度学习 存储 人工智能
AI实践:智能工单系统的技术逻辑与应用
智能工单系统是企业服务管理的核心工具,通过多渠道接入、自然语言处理等技术,实现工单自动生成、分类和分配。它优化了客户服务流程,提高了效率与透明度,减少了运营成本,提升了客户满意度。系统还依托知识库和机器学习,持续改进处理策略,助力企业在竞争中脱颖而出。
14 5
|
22天前
|
数据采集 人工智能 运维
从企业级 RAG 到 AI Assistant,阿里云Elasticsearch AI 搜索技术实践
本文介绍了阿里云 Elasticsearch 推出的创新型 AI 搜索方案
149 3
从企业级 RAG 到 AI Assistant,阿里云Elasticsearch AI 搜索技术实践
|
5天前
|
机器学习/深度学习 人工智能 编译器
BladeDISC++:Dynamic Shape AI 编译器下的显存优化技术
本文介绍了阿里云 PAI 团队近期发布的 BladeDISC++项目,探讨在动态场景下如何优化深度学习训练任务的显存峰值,主要内容包括以下三个部分:Dynamic Shape 场景下显存优化的背景与挑战;BladeDISC++的创新解决方案;Llama2 模型的实验数据分析

热门文章

最新文章