云计算平台实践心得

简介:

这篇文章简单记录一下我的云计算平台实践,云计算这个概念,总是被不断的提起,在大三的时候就关注过一段时

间,但是当时一直停留在理论阶段,没有做什么实际的东西,所以就一直没有写任何关于云计算的东西,因为我一向是

先实践,然后总结,再写文章。大四前半段,带着我的团队把一个项目的二期开发做完,然后下半段先是考了一个烦人

的考试,然后才着手将我的云计算平台实践出来,平台的功能很少,因为只是自己做着玩,初衷是希望能够为学校实现

一个云存储平台的,统一学校的数据源,方便学校今后的网络建设和科研,为学校多做些贡献。但是学校手头也紧,公

费买个服务器都困难,只想安于现状。所以后来只能自己做着玩了,不能因为没有实际需求就不做了。

 

这个云存储平台是服务即平台模式的实践,提供WebServiceAPI供其他应用系统调用,实现了20个接口,因为只

是模拟用的,数据模型做了简化,只保留核心字段。架构基于Hadoop+Hbase+EJB,大二的时候学了EJB但一直没有实

践过,一是因为没有遇到必须用这个技术的项目;二是考虑到技术门槛,不方便后面的维护。实现平台过程中遇到一个数

据节点不能为0的错误,因为报错实在是不太明确,让我一直以为是配置文件的问题,困扰了一段时间,后来发现是关于

用户权限的linux间无密码互访有问题造成的,这个问题本身简单,但是因为报错不明确,误导了我的判断。

 

云计算技术还在发展中,随着很多公司的采用,已经趋于成熟。任何技术都需要通过实践来发现问题解决问题。目前

来看,云存储一定程度上可以取代关系型数据库,关于数据库事务和高级查询可以借由第三方组件实现。松散的数据结构

更加利于敏捷实践,数据模型的字段可以更灵活的变更,我的云存储平台数据就是把教务系统的一些关系型数据模型过渡

到基于键值对的松散结构中的。对于一些本身就具有映射关系的字段,甚至可以简化到一个键值对关系中来。把所有关系

型数据都打散成为松散数据,确实是很颠覆传统思维的。但是有的时候逆向思维正是解决瓶颈问题的办法,比如关系型数

据库很难低成本的做到在限定时间内从几TB的数据中,排序并拿出TOP50W的数据。

 

Hbase本身的一些机制,可以从分布式文件存储层面就为所有数据提供缓存,对于一次写入多次读取的数据效果尤其

显著。我虽然没有看过twitter的数据层实现,但是如果让我设计,我会把最占用存储空间的数据部分,也就是一次写入多

次读取的微博和评论内容部分写入NoSQL中,稳妥起见把其他对安全性要求高的隐私数据部分写入MySQL,但是我仍然

可以把常用字段也同步到NoSQL中去以便提高系统性能。这可以看做是云存储最常见的一种实践方式。云存储的另一种常

见实践则是基于文档化的分布式存储,把视频,图片,音乐,文件以键值对的形式存储,这些媒介的共同特点都是占用空

间大,一次上传,多次读取。这两者其实可以归为一类。即使是多次写入,少量读取的数据也可以实现一个数据缓冲层,

应对频繁变更,然后定时定量持久化数据。所以存取比重不会影响对云存储的使用,因此才有了我之前把关系型数据模型

完全转化到松散型的做法。

 

利用Hbase本身的一些设计特点可以让我们从松散表结构设计上提高系统的性能,比如family列相同的部分会在物理上

存储在更近的节点上,所以在从关系型到松散型过渡的时候,可以把family列设置为表名,把label子列设置为属性字段,

这样同一个表的数据可以在物理上更加紧凑,便于系统更快的取出同一数据模型的相关属性。family的定义和修改需要对

Hbase作类似于传统数据库的数据定义,而label列则不需要定义直接可以使用,通过这个特性可以使表结构字段动态化,从

而在数据持久层面实现动态化。对于功能独立的本身具有键值映射关系的属性则可以不使用上述的做法,而采用family列存

储键属性名称,label列存储键属性值,value列存储值属性的值的方法。这是松散模型设计可以采用的一种实践策略。

 

在业务服务层面分离成两个层,一个层作为数据操作层,负责对数据操作和事务处理,另一个层作为业务服务层,负责

业务逻辑的拼装、数据验证、身份验证等工作。接口设计方面要保证接口的合理性,清晰性,重用性。目前能想到的就是这

些了。

   

架构如图:

 

 

云计算实践心得介绍到这,有些朋友挺关心我接下来的计划的,在此简单说一下,俺打算毕业后先准备另一个考试,忙

完了以后找个地方工作一年,然后继续念书,因为知识越学越觉得自己会的太少,所以希望继续深造提高,谢谢朋友们的关

心,我会一直努力下去的。期待与更多喜爱技术的朋友合作与交流。


本文转自施杨博客园博客,原文链接:http://www.cnblogs.com/shiyangxt/archive/2011/06/21/2086064.html,如需转载请自行联系原作者

相关实践学习
云数据库HBase版使用教程
  相关的阿里云产品:云数据库 HBase 版 面向大数据领域的一站式NoSQL服务,100%兼容开源HBase并深度扩展,支持海量数据下的实时存储、高并发吞吐、轻SQL分析、全文检索、时序时空查询等能力,是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景首选数据库,是为淘宝、支付宝、菜鸟等众多阿里核心业务提供关键支撑的数据库。 了解产品详情: https://cn.aliyun.com/product/hbase   ------------------------------------------------------------------------- 阿里云数据库体验:数据库上云实战 开发者云会免费提供一台带自建MySQL的源数据库 ECS 实例和一台目标数据库 RDS实例。跟着指引,您可以一步步实现将ECS自建数据库迁移到目标数据库RDS。 点击下方链接,领取免费ECS&RDS资源,30分钟完成数据库上云实战!https://developer.aliyun.com/adc/scenario/51eefbd1894e42f6bb9acacadd3f9121?spm=a2c6h.13788135.J_3257954370.9.4ba85f24utseFl
相关文章
|
13天前
|
人工智能 安全 网络安全
云计算环境下的网络安全策略与实践
【4月更文挑战第30天】本文聚焦于当前快速发展的云计算环境中的网络安全问题。首先,分析了云服务模式对传统网络架构的冲击和安全挑战;然后,探讨了在多租户、资源共享的前提下,如何保障数据隔离、访问控制及传输安全等关键安全要素;进一步地,提出了一系列创新的安全机制,包括基于行为分析的入侵检测系统、加密技术的最新应用,以及利用人工智能进行安全事件预测和管理的策略。最后,结合案例分析,评估了这些策略在现实业务中的有效性,并展望了未来云计算与网络安全融合发展的趋势。
|
14天前
|
安全 网络安全 量子技术
网络安全与信息安全:保护数字世界的锁与钥构建安全防线:云计算环境中的网络安全策略与实践
【4月更文挑战第29天】在数字化时代,数据成为了新的石油,而网络安全则是保护这些宝贵资源的防线。本文深入探讨了网络安全漏洞的成因、加密技术的进展以及提升安全意识的重要性。通过对网络威胁的分析,我们揭示了安全漏洞的本质和它们如何被黑客利用。接着,文章详细解读了现代加密技术,包括对称加密、非对称加密和散列函数,并强调了量子计算对未来加密的潜在影响。最后,通过教育和技术实践的建议,我们强调了培养全民网络安全意识的必要性。 【4月更文挑战第29天】 在数字化转型的浪潮中,云计算作为支撑企业敏捷性与效率的关键基础设施,其安全性受到了前所未有的关注。本文深入探讨了云计算环境下所面临的独特安全挑战,并提出
|
2天前
|
存储 安全 网络安全
构筑安全之盾:云计算环境下的网络安全策略与实践
【5月更文挑战第11天】 在数字化时代,云计算已成为企业及个人存储、处理和访问数据的重要平台。然而,随着云服务的广泛采用,网络安全威胁也随之增加,给信息保护带来了前所未有的挑战。本文深入探讨了云计算环境中的网络安全策略,包括加密技术、身份验证、访问控制及入侵检测系统等,旨在为读者提供一个关于如何在云服务中维护信息安全的全面视角。同时,文中还分析了当前云安全领域面临的主要挑战,并提出了未来可能的发展方向,以期对构建更为安全、可靠的云计算环境做出贡献。
5 0
|
3天前
|
监控 安全 网络安全
云端防御战线:云计算环境下的网络安全策略与实践
【5月更文挑战第10天】 在数字化转型的浪潮中,云计算作为支撑企业运营的骨干技术之一,其安全性问题备受关注。随着云服务模式的多样化和复杂化,传统的网络安全防护机制已难以完全适用于云环境。本文深入探讨了云计算环境中特有的安全威胁,分析了云计算服务模型(IaaS、PaaS、SaaS)的安全挑战,并提出了相应的安全策略与最佳实践。通过采用多层次防御架构、强化身份认证与访问控制、实施数据加密与隐私保护措施以及建立持续监控与响应机制,旨在为组织在享受云计算带来的便捷性的同时,确保其数据和服务的安全性。
|
5天前
|
监控 云计算 开发者
探索云计算中的无服务器架构:从概念到实践
无服务器架构作为云计算领域的新兴技术,正在以其高效、灵活的特性吸引着越来越多的开发者和企业。本文将深入探讨无服务器架构的概念及其在云计算中的应用,通过实际案例展示如何利用无服务器架构构建可靠、可扩展的应用系统。
|
7天前
|
存储 安全 网络安全
云端防御:云计算环境中的网络安全策略与实践
【5月更文挑战第6天】 随着企业和个人日益依赖云服务,数据存储、处理和流通的边界变得模糊。这种转变不仅带来了灵活性和成本效益,也引入了新的安全挑战。本文探讨了云计算环境下网络安全的关键问题,包括身份验证、数据加密、访问控制和威胁监测等。通过分析当前云安全的最佳实践和面临的挑战,我们提出了一系列战略性措施以增强云基础设施的安全性,并确保信息资产的保密性、完整性和可用性得到保护。
33 5
|
9天前
|
分布式计算 API 云计算
|
13天前
|
机器学习/深度学习 监控 安全
云端防御战线:云计算环境下的网络安全策略与实践
【4月更文挑战第30天】 随着企业纷纷将数据和服务迁移至云平台,云计算环境的安全性成为不容忽视的问题。本文针对当前云计算环境中存在的安全风险进行了深入剖析,并提出了一系列切实可行的安全策略与措施。文章首先概述了云计算服务模型及其固有的安全挑战,接着详细讨论了网络安全防护的最佳实践,包括身份验证、数据加密、入侵检测和安全事件管理等关键技术的应用。此外,文中还强调了制定综合安全政策、进行持续监控和评估的重要性。通过这些综合性策略的实施,旨在为云计算环境下的信息安全管理提供一套全面的解决框架。
|
13天前
|
云安全 人工智能 安全
构筑安全之盾:云计算环境下的网络安全策略与实践
【4月更文挑战第30天】 随着企业数字化转型的深入,云计算已成为支撑现代业务架构的关键基石。然而,伴随云服务带来的便利性、灵活性和成本效益,也产生了前所未有的安全挑战。本文针对当前云计算环境中的网络安全问题展开深入探讨,分析了云服务模型(IaaS, PaaS, SaaS)在安全防御上的不同要求,并提出了相应的安全策略和技术措施。文章不仅审视了传统的安全机制在云环境下的适用性,还探讨了新兴技术如区块链、人工智能在增强云安全方面的潜力。通过案例分析,本文旨在为读者提供一套综合性的云安全解决方案框架,以助力企业在享受云计算带来的优势的同时,有效防范和应对网络安全威胁。
|
13天前
|
云安全 安全 网络安全
云端守卫:云计算环境中的网络安全策略与实践
【4月更文挑战第30天】在数字化浪潮中,云计算以其弹性、可伸缩性和成本效率成为企业IT架构的核心。然而,随着数据和应用不断向云端迁移,网络安全威胁也随之增加。本文深入探讨了云计算环境下的网络安全挑战,并提出了综合性的安全策略和最佳实践。通过分析云服务模型的特点,我们讨论了公有云、私有云和混合云中存在的安全风险,并提出了相应的解决方案。同时,文章也强调了信息安全管理的重要性,包括数据加密、访问控制和持续监控。最后,我们概述了未来云计算安全发展的趋势,旨在为读者提供一套全面的云安全指南。