软件定义 硬件驱动,云计算的Hybrid时代

简介:

ZD至顶网服务器频道 04月01日 新闻消息:软件定义其实隐含了对硬件平台的苛刻要求:一方面要标准化,有足够大的生态环境支持,软件才能“一次编译,到处运行”,降低开发成本,不受硬件差异的羁绊;另一方面,还要保持足够快的发展速度,不断提高性能,并将新的功能普及,让软件直接受益于硬件升级。前者限定了后者,后者又决定了前者——够快则促进,过慢则有被抛弃的风险。过去几年软件定义的迅速普及,英特尔自至强E5平台问世以来提供的全方位产品和技术革新是直接的推动力,通过软件定义的计算,成就了软件定义存储和软件定义网络。

3月19日,Mark Zuckerberg通过手机在自己创立的社交网站上放出了他跑过天安门的照片。“小扎是怎么做到的?”成了国人热议的话题,中国移动的专家宁宇还为此在中国最大的移动社交平台上专文普及了相关的网络基础知识。

软件定义 硬件驱动,云计算的Hybrid时代

似乎只有名人效应,才能引起大家对ICT基础设施的兴趣。2014年10月,小扎在清华大学秀中文惊艳,赢得好评一片;而同期Facebook公司捐给清华大学交叉信息研究院OCP(Open Compute Project,开放计算项目)整机柜服务器的协议签署,直至第一批设备交付,都少有人知。

软件定义 硬件驱动,云计算的Hybrid时代

图:2015年Facebook交付给清华大学交叉信息研究院的首批约100台OCP服务器及存储(JBOD)设备,拍摄于2016年2月。

类似的事例是AlphaGo完胜李世石,专业围棋手深感震惊,AI从业者欢欣雀跃。深度学习俨然成为大众话题,算法的关注度远远高过AlphaGo的硬件配备。在微信朋友圈中有一条评论,大意是李世石的大脑运转才消耗多少能量,以单位功率来计算,AlphaGo还差得远。

但是,大众对人工智能的恐慌,很重要的一点是机器的发展速度比人类本身的进步要快得多。上一次“人机大战”过去还不到20年,运行在手机上的国际象棋软件就可以做到同样的事了——算法等软件层面的进步肯定是有的,更令人无法忽视的是硬件的改天换地。

相比于只会下国际象棋的“深蓝”,现在的手机可谓多才多艺。以此来看,也属于一种“软件定义”。大家已经习惯了硬件性能“摩尔定律”般的持续跃升,以至于会忽略这才是“软件定义”得以实现的重要前提。

三大目标与两大原则

3月9日在美国硅谷召开的2016 OCP峰会(OCP U.S. Summit 2016)上,Facebook负责工程和基础设施的副总裁Jay Parikh在主题演讲中表示,可扩展性(Scalable)、效率(Efficient)和灵活性(Flexible)是Facebook关注的目标。相信这也是绝大多数现代公司对IT基础设施的要求。

为了达成上述目标,Facebook在构建基础设施时的选择依据有两条,即:标准,开源。

标准可以分为厂商标准和行业标准。厂商标准很大程度上是打出来的标准,属于事实标准,如x86;行业标准一定程度上是谈出来的标准,也要有实力作为后盾,如NVMe。

不论是哪一类标准,目的都是形成一个尽可能大的生态,降低硬件和软件的开发成本。开源也有同样的作用——很难说Linux比Unix更出色,但Unix几乎每个处理器平台都有一个版本,高度碎片化,最终在生态系统规模上,完全无法与后起的Linux抗衡。

标准化,使开发者能够从硬件平台的升级中获得性能收益,而又不受硬件差异的限制;开源生态,降低了开发者的学习成本,极大地拓展了人才供应。硬件是软件的助推器而不是囚笼,为软件定义奠定了基础。

存储的硬件时代

早期的存储系统,包括我们常说的SAN(Storage Area Network),很大程度建立在RAID(Redundant Array Of Independent Disks,独立磁盘冗余阵列)技术之上,即把多个硬盘聚合为整体,提供更高的性能和更大的容量。存储系统的计算能力很弱,很长一段时间都用基于PowerPC(PPC)的ASIC满足RAID运算的需求。

扩展性:在上世纪90年代,以太网还很不成熟,速度慢,InfiniBand(IB)则尚未诞生。为了高速而可靠的传输数据,为存储系统开发了专用的网络技术(如Fibre Channel,FC),这也是SAN这个名字的由来。因而,纵向扩展(Scale-up)是存储系统扩容的主要方式,即用更大的存储系统来替换较小的存储系统,以获得更大的容量和更高的性能,而不是把多台存储系统互连起来的横向扩展(Scale-out),扩展能力受限于单台存储系统所能达到的规模。

效率:在互联网公司成为主流之前,传统企业应用的数据量不算大,增长也不快。块存储是主流,文件存储次之,对象存储还差得远。相比效率,市场更在乎可靠性和可用性,存储系统重点发展的软件功能包括镜像和复制,一定程度上是牺牲效率换取可靠性和可用性。

灵活性:存储系统的功能相对单一,由于计算能力较为昂贵和稀缺,块存储(如SAN)和文件存储(NAS)通常依赖不同的硬件实现。

总的来说,除了带有大量的硬盘,十多年前存储系统的控制器在技术架构上也与尚未占据统治性地位的x86服务器很不同,有些实现更像大机或小机。产品的功能,很大程度上受到硬件形态的限制。

三大要素促成软件定义存储

2000年之后,随着互联网和虚拟化等应用的兴起,文件和对象数据呈爆发性增长态势,带动存储需求的上扬。一方面,是存储需求的普及和平民化;另一方面,是IDC等分析机构指出,全球所需存储的数据量增长速度明显超过出货的存储容量,需求将持续超过实际供给。

也就是说,要以同样或更少的容量、(相对以前)明显更低的价格存储更多的数据,效率成为存储行业关注的重点。存储行业迎来一轮创业高潮,3PAR和LeftHand(后被HP收购)、Equallogic和Compellent(后被Dell收购)、Data Domain和Isilon(后被EMC收购)及XIV(后被IBM收购)等存储新星集中涌现。

上述创业公司主打存储的软件功能,以自动精简配置、自动分层存储、重复数据删除等软件功能提高存储的利用率,优化性能和成本。这些软件功能都需要比较强的计算能力,基于PowerPC的架构逐渐力不从心,有些产品以专用ASIC来加速特定的软件功能。但在软件功能越来越丰富的情况下,专用加速硬件无疑有其局限性。

随着x86架构逐渐成为服务器市场的主流,各大厂商的新一代存储系统纷纷转向基于英特尔至强处理器的平台,后者也集成了RAID 5处理所需的XOR硬件加速引擎作为辅助功能。以IBM为例,主导开发了基于英特尔至强处理器的Storwize V7000系列,替代之前基于XOR ASIC的DS5000系列中端存储系统。从IBM研发的角度来看,x86 处理器加上类似Linux的kernel,构成一个非常稳定成熟的平台,而且十分适合用在功能非常丰富的产品里,因为在此之上做软件产品的开发,周期会比较短,市场上的人才也比较容易找到。也就是说,既提高了存储的效率,也帮助改善了开发的效率。

2010年以后,存储大厂的主力产品,基本都已转向以至强为代表的x86平台。在这样的基础上,存储介质和网络技术的换代,为软件定义存储铺平了道路。

基于闪存的固态盘(SSD)取代硬盘驱动器(HDD),是存储行业发展的转折点。SSD的IOPS和延迟性能可以达到硬盘的数百倍,这意味着我们不需要堆积上千个硬盘去获得较高的性能。高端的服务器只需要插上几块NVMe的SSD,就可以获得堪比高端磁盘阵列的功能。

当然,就单台设备而言,磁盘阵列在容量、可靠性和可用性上还具有优势。但是,通过多台x86服务器集群的方式,Google等大型互联网公司早就解决了容量/性能扩展和整体可用性的问题,如著名的Hadoop。近年来,以太网的发展速度已经超过FC(如40Gbps vs. 32Gbps),加上可以明显缩短访问延迟的RDMA(远程DMA)技术,使得分布式存储的横向扩展(Scale-out)更为成熟,在可扩展性上比传统纵向扩展更具潜力。

从计算平台,到存储介质和网络互连,存储系统的硬件架构正与服务器高度趋同。那么,区别在哪里?软件!有了高性能且通用的硬件平台,无需改动硬件架构,安装或应用不同功能的存储软件,便能满足相应的存储需求,具有高度的灵活性,这就是软件定义存储的本质。

至于是不是分布式存储,或者一定要横向扩展(Scale-out),倒并不是那么重要。关键看用户的具体需求,就像前面一直强调的可扩展性、效率和灵活性,根据具体情况去选择孰轻孰重。泛泛而言,软件定义存储提供的是一个各方面都更好的可能。

SDI之SDN/NFV

软件定义基础架构(SDI)的发展,为电信运营商和公有云提供商的业务带来了显著的加速效果。

软件定义网络是最早商业化的软件定义领域之一,开放的x86平台+开源的Linux,共同为软件定义领域提供了理想的平台。从某种角度讲是基于英特尔架构的x86服务器拥抱开源Linux后产生的一个巨大的商业空间。

最早使用软件定义网络技术的其实是用户——传统网络设备依赖性最强的电信运营商,而在今天云计算大潮中,积极推进SDN(Software Defined Network软件定义网络)的也是云计算领域的提供商。

为什么电信运营商和云计算领域如此积极的推动SDN的发展呢,因为传统的网络设备使用的ASIC、DSP等核心芯片都掌握在少数几家巨头手中,是封闭的平台,用户只能基于这些芯片定义的功能来使用,可是在云计算的大环境中,各类新型的应用层出不穷,应用模式千差万别,这些传统网络设备的功能大都固化在硬件平台上,缺乏灵活性。

早期的网络设备都是基于专有芯片、专有系统的封闭式产品,用户只能在设备供应商所提供的功能和服务范畴内使用,这些专有设备因为封闭的生态体系,因此生产数量少,价格自然昂贵,就像Unix小型机一样,属于封闭系统。基于英特尔架构的x86平台目前已经在绝大多数计算环境中成功的取代了小型机,依靠的就是开放架构+开源系统,当然,x86计算性能的提升是关键。

软件定义 硬件驱动,云计算的Hybrid时代

图注:SK电信提出的全面转向IT网络架构的思路图

在2016年3月的OCP大会中,老牌电信运营商AT&T和SK都提出了SDI的概念,他们使用基于英特尔至强处理器的服务器平台+开源的Linux系统,来解决传统ASIC、DSP和FPGA难以解决的灵活性问题。他们提出的SDN/ NFV(Network Function Virtualization,网络功能虚拟化)在灵活性和易用性上较传统网络设备有巨大的提升,而且灵活的部署扩展能力也更符合云计算时代网络快速部署和调整的需求,同时SDN/NFV的应用降低了大规模业务部署时的复杂度。

从电信运营商和公有云提供商的角度来看,未来的SDN/NFV方案将由开放的x86标准服务器+开源Linux环境来构建,具有系统开源、易构建,接口标准化等特点。自从2009年英特尔推出集成内存控制器的SNB架构处理器平台后,转发等关键的网络评估性能追上了传统网络设备使用的ASIC芯片,x86的强计算能力也成为开源Linux平台的天然合作伙伴。

基于开放x86标准服务器和开源Linux的平台具备了开源特性和标准接口的优势,英特尔也推出了DPDK来优化网络性能和虚拟化应用,大量网络厂商从2010年后就在这个开放开源基础平台上,来构造高性能、可编程、低成本的SDN架构。

伴随x86平台的发展,业界逐渐流行使用双路至强服务器来作为SDN/NFV的平台,而从2010年到今天的6年时间里,面向企业应用领域的至强处理器系列从双路8核(双路的英特尔至强5600产品家族)快速发展到最新一代的至强处理器E5 v4的双路44核88线程的高性能计算平台。且先不论平台的计算性能提升多少倍,单就多核的设计思路就让云计算领域尝到了足够的甜头。一台服务器从最初只能支持几台虚拟主机,到今天商业化的公有云平台上可以在一台物理主机上提供100台的虚拟主机,这期间,云计算的进步依赖于基于英特尔至强处理器平台的发展。

目前在国内典型的电信环境下,基于双路至强处理器的NFV类设备,往往会将6~7块10Gbps网卡捆绑在一起,利用至强E5 v3平台的性能,来获得更高的网络带宽和处理能力。那么在升级到最新的至强E5 v4后,应该很快就会在运营商端看到使用100Gbps网卡的新一代高性能NFV设备的出现。

云计算带来的SDN

SDN大规模应用之一是公有云数据中心,随着公有云规模的扩张,对于SDN的需求也持续上升,虚拟主机数量今年来的增长让传统网络设备在管控上捉襟见肘。从某种角度讲,1000台以下虚拟云主机依然占据目前云计算的绝大多数,管理方便、调整灵活的x86+Linux开源平台的SDN成为这类公有云/私有云首选的网络平台。

在全新的至强E5 v4平台的支持下,一台双路的物理服务器可以具备多达44核88线程(使用E5 v4 2699处理器),所支持的内存也达到了1.5TB,这就为在一台物理主机上运行超过100台虚拟主机提供了基础,那么对于大规模部署云计算的数据中心而言,SDN设备的性能和灵活性在这里就成为云计算网络是否能胜任的关键。

无论是传统的集中式SDN还是分布式SDN,都围绕着灵活易用的特征。在典型的公有云中,SDN设备完全基于x86服务器平台,运行开源的Linux系统,目前在云计算/开源领域中有大量此类应用模型可供选择。

相较传统服务器一台一个IP的应用模式,云主机也随着x86平台性能的提升得以在一个盒子里支持更多的虚拟主机IP。目前最新的至强处理器E5 2699 v4可以提供88线程的强大计算性能,也许在2016年内,我们就能看到一台物理设备提供超越一个网段的虚拟主机数量,这反过来对SDN也提出了更高的要求。

强调性能的NFV

SDN源于数据中心,而NFV则是由电信运营商提出的方案。电信运营商的每一次转型都带来大量的机会,今天的运营商趋向提供越来越多的网络服务,这些复杂化的网络服务需要大量的专有硬件来支撑,但是随着网络服务的细分和变化,传统的网络硬件设备带来了大量设备投入,背后是资本和能耗的挑战,可是用户端的驱动模式随时会带来新的应用,显然这不是一个单纯依靠硬件就能完成的任务。NFV就是用标准计算平台的虚拟化网络技术来解决多种网络应用如何融合数据中心的技术,利用高性能的x86服务器、交换机等数据中心的设备,使用开源软件自定义网络功能,应用于数据业务应用。

软件定义 硬件驱动,云计算的Hybrid时代

图注:在基于最新的英特尔至强处理器E5 v4产品的服务器平台中,利用DPDK技术,可以提供25倍于上一代x86数据包处理能力,而这一切都是免费、开源的,全面支持虚拟化应用。同传统软件供应商习惯于用软件来解决一切问题不同,英特尔更擅长将软硬件统筹考虑,硬件擅长的事情移交给硬件完成,而软件只需要使用一个API来驱动硬件设备接口,这就是软件定义,硬件加速的原力。

相比SDN的高度灵活和可管理特性,NFV则更看重性能和应用能力,因此我们在二者的配置上就可以看出明显的不同。SDN对设备硬件需求较低,往往配备单块10Gb网卡就可以满足需求;而NFV承载着运营商的业务,对计算性能、内存容量,特别是网络吞吐能力都有极高的要求,现在电信运行商业务中的NFV设备往往都有4块以上的10Gb网卡捆绑在一起,甚至有运营商在积极推动100Gb网卡在NFV设备中的应用,而这些都是英特尔至强E5 v4 + DPDK大展身手的领域。

截至到今天,在云计算的三大要素中,计算、存储和网络领域都已经有大量厂商宣布支持使用DPDK来提升系统性能,减少基础x86系统的额外开销,增强云计算整体实力。当云计算基于开放的x86+开源的系统,在软、硬件一体化应用的道路上提供了Hybrid模式的时候,软件定义、硬件驱动的云计算新时代就揭开了新的篇章。


原文发布时间为:2016-04-01

本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。



相关文章
|
7月前
|
JSON 运维 监控
云计算与公司监控电脑软件的弹性扩展策略(AWS Lambda)
在当前信息时代,公司监控电脑软件对于确保网络和电脑设备的正常运行至关重要。云计算技术的崛起为监控系统提供了更灵活和弹性的扩展策略,而AWS Lambda作为一种无服务器计算服务,则为实现弹性监控提供了理想的解决方案。
266 1
|
7月前
|
存储 边缘计算 人工智能
云计算与分布式系统架构:驱动数字化时代的创新引擎
本文将探讨云计算与分布式系统架构在数字化时代中的重要性,介绍其基本概念和原理,并探讨其在推动技术创新、提升企业效率和满足用户需求方面的作用。同时,还将提出未来发展的趋势和挑战,为读者提供对云计算与分布式系统架构的深入理解。
|
7月前
|
IDE Linux KVM
云计算|OpenStack|社区版OpenStack---基本概念科普(kvm的驱动类别和安装)
云计算|OpenStack|社区版OpenStack---基本概念科普(kvm的驱动类别和安装)
286 0
|
6月前
|
监控 Cloud Native 持续交付
构建未来:云原生技术驱动的云计算平台
【5月更文挑战第52天】 随着数字化转型的不断深化,企业对于敏捷性、可扩展性和成本效益的需求日益增长。本文探讨了如何通过采纳云原生技术来构建和优化云计算平台,以支持不断变化的业务需求。文章首先概述了云原生技术的核心概念及其优势,随后详细分析了在设计云平台时应考虑的关键要素,并通过案例研究展示了云原生实践在实际中的应用效果。最后,文章提出了面向未来的云平台发展趋势和挑战。
|
7月前
|
存储 分布式计算 分布式数据库
【专栏】云计算与分布式系统架构在数字化时代的关键作用。云计算,凭借弹性、可扩展性和高可用性,提供便捷的计算环境
【4月更文挑战第27天】本文探讨了云计算与分布式系统架构在数字化时代的关键作用。云计算,凭借弹性、可扩展性和高可用性,提供便捷的计算环境;分布式系统架构则通过多计算机协同工作,实现任务并行和容错。两者相互依存,共同推动企业数字化转型、科技创新、公共服务升级及数字经济发展。虚拟化、分布式存储和计算、网络技术是其核心技术。未来,深化研究与应用这些技术将促进数字化时代的持续进步。
201 4
|
7月前
|
存储 安全 网络安全
云计算与网络安全:技术驱动下的信息安全新挑战
云计算与网络安全作为当今技术领域的热门话题,不仅涉及到云服务的发展与应用,还牵扯到信息安全等诸多重要议题。本文将从技术驱动下的视角出发,探讨云计算和网络安全的紧密关联,分析新形势下信息安全面临的挑战和应对之策。
48 0
|
7月前
|
机器学习/深度学习 人工智能 安全
构建未来:AI驱动的自适应网络安全防御系统云端守卫:云计算环境下的网络安全与信息保护策略
【5月更文挑战第27天】 在数字化时代,网络安全威胁持续进化,传统的安全措施逐渐显得力不从心。本文探讨了人工智能(AI)技术如何革新现代网络安全防御系统,提出一个基于AI的自适应网络安全模型。该模型结合实时数据分析、模式识别和自我学习机制,能够动态调整防御策略以应对未知攻击。文章不仅分析了此模型的核心组件,还讨论了实施过程中的挑战与潜在效益。通过引入AI,我们展望一个更加智能且具有弹性的网络安全环境,旨在为未来的网络防护提供一种创新思路。
|
7月前
|
边缘计算 安全 量子技术
《云计算的未来:驱动企业创新的关键技术》
本文探讨了云计算如何成为当代企业创新和竞争力提升的核心驱动力。在介绍云计算的基本概念和发展历程的基础上,文章重点分析了云计算在企业中的具体应用,如资源弹性管理、成本优化以及促进远程工作的流行。通过探索云计算在不同行业中的应用实例,我们不仅能更好地理解这一技术的实际影响,还能洞察未来技术发展的潜在趋势。此外,文章还讨论了云计算面临的安全挑战和解决策略,为企业如何高效、安全地利用云计算提供策略建议。
189 6
|
7月前
|
存储 人工智能 物联网
云计算与分布式系统架构:未来技术驱动的创新之路
在当今数字化时代,云计算和分布式系统架构成为了企业和个人实现高效、可靠和灵活计算的关键。本文将探讨云计算与分布式系统架构的基本概念和原理,并介绍其在现代技术领域中的应用和未来发展趋势。
198 1
|
7月前
|
人工智能 弹性计算 搜索推荐
阿里云张献涛:拥抱第三次云计算浪潮,云上驱动AI原生游戏
由国家新闻出版署主管,广东省新闻出版局、中共广州市委宣传部支持,中国音像与数字出版协会、广州开发区管委会、广州市黄埔区人民政府主办,中国音数协游戏工委、中共广州市黄埔区委宣传部、黄埔文化(广州)发展集团有限公司、黄埔文商旅(广州)集团有限公司承办的2023年度中国游戏产业年会大会12月15日在广州黄埔区举办。