CIO面临大数据架构的选择困境

简介:

对于大数据的架构,CIO面临着一个存在已久的选择困境:买入还是自建?新的业务问题、厂商方案的稀缺和大量新技术的涌现,都加大了决策的困难。而且,相关的名词是如此的模糊不清,比如大数据等。

随着特斯拉宣称将在2017年推出廉价的电动汽车,这种感觉愈发强烈。但是,在IT圈内,CIO们更关注Elon Musk(特斯拉的CEO和产品架构师)是如何让其CIO去应对这个挑战的:构建自己的企业资源规划系统(ERP),而不是基于SAP来进行升级改造。

这不仅仅是ERP方面的工作,而是开创了一种潮流。在MIT斯隆CIO论坛上,参会者对特斯拉的决策赋予了更为深远的意义,正如同Facobook计划构建自己的CRM系统一样。这类决策背后蕴含的意义是,市场已经无法完全满足客户的定制需求,天平已经从传统厂商向特定的优化方案倾斜,尤其是在大数据逐渐渗透进业务战略的趋势下。对CIO来说,最关键的东西应该就如Babson College(位于马萨诸塞Wellesley)信息技术和管理教授Tom Davenport所说的那样。

“我不知道特斯拉的系统是否能胜过SAP或者Oracle的产品。真正让我震惊的是,决定自行开发一切的举措。但是,为了业务的差异化构建战略性的系统,永远都是有意义的。”在主持大数据相关研讨时Davenport表示。

要确定你最关键的技术需求,即那些很少能通过现有厂商获得的技术,以及那些和业务问题关联最紧密的技术。

当CIO们构建大数据系统时,可能会面对一个存在已久的IT决策困境:自建还是买入?如今,那些统治市场多年的标准化方案,已经无法彻底应对大数据基础架构所存在的瓶颈。更多的选择开始进入人们的视线,内存计算、NoSQL数据库、云计算、开源软件以及如Facebook和特斯拉那样自行开发。但是,无论如何,CIO首先要消除“大数据”这个词带来的各种混沌和疑惑,在大潮之下看清企业所面临的的技术痛点。最终,CIO们采用的很可能是那种具有较强针对性的点式方案,而不是涵盖各个方面的大一统的方案。

首先,什么是大数据?

大数据这个词问世已经不止一年了,但是其含义至今仍混淆不清。“大数据是一个无所不包的营销术语,你对什么感兴趣,都能将其囊括其中。”Monash Research(位于马萨诸塞Acton)的创始人Curt Monash表示。

Monash在其2011年的一篇博客中认为,更糟糕的情况是大数据的定义(包括Gartner的3V定义)本身就通常是具有误导性的,导致了市场的混乱。Monash认为,那种希望有一个技术栈可以解决所有新IT问题的想法,是极其幼稚的。

Fidelity Investments专业服务集团的首席信息官Darrell Fernandes认为,大数据这个词的滥用可能会对厂商的销售有所提升,但是,同时也给潜在的买家带来了很大的麻烦。在本次MIT论坛的大数据研讨会上,Fernandes认为这将给业界带来伤害,尤其是当技术投资和业务回报之间的联系含糊不清时。1990年代时,你可以明确指出CRM技术所带来的业务价值,而大数据的涵盖面太广,缺乏明确的指向,只能徒劳地带来业务和IT两端的渴望和焦虑。

持有如此的论调,并非仅仅只有Fernandes一人。比如,在其最新的报告《Reset on Big Data》中,Forrester公司(总部位于马萨诸塞Cambridge的咨询公司)就特意避免将大数据定义成一种技术或一个技术问题,否则可能导致技术人员视野过窄而错过趋势。相反,根据Forrester分析师Brian Hopkins(该报告的作者之一)的看法,大数据是“填补你的能力与已有数据之间的鸿沟,从而让信息真正转化为对业务的洞察,这将是一个持续的过程。”

在一开始,你需要知道从何入手。Forrester的建议是,在构建或买入之前,业务和IT领导共同对实用场景进行研究。有些时候,实现应用场景需要进行投资。但是,有时要求进行企业文化上的转变,即基于数据来做出决策。大数据意味着业务模型是数据驱动的。这方面的转型需要一定的能力,即CIO要在做出任何投资之前对企业当前处境有清晰的认知。

单一厂商可能无法应对

当大数据技术投资不可避免时,Hopkins提醒CIO们不要被某些名词所局限住(比如Hadoop,近来很多时候被用为大数据的代名词),而是应该回归本质,关注实际的功能。他建议关注在Hadoop所提供的“高弹性、成本可接受的数据存储和分析方法”上。

基本可以确定的是,能够解决当前企业所面临的数据问题的技术栈,不会来自单个厂商。“你不可能得到一站式的解决方案。”Hopkins说。Monash认为,从单一厂商买入将是非常昂贵的:“高昂的投入不仅仅来自于金钱,还包括管理成本等。”

Hopkins所指的厂商包括IBM、微软和Oracle等,这些巨头拥有完整的解决方案栈:“但是我并不认为其产品如厂商们所宣传的那么适用,潜在的客户也应该明白这一点。”如果选择开源软件,Hopkins认为也会面临麻烦。诸如Cloudera、MapR和Hortonworks等厂商都选择了不同的开源版本来构建自己的产品。有些时候,这些厂商开发的新功能与开源社区有重合。于是客户可能不得不在功能模块的层面进行取舍。

对此,Monash有自己的原则:“找到自己最急迫的技术需求,即很少有厂商能满足的功能,以及那些和当前业务问题关系最紧密的技术。”

当然,对于业务问题或产出的考量也不能过分夸大。正如Fernandes所解释的,其所在公司是这样逐渐让大数据的概念变得清晰具体的:“我们这几年来一直着眼于具体的假设、具体的应用场景和具体的产出。由于关注点非常聚焦,才能持续的获得进展。”

原文发布时间为:2014年08月12日
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。
相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
负载均衡 算法 关系型数据库
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
本文聚焦 MySQL 集群架构中的负载均衡算法,阐述其重要性。详细介绍轮询、加权轮询、最少连接、加权最少连接、随机、源地址哈希等常用算法,分析各自优缺点及适用场景。并提供 Java 语言代码实现示例,助力直观理解。文章结构清晰,语言通俗易懂,对理解和应用负载均衡算法具有实用价值和参考价值。
大数据大厂之MySQL数据库课程设计:揭秘MySQL集群架构负载均衡核心算法:从理论到Java代码实战,让你的数据库性能飙升!
|
存储 SQL 监控
数据中台架构解析:湖仓一体的实战设计
在数据量激增的数字化时代,企业面临数据分散、使用效率低等问题。数据中台作为统一管理与应用数据的核心平台,结合湖仓一体架构,打通数据壁垒,实现高效流转与分析。本文详解湖仓一体的设计与落地实践,助力企业构建统一、灵活的数据底座,驱动业务决策与创新。
|
存储 SQL 分布式计算
19章构建企业级大数据平台:从架构设计到数据治理的完整链路
开源社区: 贡献者路径:从提交Issue到成为Committer 会议演讲:通过DataWorks Summit提升影响力 标准制定: 白皮书撰写:通过DAMA数据治理框架认证 专利布局:通过架构设计专利构建技术壁垒
|
存储 分布式计算 资源调度
【赵渝强老师】阿里云大数据MaxCompute的体系架构
阿里云MaxCompute是快速、全托管的EB级数据仓库解决方案,适用于离线计算场景。它由计算与存储层、逻辑层、接入层和客户端四部分组成,支持多种计算任务的统一调度与管理。
1066 1
|
消息中间件 分布式计算 大数据
“一上来就搞大数据架构?等等,你真想清楚了吗?”
“一上来就搞大数据架构?等等,你真想清楚了吗?”
305 1
|
架构师 Oracle 大数据
从大数据时代变迁到数据架构师的精通之路
无论从事何种职业,自学能力都显得尤为重要。为了不断提升自己,我们可以尝试建立一套个性化的知识目录或索引,通过它来发现自身的不足,并有针对性地进行学习。对于数据架构师而言,他们需要掌握的知识领域广泛而深入,不仅包括硬件、网络、安全等基础技术,还要了解应用层面,并熟练掌握至少一门编程语言。同时,深入理解数据库技术、具备大数据实操经验以及精通数据仓库建模和ELT技术也是必不可少的。只有这样,数据架构师才能具备足够的深度和广度,应对复杂的业务和技术挑战。 构建个人知识体系是数据架构师在学习和工作中的一项重要任务。通过系统化、不断深化的知识积累,数据架构师能够有效应对快速变化的商业环境和技术革新,进一
|
SQL 存储 监控
流处理 or 批处理?大数据架构还需要流批一体吗?
简介:流处理与批处理曾是实时监控与深度分析的两大支柱,但二者在数据、代码与资源上的割裂,导致维护成本高、效率低。随着业务对数据实时性与深度分析的双重需求提升,传统架构难以为继,流批一体应运而生。它旨在通过逻辑、存储与资源的统一,实现一套系统、一套代码同时支持实时与离线处理,提升效率与一致性,成为未来大数据架构的发展方向。
|
SQL 分布式数据库 Apache
网易游戏 x Apache Doris:湖仓一体架构演进之路
网易游戏 Apache Doris 集群超 20 个 ,总节点数百个,已对接内部 200+ 项目,日均查询量超过 1500 万,总存储数据量 PB 级别。
1390 3
网易游戏 x Apache Doris:湖仓一体架构演进之路
|
负载均衡 算法 关系型数据库
大数据新视界--大数据大厂之MySQL数据库课程设计:MySQL集群架构负载均衡故障排除与解决方案
本文深入探讨 MySQL 集群架构负载均衡的常见故障及排除方法。涵盖请求分配不均、节点无法响应、负载均衡器故障等现象,介绍多种负载均衡算法及故障排除步骤,包括检查负载均衡器状态、调整算法、诊断修复节点故障等。还阐述了预防措施与确保系统稳定性的方法,如定期监控维护、备份恢复策略、团队协作与知识管理等。为确保 MySQL 数据库系统高可用性提供全面指导。
|
存储 数据采集 分布式计算
别光堆数据,架构才是大数据的灵魂!
别光堆数据,架构才是大数据的灵魂!
466 13

热门文章

最新文章