Linkedin资深工程师董飞:典型硅谷公司大数据实战分析

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介:

董飞是硅谷华人工程师里的“热门人物”, 本科南开大学、硕士杜克大学计算机系毕业。在攻读硕士期间,即从事跟Hadoop大数据相关的研究项目。先后在创业公司酷迅,百度基础架构组,Amazon云计算部门,LinkedIn担任高级工程师,负责过垂直搜索引擎、百度云计算平台研发、广告系统和在线教育平台的架构的设计和研发。在大数据领域业界研究多年,涉及Hadoop调优、分布式框架、Data Pipeline、实时系统等技术。


董飞2015年在硅谷创业公司Coursera从事数据工程师工作,对于硅谷公司的大数据应用方面有着丰富的实战经验。本文是对他去年任职Coursera时所发表的一次演讲的整理文,主要介绍了Coursera及其架构演变,探讨了硅谷大数据热点与相关技术。



(董飞)


董飞首先介绍了Coursera, 由美国斯坦福大学计算机科学教授 Andrew Ng和Daphne Koller创办,旨在同世界顶尖大学合作,在线提供免费的网络公开课程,Coursera目前已经有117所大学提供的988门课程,已经有超过一千二百万学习者使用过。作为热门的在线教育项目,Coursera成功为学习者和课程提供方搭起了桥梁。




 

Coursera还与世界顶尖大学,例如斯坦福大学、密歇根大学、普林斯顿大学、宾夕法尼亚大学等都建立了深度合作关系,颁发证书认证。董飞表示,“大约30%的学者愿意付费购买证书,70%的VC用户则将这些证书发布到LinkedIn上,这为大家带来了双赢价值”。




Coursera推出的课程种类繁多,其中有一项叫“专项课程”,它也是Coursera最主要的收入之一。”专项课程“的成功之处在于:


 
 
 
  • 60%的学习者表示他们学习“专项课程”的动机 是通过“毕业项目”和“专项课程签名认证证书”来展示 他们对知识的掌握程度。

  • 74%的学习者认为“毕业项目”比理论课程 更具价值,理由是他们希望利用“毕业项目”来解决实际 问题,同时获得行业实践经验。

  • 77%的学习者则认为由行业从业人员和授课教 师共同设计和实施“毕业项目”,比单单由授课教 师设计更有价值。

 
 
 


Coursera课程研究:靠数据来说话
 
 

 

Coursera针对课程类别、各个国家以及不同领域的用户情况进行了数据统计和统计。 如下图数据显示:其中选择人文类的用户数最多,计算机科学次之,排在最末的是临床科学,这也说明其较为冷门。【注:括号里代表的是这门课程的门数】




(不同课程内容分类:横坐标表示的是注册人数,注册人数越多,说明它越有吸引力。)


通过下图可以看出:红色代表是受欢迎度,颜色越深说明它关注度越强,比如美国、加拿大、中国香港等这些大学关注度比较高; 蓝色代表的是冷门,颜色越深说明它没有关注度,或者叫负相关度,比如法国。



(各国大学关注度)


学习者主要分为四种类型:


 
 
 
  • 第一类:大学生,求知型,平均年龄15岁-20岁;

  • 第二类:终生学习者(Enrichment learners),年龄分布较为均匀;

  • 第三类:特定技能学习者(有点像极客),他们更喜欢接受新技术,尤其是20岁到30岁中间的人居多;

  • 第四类:商业发展或升职技能,比如有人想晋升或者想换个行业,这类用户会选择某个特定领域进行学习。

 
 
 



(学者领域分布图)


Coursera的技术架构
 

 

作为一家硅谷的在线教育项目创业公司,Coursera员工数约为180人,其中技术人员是80人左右,占比40%。Coursera拥有1000万名学习者(这个用户数还在不断增长),面对全球不同时区的用户,如何保证最佳的用户体验?



 

数据库的选择上,Coursera最初采用的是MySQL,但遇到的问题是,在高并发访问量和宕机时候会造成用户体验的大幅下降,于是Coursera将数据库迁移至Cassandra,其稳定性和易用性还不错。


编程语言使用上,Coursera则选择了Scala。Scala面向对象,基于Scala可以调用所有JVM上面的东西, 虽然这听起来很酷,但很多公司还是不敢用。



Coursera技术架构图)


Coursera底层架构100%部署于AWS上,因为 Coursera的大多数用户访问来自于(PC)Web,但后来为了改进手机端的用户体验,工程师们利用 Swift来重写APP。


对于为何采用使用SOA?董飞认为,首先SOA架构能够做到弹性扩展,其次在于服务优先级,重用,简化,希望通过这种模式去推动整个技术的升级。” 硅谷有很多公司在使用SOA,包括 Tumblr、BOX、LinkIN、NETFLIX、Amazon、eBay等。”


“而采用Rest框架的好处在于:所有API可外部化,易于调试,零技术锁定”。



(Coursera架构中用到的软件)

 

随后,董飞还和与会者交流了时下在硅谷的大数据应用浪潮和热门技术。




Gartner公司每年发布技术趋势炒作图。2015年和2014年的图对比显示,物联网、自动驾驶汽车、消费级 3D 打印、自然语言问答等概念正在处于炒作的顶峰。而大数据已从顶峰滑落,NFC和云计算接近谷底。


来源:CSDN


本文来自云栖社区合作伙伴"DBAplus",原文发布时间:2016-04-05

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
目录
相关文章
|
28天前
|
存储 分布式计算 大数据
基于Python大数据的的电商用户行为分析系统
本系统基于Django、Scrapy与Hadoop技术,构建电商用户行为分析平台。通过爬取与处理海量用户数据,实现行为追踪、偏好分析与个性化推荐,助力企业提升营销精准度与用户体验,推动电商智能化发展。
|
2月前
|
数据可视化 搜索推荐 大数据
基于python大数据的北京旅游可视化及分析系统
本文深入探讨智慧旅游系统的背景、意义及研究现状,分析其在旅游业中的作用与发展潜力,介绍平台架构、技术创新、数据挖掘与服务优化等核心内容,并展示系统实现界面。
|
2月前
|
存储 SQL 分布式计算
终于!大数据分析不用再“又要快又要省钱”二选一了!Dataphin新功能太香了!
Dataphin推出查询加速新功能,支持用StarRocks等引擎直连MaxCompute或Hadoop查原始数据,无需同步、秒级响应。数据只存一份,省成本、提效率,权限统一管理,打破“又要快又要省”的不可能三角,助力企业实现分析自由。
206 49
|
27天前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的台风灾害分析及预测系统
针对台风灾害预警滞后、精度不足等问题,本研究基于Python与大数据技术,构建多源数据融合的台风预测系统。利用机器学习提升路径与强度预测准确率,结合Django框架实现动态可视化与实时预警,为防灾决策提供科学支持,显著提高应急响应效率,具有重要社会经济价值。
|
28天前
|
机器学习/深度学习 大数据 关系型数据库
基于python大数据的青少年网络使用情况分析及预测系统
本研究基于Python大数据技术,构建青少年网络行为分析系统,旨在破解现有防沉迷模式下用户画像模糊、预警滞后等难题。通过整合多平台亿级数据,运用机器学习实现精准行为预测与实时干预,推动数字治理向“数据驱动”转型,为家庭、学校及政府提供科学决策支持,助力青少年健康上网。
|
1月前
|
传感器 人工智能 监控
拔俗多模态跨尺度大数据AI分析平台:让复杂数据“开口说话”的智能引擎
在数字化时代,多模态跨尺度大数据AI分析平台应运而生,打破数据孤岛,融合图像、文本、视频等多源信息,贯通微观与宏观尺度,实现智能诊断、预测与决策,广泛应用于医疗、制造、金融等领域,推动AI从“看懂”到“会思考”的跃迁。
|
2月前
|
数据采集 数据可视化 关系型数据库
基于python大数据的电影数据可视化分析系统
电影分析与可视化平台顺应电影产业数字化趋势,整合大数据处理、人工智能与Web技术,实现电影数据的采集、分析与可视化展示。平台支持票房、评分、观众行为等多维度分析,助力行业洞察与决策,同时提供互动界面,增强观众对电影文化的理解。技术上依托Python、MySQL、Flask、HTML等构建,融合数据采集与AI分析,提升电影行业的数据应用能力。
|
2月前
|
数据可视化 大数据 数据挖掘
基于python大数据的招聘数据可视化分析系统
本系统基于Python开发,整合多渠道招聘数据,利用数据分析与可视化技术,助力企业高效决策。核心功能包括数据采集、智能分析、可视化展示及权限管理,提升招聘效率与人才管理水平,推动人力资源管理数字化转型。
|
2月前
|
机器学习/深度学习 搜索推荐 算法
基于python大数据的口红商品分析与推荐系统
本研究基于Python大数据技术,构建口红商品分析与推荐系统,旨在解决口红市场产品同质化与消费者选择困难问题。通过分析颜色、质地、价格等多维度数据及用户行为,实现个性化推荐,提升购物体验与品牌营销效率,推动美妆行业数字化转型,具有重要现实意义与市场价值。

热门文章

最新文章