大数据老兵的“回忆杀”:我做开发者这十年

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 不知不觉从业小10年了,想想上学那会,刚接触互联网的时候,玩的都是域名、虚拟主机、CMS这些,现在的大学生玩的都是大数据、机器学习这些了,真的有种旧貌换新颜的感觉。

2018广东云栖大会上,阿里云总裁胡晓明强调了阿里云的开发者策略:共同成长、共同分享、共同参与、共同定义,与数百万开发者共同定义云计算的未来。MVP计划就是开发者与阿里云共同成长的印证。
戚俊是多年大数据应用老兵,现任路特科技 CTO,也是阿里云MVP,本文站在十年的历史维度上回忆了一代开发者的发展历程。

戚俊:我做开发者这十年

不知不觉从业小10年了,想想上学那会,刚接触互联网的时候,玩的都是域名、虚拟主机、CMS这些,现在的大学生玩的都是大数据、机器学习这些了,真的有种旧貌换新颜的感觉。

10年前,一边学着编程,一边尝试自己做点东西放网上,那时候主要是接触到都是些很廉价的虚拟主机,而且针对学生也没啥优惠,再便宜一年也要小300块,所以服务器资源都是从饭钱里省出来的,现在学生9.9就能买服务器了,条件比我们那时候优渥很多了,社会在进步~
毕业后,我脑子一热,一脚跨进了媒体行业做研发,10年风雨,一路走来,无论是研发还是企业管理都感触颇多,感触最深的是开源、云化对行业的影响是最深的。

因为我们本身是做媒体行业软件的企业,10年,我们的客户需要花费好几十万去采购一套软件,然后再买上3-5台服务器去部署到本地,之后每次升级再花几万块请技术人员来上门服务。

彼时,传统媒体大兴,没有人觉得这中付费模式和交付方式是一个问题,因为当时的传媒集团都很有钱,然而随着互联网的发达、新媒体的崛起,传统媒体的日子越来越不好过,“一次性付费+本地部署”这种模式就变成了它们的负担,而且新媒体的崛起倒逼着传统媒体要“快一点”、“再快一点”,整个行业的系统服务、软件服务都到了迫切改革的时候,此时我们推出了基于云环境的SaaS化服务,在行业内获得了较好的口碑。这一切的背后既是时代的变迁,也是科技的进步,才让我们以传统厂商10%的成本去运营,1%的周期去交付我们的产品。也正是借着这个机会,我们彻底的拥抱了云生态。

那时候,我们的技术栈主要是SVN+PHP+MYSQL,因为创业初期我们需要更好的迭代效率和更低的招聘成本。

运作一年后,产品也卖的不错,口碑也不错,但是我们收到的运营故障直线上升,处理BUG的效率也大不如前,我们开始反思,是不是我们的技术栈出了问题?是不是我们的运维技术不到家?
后来经过一系列的调整,我们调整了我们的技术栈。

所有基于HTTP的服务,使用Git+PHP+MongoDB进行处理,大数据集的检索使用阿里云的OpenSearch进行管理和供能,日志全量打入SLS中。
所有持久化的服务,使用Git+JAVA+MongoDB进行处理,统一通过阿里云的MNS队列进行调度管理,日志同样打入到SLS中。
所有打入SLS的数据,最终可以通过阿里云的ODPS(现在叫MaxCompute)进行离线计算并输出,为企业提供了一整套的大数据处理方案。

就这样运作了一段时间后,产品的运营、研发没问题了,但是迭代交付和运维开始出现问题,我们做了一个大胆的决定,很激进的把架构层进行了重构,全量依托Docker进行产品的交付、运行,也因此我们成了阿里云容器服务的第一个商业客户。

再后来,我们内部提效升级,把研发工作流改为了阿里云的“云效”产品,彼时它还叫“RDC”,还没有这么洋气的名字。

我们从2010年开始拥抱阿里云,虽然踩过很多坑,走过很多弯路,但是给我印象最深的是阿里云同学的坚韧光芒。

你凌晨3点业务出问题了,阿里云的同学会在5分钟内钉钉或者电话给你处理,问题比较大的情况下可能整个产品部门的同学都会参与,往往是凌晨3点出问题,拉了个钉钉群,处理到天亮发现群里有20个阿里的同学了。
云产品永远在走向完美的路上,但是这一路上少不了同学们的添砖加瓦、架桥铺路!

因为之前的经历,认识了上百位阿里云的工程师,也为很多产品提出了建议,所以有幸在2017年受邀成为“阿里云MVP”的一员。

加入MVP组织后,觉得最大的感觉是,压力变大了,因为大家的水平都很高,倒逼着你去学习,去成长,去做更优秀的人。

所以我在18年的深圳云栖大会上做分享的时候最后以一句“我见青山多妩媚,料青山见我应如是”收尾,也是希望在我眼中的优秀的MVP们,看我时也觉得我很优秀,算是一种鞭策激励吧。

加入MVP组织后,隐形福利挺多,首先你出的产品出问题后,响应时间更快了。而且提产品建议响应的更好、更被重视。再加上和各种行业大牛的交流机会,更是难得。

最让我高兴的是,可以提前体验各种阿里云的内测新产品,比如我最近就领了一套阿里云的物联网开发套件进行体验,虽然我不是IoT方向的开发人员,但是玩玩树莓派还是很有乐趣的。

10年来,作为一个开发者,云计算一定是对我影响最大的事件,阿里云作为中国云计算领域的佼佼者在我的开发生涯中是举足轻重的。

云计算的优美在于,把曾经踩过的坑和得到的经验都毫无保留的告诉了全世界,给了我们技术人员一盏指路明灯。

这种思想上的传递,是我觉得云如此重要的原因,也正是因为众多的开发者、创业公司吸收了这些思维火花,才创造了如此多的奇迹。

本文由阿里云 MVP 戚俊原创。

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
目录
相关文章
|
3月前
|
人工智能 分布式计算 大数据
大数据及AI典型场景实践问题之“开发者藏经阁计划”的定义如何解决
大数据及AI典型场景实践问题之“开发者藏经阁计划”的定义如何解决
|
6月前
|
NoSQL atlas MongoDB
|
存储 人工智能 NoSQL
MongoDB推出五项MongoDB Atlas新功能,帮助企业使用单一开发者数据平台构建新应用程序类别
Beamable、Pureinsights、Anywhere Real Estate及Hootsuite等客户和合作伙伴,正使用MongoDB Atlas新功能构建下一代应用程序
MongoDB推出五项MongoDB Atlas新功能,帮助企业使用单一开发者数据平台构建新应用程序类别
|
人工智能 大数据 物联网
聚焦云计算、大数据、人工智能等开源技术,这场开源开发者的盛会不容错过!
聚焦云计算、大数据、人工智能等开源技术。大咖云集,这场开源开发者的盛会等你来探索!
聚焦云计算、大数据、人工智能等开源技术,这场开源开发者的盛会不容错过!
|
SQL NoSQL 安全
MongoDB新愿景及功能:致力成为开发者数据平台提供商
MongoDB Atlas引入一套统一的新功能, 以满足开发者在构建现代应用程序方面日益增长的数据需求
MongoDB新愿景及功能:致力成为开发者数据平台提供商
|
存储 NoSQL 安全
MongoDB:打造一个云计算时代的开发者数据平台
数据库是应用程序的血液,也是企业底层架构的电力供应
MongoDB:打造一个云计算时代的开发者数据平台
|
SQL 存储 NoSQL
MongoDB 在 2022 MongoDB 全球用户大会上发布新愿景,致力成为开发者数据平台提供商
引入一套统一的新功能,以满足开发者在构建现代应用程序方面日益增长的数据需求
MongoDB 在 2022 MongoDB 全球用户大会上发布新愿景,致力成为开发者数据平台提供商
|
存储 SQL 缓存
23个适合Java开发者的大数据工具和框架
23个适合Java开发者的大数据工具和框架
528 0
|
分布式数据库 数据库 NoSQL
大数据开发者必看,阿里云七天深入HBase生态实训营免费报名中!
个人学习HBase不免遇到架构了解不清晰、查询设计效率低、业务搭建不科学等等问题。5月31日,阿里云联合中国HBase技术社区联合推出《七天深入HBase大数据生态实训营》,由Apache HBase社区PMC领衔授课,通过原理讲解、实战教学,带你走进分布式存储的广阔世界!
710 0
|
人工智能 Cloud Native 大数据
阿里云人工智能+大数据的实践与应用 — 阿里云开发者DevUP 沙龙·厦门站
现场邀请了4位阿里云专家为大家分享云计算行业人工智能+大数据的实践与应用,期待您的参与。
13265 0
阿里云人工智能+大数据的实践与应用 — 阿里云开发者DevUP 沙龙·厦门站