坚信大数据的变革力量——对话阿里云 MVP田亮

本文涉及的产品
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
简介: 我和田亮的交流耗时较久,甚至用上了他出差的所有碎片时间,而他的回答始终谨慎、认真、高效。历任搜狐、阿里巴巴、新浪微博,10年如一日始终深耕大数据领域,阿里云 MVP田亮能在百舸争流中成为大数据和人工智能领域的佼佼者,似乎也就不奇怪了。
以下为田亮的专访内容,推荐阅读(约5分钟)。

兴趣导向职业,信心坚定抉择

在读研期间我就深深痴迷于大数据这个领域,与几个同学一起做了很多这方面的应用实践,大数据是一个机遇与挑战共存的方向,毕业时我就坚定了这个择业目标,整个职业履历也聚焦在分布式计算系统、大数据云计算平台以及机器学习算法与AI。

以我个人对大数据10年的研究来说,大数据变革可以分上下两半场,前5年聚焦在云计算基础设施方面,企业级应用从自建到逐步迁云,技术选型上摆脱IOE的垄断,有了新的技术思路与选择。后5年聚焦在大数据的应用场景上,企业级数据应用不再是大数据变革的目标,而是更多地渗透到人们日常生活中,改变大家的生活方式,甚至未来社会经济发展的模式。

大家都知道大数据与云计算是密不可分的共同体,大数据促使云计算迭代,云计算支撑着大数据业务的落地与发展。随着移动互联网的高速发展,每日数据增长达到几何级别,这对大数据计算提出了前所未有的挑战,包括研发效率,运维成本,数据安全,容灾等环节。于是我们尝试寻找更具性价比的优化方案,同时积极调研下一代大数据计算解决方案,也就是基于开源技术的Hadoop云计算生态链。困难重重,但是解决问题的信心始终很坚决。

转到有信后,从0到1组织大数据团队,从0到1构建大数据平台基础设施,是最大的困难了。在诸多数据业务已排期的背景下,需要在较短时间内快速组建一只具备核心战斗力的大数据团队,那段时间里我们白天进行项目开发,晚上面试招人,工作节奏超负荷。多线程任务的情况下,完成数据仓库、批处理(离线计算)、流式处理(实时计算)、推荐系统、BI、中间件等平台服务的搭建,从而才能有效保证数据业务的迭代,也是极大的挑战,但也会带来更大的成长。
田亮.png

细化受众,专注价值

选择克拉克拉(KilaKila)做声音社交是因为几个明显优势:故事性更强、互动性更高、场景覆盖更广、内容具备沉淀价值,所以有更持久的生命力。社交网络的核心在于平台让人与人之间形成关系并随时随地无边界的对话沟通。我认为未来的社交方向则朝个性化、细分领域的目标发展,“兴趣社交”就符合这个定义。通过情感连线精细垂直的主题圈子,可以避免无聊又混乱的信息噪音,从而得到沉浸式的体验。

我负责有信和克拉克拉两个产品时,为解决信息过载,用户难以从中自主挑选感兴趣内容的问题,我们首先构建个性化推荐系统,除采用传统的机器学习算法外,还引入在线学习、强化学习、迁移学习等技术,值得高兴的是每一次技术架构的迭代都对业务发展带来了直观提升。

定位清晰,持续学习

我个人认为大数据开发者从方向与职业规划上大致分成 2*2=4种人才定位。从方向上讲,大数据领域有平台开发与应用开发两个方向,前者聚焦在基础平台研发环节(平台工程师),后者聚焦在数据业务环节(策略&算法工程师)。从职业规划来讲,一种是技术专家线,这类开发者需要对所在领域有着深入的技术储备,了解相关技术原理,追踪前沿技术发展;另一种是技术管理线,该人才定位除了有技术深度还要有广度,包括团队管理能力、敏锐的业务意识以及前瞻性,负责把控项目进度与风险预判、公司技术规划与规范等,属于综合型人才。

无论将自己定位于何种类型,唯一的建议是持续性学习。这样的学习不局限于前沿技术跟踪,还要提升产品意识、思维方式、沟通技巧等多个方面。

笃定前行,不忘初心,田亮一直在发挥更大的价值。阿里云也始终在陪伴MVP成长,并一路见证他们的努力。

田亮近期技术分享:基于深度学习技术的视频内容检测

TB1HLKARVXXXXcKXpXXXXXXXXXX-586-338.jpg
我要成为阿里云 MVP

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
2天前
|
存储 人工智能 数据管理
|
1天前
|
机器学习/深度学习 分布式计算 数据挖掘
MaxFrame 性能评测:阿里云MaxCompute上的分布式Pandas引擎
MaxFrame是一款兼容Pandas API的分布式数据分析工具,基于MaxCompute平台,极大提升了大规模数据处理效率。其核心优势在于结合了Pandas的易用性和MaxCompute的分布式计算能力,无需学习新编程模型即可处理海量数据。性能测试显示,在涉及`groupby`和`merge`等复杂操作时,MaxFrame相比本地Pandas有显著性能提升,最高可达9倍。适用于大规模数据分析、数据清洗、预处理及机器学习特征工程等场景。尽管存在网络延迟和资源消耗等问题,MaxFrame仍是处理TB级甚至PB级数据的理想选择。
19 4
|
9天前
|
SQL DataWorks 数据可视化
阿里云DataWorks评测:大数据开发治理平台的卓越表现
阿里云DataWorks是一款集数据集成、开发、分析与管理于一体的大数据平台,支持多种数据源无缝整合,提供可视化ETL工具和灵活的任务调度机制。其内置的安全体系和丰富的插件生态,确保了数据处理的高效性和安全性。通过实际测试,DataWorks展现了强大的计算能力和稳定性,适用于中小企业快速搭建稳定高效的BI系统。未来,DataWorks将继续优化功能,降低使用门槛,并推出更多灵活的定价方案,助力企业实现数据价值最大化。
|
9天前
|
分布式计算 大数据 数据处理
技术评测:MaxCompute MaxFrame——阿里云自研分布式计算框架的Python编程接口
随着大数据和人工智能技术的发展,数据处理的需求日益增长。阿里云推出的MaxCompute MaxFrame(简称“MaxFrame”)是一个专为Python开发者设计的分布式计算框架,它不仅支持Python编程接口,还能直接利用MaxCompute的云原生大数据计算资源和服务。本文将通过一系列最佳实践测评,探讨MaxFrame在分布式Pandas处理以及大语言模型数据处理场景中的表现,并分析其在实际工作中的应用潜力。
39 2
|
1月前
|
存储 分布式计算 大数据
【赵渝强老师】阿里云大数据生态圈体系
阿里云大数据计算服务MaxCompute(原ODPS)提供大规模数据存储与计算,支持离线批处理。针对实时计算需求,阿里云推出Flink版。此外,阿里云还提供数据存储服务如OSS、Table Store、RDS和DRDS,以及数据分析平台DataWorks、Quick BI和机器学习平台PAI,构建全面的大数据生态系统。
75 18
|
4天前
|
SQL 存储 分布式计算
阿里云 Paimon + MaxCompute 极速体验
Paimon 和 MaxCompute 的对接经历了长期优化,解决了以往性能不足的问题。通过半年紧密合作,双方团队专门提升了 Paimon 在 MaxCompute 上的读写性能。主要改进包括:采用 Arrow 接口减少数据转换开销,内置 Paimon SDK 提升启动速度,实现原生读写能力,减少中间拷贝与转换,显著降低 CPU 开销与延迟。经过双十一实战验证,Paimon 表的读写速度已接近 MaxCompute 内表,远超传统外表。欢迎体验!
|
1月前
|
人工智能 Cloud Native 数据管理
媒体声音|重磅升级,阿里云发布首个“Data+AI”驱动的一站式多模数据平台
在2024云栖大会上,阿里云瑶池数据库发布了首个一站式多模数据管理平台DMS:OneMeta+OneOps。该平台由Data+AI驱动,兼容40余种数据源,实现跨云数据库、数据仓库、数据湖的统一数据治理,帮助用户高效提取和分析元数据,提升业务决策效率10倍。DMS已服务超10万企业客户,降低数据管理成本高达90%。
163 19
|
1月前
|
分布式计算 Java 开发工具
阿里云MaxCompute-XGBoost on Spark 极限梯度提升算法的分布式训练与模型持久化oss的实现与代码浅析
本文介绍了XGBoost在MaxCompute+OSS架构下模型持久化遇到的问题及其解决方案。首先简要介绍了XGBoost的特点和应用场景,随后详细描述了客户在将XGBoost on Spark任务从HDFS迁移到OSS时遇到的异常情况。通过分析异常堆栈和源代码,发现使用的`nativeBooster.saveModel`方法不支持OSS路径,而使用`write.overwrite().save`方法则能成功保存模型。最后提供了完整的Scala代码示例、Maven配置和提交命令,帮助用户顺利迁移模型存储路径。
|
3月前
|
人工智能 分布式计算 DataWorks
连续四年!阿里云领跑中国公有云大数据平台
近日,国际数据公司(IDC)发布《中国大数据平台市场份额,2023:数智融合时代的真正到来》报告——2023年中国大数据平台公有云服务市场规模达72.2亿元人民币,其中阿里巴巴市场份额保持领先,占比达40.2%,连续四年排名第一。
269 12
|
3月前
|
人工智能 Cloud Native 数据管理
重磅升级,阿里云发布首个“Data+AI”驱动的一站式多模数据平台
阿里云发布首个AI多模数据管理平台DMS,助力业务决策提效10倍
512 17