坚信大数据的变革力量——对话阿里云 MVP田亮

本文涉及的产品
云原生大数据计算服务 MaxCompute,5000CU*H 100GB 3个月
云原生大数据计算服务MaxCompute,500CU*H 100GB 3个月
简介: 我和田亮的交流耗时较久,甚至用上了他出差的所有碎片时间,而他的回答始终谨慎、认真、高效。历任搜狐、阿里巴巴、新浪微博,10年如一日始终深耕大数据领域,阿里云 MVP田亮能在百舸争流中成为大数据和人工智能领域的佼佼者,似乎也就不奇怪了。
以下为田亮的专访内容,推荐阅读(约5分钟)。

兴趣导向职业,信心坚定抉择

在读研期间我就深深痴迷于大数据这个领域,与几个同学一起做了很多这方面的应用实践,大数据是一个机遇与挑战共存的方向,毕业时我就坚定了这个择业目标,整个职业履历也聚焦在分布式计算系统、大数据云计算平台以及机器学习算法与AI。

以我个人对大数据10年的研究来说,大数据变革可以分上下两半场,前5年聚焦在云计算基础设施方面,企业级应用从自建到逐步迁云,技术选型上摆脱IOE的垄断,有了新的技术思路与选择。后5年聚焦在大数据的应用场景上,企业级数据应用不再是大数据变革的目标,而是更多地渗透到人们日常生活中,改变大家的生活方式,甚至未来社会经济发展的模式。

大家都知道大数据与云计算是密不可分的共同体,大数据促使云计算迭代,云计算支撑着大数据业务的落地与发展。随着移动互联网的高速发展,每日数据增长达到几何级别,这对大数据计算提出了前所未有的挑战,包括研发效率,运维成本,数据安全,容灾等环节。于是我们尝试寻找更具性价比的优化方案,同时积极调研下一代大数据计算解决方案,也就是基于开源技术的Hadoop云计算生态链。困难重重,但是解决问题的信心始终很坚决。

转到有信后,从0到1组织大数据团队,从0到1构建大数据平台基础设施,是最大的困难了。在诸多数据业务已排期的背景下,需要在较短时间内快速组建一只具备核心战斗力的大数据团队,那段时间里我们白天进行项目开发,晚上面试招人,工作节奏超负荷。多线程任务的情况下,完成数据仓库、批处理(离线计算)、流式处理(实时计算)、推荐系统、BI、中间件等平台服务的搭建,从而才能有效保证数据业务的迭代,也是极大的挑战,但也会带来更大的成长。
田亮.png

细化受众,专注价值

选择克拉克拉(KilaKila)做声音社交是因为几个明显优势:故事性更强、互动性更高、场景覆盖更广、内容具备沉淀价值,所以有更持久的生命力。社交网络的核心在于平台让人与人之间形成关系并随时随地无边界的对话沟通。我认为未来的社交方向则朝个性化、细分领域的目标发展,“兴趣社交”就符合这个定义。通过情感连线精细垂直的主题圈子,可以避免无聊又混乱的信息噪音,从而得到沉浸式的体验。

我负责有信和克拉克拉两个产品时,为解决信息过载,用户难以从中自主挑选感兴趣内容的问题,我们首先构建个性化推荐系统,除采用传统的机器学习算法外,还引入在线学习、强化学习、迁移学习等技术,值得高兴的是每一次技术架构的迭代都对业务发展带来了直观提升。

定位清晰,持续学习

我个人认为大数据开发者从方向与职业规划上大致分成 2*2=4种人才定位。从方向上讲,大数据领域有平台开发与应用开发两个方向,前者聚焦在基础平台研发环节(平台工程师),后者聚焦在数据业务环节(策略&算法工程师)。从职业规划来讲,一种是技术专家线,这类开发者需要对所在领域有着深入的技术储备,了解相关技术原理,追踪前沿技术发展;另一种是技术管理线,该人才定位除了有技术深度还要有广度,包括团队管理能力、敏锐的业务意识以及前瞻性,负责把控项目进度与风险预判、公司技术规划与规范等,属于综合型人才。

无论将自己定位于何种类型,唯一的建议是持续性学习。这样的学习不局限于前沿技术跟踪,还要提升产品意识、思维方式、沟通技巧等多个方面。

笃定前行,不忘初心,田亮一直在发挥更大的价值。阿里云也始终在陪伴MVP成长,并一路见证他们的努力。

田亮近期技术分享:基于深度学习技术的视频内容检测

TB1HLKARVXXXXcKXpXXXXXXXXXX-586-338.jpg
我要成为阿里云 MVP

相关实践学习
基于MaxCompute的热门话题分析
本实验围绕社交用户发布的文章做了详尽的分析,通过分析能得到用户群体年龄分布,性别分布,地理位置分布,以及热门话题的热度。
SaaS 模式云数据仓库必修课
本课程由阿里云开发者社区和阿里云大数据团队共同出品,是SaaS模式云原生数据仓库领导者MaxCompute核心课程。本课程由阿里云资深产品和技术专家们从概念到方法,从场景到实践,体系化的将阿里巴巴飞天大数据平台10多年的经过验证的方法与实践深入浅出的讲给开发者们。帮助大数据开发者快速了解并掌握SaaS模式的云原生的数据仓库,助力开发者学习了解先进的技术栈,并能在实际业务中敏捷的进行大数据分析,赋能企业业务。 通过本课程可以了解SaaS模式云原生数据仓库领导者MaxCompute核心功能及典型适用场景,可应用MaxCompute实现数仓搭建,快速进行大数据分析。适合大数据工程师、大数据分析师 大量数据需要处理、存储和管理,需要搭建数据仓库?学它! 没有足够人员和经验来运维大数据平台,不想自建IDC买机器,需要免运维的大数据平台?会SQL就等于会大数据?学它! 想知道大数据用得对不对,想用更少的钱得到持续演进的数仓能力?获得极致弹性的计算资源和更好的性能,以及持续保护数据安全的生产环境?学它! 想要获得灵活的分析能力,快速洞察数据规律特征?想要兼得数据湖的灵活性与数据仓库的成长性?学它! 出品人:阿里云大数据产品及研发团队专家 产品 MaxCompute 官网 https://www.aliyun.com/product/odps 
相关文章
|
3天前
|
SQL DataWorks 数据可视化
阿里云DataWorks评测:大数据开发治理平台的卓越表现
阿里云DataWorks是一款集数据集成、开发、分析与管理于一体的大数据平台,支持多种数据源无缝整合,提供可视化ETL工具和灵活的任务调度机制。其内置的安全体系和丰富的插件生态,确保了数据处理的高效性和安全性。通过实际测试,DataWorks展现了强大的计算能力和稳定性,适用于中小企业快速搭建稳定高效的BI系统。未来,DataWorks将继续优化功能,降低使用门槛,并推出更多灵活的定价方案,助力企业实现数据价值最大化。
|
3天前
|
分布式计算 大数据 数据处理
技术评测:MaxCompute MaxFrame——阿里云自研分布式计算框架的Python编程接口
随着大数据和人工智能技术的发展,数据处理的需求日益增长。阿里云推出的MaxCompute MaxFrame(简称“MaxFrame”)是一个专为Python开发者设计的分布式计算框架,它不仅支持Python编程接口,还能直接利用MaxCompute的云原生大数据计算资源和服务。本文将通过一系列最佳实践测评,探讨MaxFrame在分布式Pandas处理以及大语言模型数据处理场景中的表现,并分析其在实际工作中的应用潜力。
17 2
|
29天前
|
存储 分布式计算 大数据
【赵渝强老师】阿里云大数据生态圈体系
阿里云大数据计算服务MaxCompute(原ODPS)提供大规模数据存储与计算,支持离线批处理。针对实时计算需求,阿里云推出Flink版。此外,阿里云还提供数据存储服务如OSS、Table Store、RDS和DRDS,以及数据分析平台DataWorks、Quick BI和机器学习平台PAI,构建全面的大数据生态系统。
68 18
|
1月前
|
分布式计算 Java 开发工具
阿里云MaxCompute-XGBoost on Spark 极限梯度提升算法的分布式训练与模型持久化oss的实现与代码浅析
本文介绍了XGBoost在MaxCompute+OSS架构下模型持久化遇到的问题及其解决方案。首先简要介绍了XGBoost的特点和应用场景,随后详细描述了客户在将XGBoost on Spark任务从HDFS迁移到OSS时遇到的异常情况。通过分析异常堆栈和源代码,发现使用的`nativeBooster.saveModel`方法不支持OSS路径,而使用`write.overwrite().save`方法则能成功保存模型。最后提供了完整的Scala代码示例、Maven配置和提交命令,帮助用户顺利迁移模型存储路径。
|
3月前
|
人工智能 分布式计算 DataWorks
连续四年!阿里云领跑中国公有云大数据平台
近日,国际数据公司(IDC)发布《中国大数据平台市场份额,2023:数智融合时代的真正到来》报告——2023年中国大数据平台公有云服务市场规模达72.2亿元人民币,其中阿里巴巴市场份额保持领先,占比达40.2%,连续四年排名第一。
256 12
|
3月前
|
人工智能 Cloud Native 数据管理
重磅升级,阿里云发布首个“Data+AI”驱动的一站式多模数据平台
阿里云发布首个AI多模数据管理平台DMS,助力业务决策提效10倍
480 17
|
3月前
|
SQL 人工智能 大数据
阿里云牵头起草!首个大数据批流融合国家标准发布
近日,国家市场监督管理总局、国家标准化管理委员会正式发布大数据领域首个批流融合国家标准GB/T 44216-2024《信息技术 大数据 批流融合计算技术要求》,该标准由阿里云牵头起草,并将于2025年2月1日起正式实施。
102 7
|
3月前
|
SQL 人工智能 大数据
首个大数据批流融合国家标准正式发布,阿里云为牵头起草单位!
近日,国家市场监督管理总局、国家标准化管理委员会正式发布大数据领域首个批流融合国家标准 GB/T 44216-2024《信息技术 大数据 批流融合计算技术要求》,该标准由阿里云牵头起草,并将于2025年2月1日起正式实施。
|
3月前
|
存储 SQL 分布式计算
Java连接阿里云MaxCompute例
要使用Java连接阿里云MaxCompute数据库,首先需在项目中添加MaxCompute JDBC驱动依赖,推荐通过Maven管理。避免在代码中直接写入AccessKey,应使用环境变量或配置文件安全存储。示例代码展示了如何注册驱动、建立连接及执行SQL查询。建议使用RAM用户提升安全性,并根据需要配置时区和公网访问权限。具体步骤和注意事项请参考阿里云官方文档。
393 10
|
3月前
|
机器学习/深度学习 数据可视化 大数据
阿里云大数据的应用示例
阿里云大数据应用平台为企业提供高效数据处理与业务洞察工具,涵盖Quick BI、DataV及PAI等核心产品。DT203课程通过实践教学,帮助学员掌握数据可视化、报表设计及机器学习分析技能,提升数据驱动决策能力。Quick BI简化复杂数据分析,DataV打造震撼可视化大屏,PAI支持全面的数据挖掘与算法应用。课程面向CSP、ISV及数据工程师等专业人士,为期两天,结合面授与实验,助力企业加速数字化转型。完成课程后,学员将熟练使用阿里云工具进行数据处理与分析。[了解更多](https://edu.aliyun.com/training/DT203)
下一篇
DataWorks