超强攻略!看完拿 Apache Flink 极客挑战赛全场最佳「MVP」

简介: 垃圾图片分类与 Flink TPC-DS 性能优化两大赛题重要知识点及相关工具解析。

首届 Apache Flink(以下简称 Flink)极客挑战赛自 7 月 24 日上线以来已有 1000+ 参赛队伍报名。针对极客挑战赛垃圾图片分类与 Flink TPC-DS 性能优化两大赛题涉及的重要知识点及相关工具使用已在每周直播课程中分享,本文将为大家奉上两大赛题超详细攻略,揭秘两大赛题的核心关键。

Apache Flink极客挑战赛-01.jpg

赛题详细解析

垃圾图片分类及 Flink TPC-DS 性能优化两大赛题所需用到的数据集、开发或性能优化过程的详细说明等已全部更新在官网,以下对赛题重点内容进行说明。

垃圾图片分类赛题说明

垃圾图片分类需要参赛选手使用 Flink 和 intel Analytics Zoo 实现对垃圾图片的识别与分类功能,系统给定 600 张图片,由参赛队伍提供程序进行预测,根据预测结果进行打分。

划重点:实时图片分类的速度与预测的准确度是解题关键;分数计算方法为(500 毫秒内识别准确图片数 / 总图片数[600])*100。

1.数据说明

  • 初赛

给定垃圾图片样例视频展示 100 个分类的 300 张 jpg 图片(用户本地调试可以从网上下载)和训练好的垃圾图片的分类模型(包括模型输入数据格式等参数)。大赛组委会提供运行环境。样例视频地址请见下文详细开发流程说明链接。

  • 复赛

给定垃圾图片样例视频展示 100 个分类的 300 张 jpg 图片(用户本地调试可以从网上下载)。参赛队伍通过使用 Flink 和 intel Analytics Zoo 实现实时垃圾图片分类算法(模型定义使用 Tensorflow python 接口,运行作业使用 Flink),包括模型训练和模型预测。用户上传算法代码,平台将提供约 6000 张垃圾图片用于训练数据集, 3 小时内训练出垃圾图片分类模型,然后运行给定垃圾图片集合(600 张垃圾图片)根据用户训练出的模型,使用 Flink 实现实时垃圾图片分类。

排名规则:根据上述计算分数从高到低排名。

2.开发流程

如何安装至本地仓库、获取模型路径、图片目录结构、提交 jar 包到天池平台、模型说明、Flink 运行环境说明等官网已更新详细步骤及开发代码。

数据集下载及详细开发流程说明

https://tianchi.aliyun.com/competition/entrance/231743/information

3.学习资料

a.TensorFlow On Flink

b.Anlytics-Zoo 构建统一的大数据分析+AI流水线

Flink TPC-DS 性能优化赛题说明

Flink TPC-DS 性能优化需要参赛队伍使用大赛提供的 Flink 分支,进行 Flink 代码优化以提升 Flink SQL 执行效率, 组委会提供 Benchmark 工具供参赛队伍自行测试。 比赛阶段,选手将最终优化后的 Flink 代码打包,通过天池平台提交,天池平台会使用相同的性能测评工具,进行评测、排名。

划重点:优化是本赛题最主要的部分,对于 Flink 代码和配置的优化 ,包含但不限于以下模块:

  • SQL 优化,优化出更合理的 SQL 执行 Plan。
  • 算子优化, 优化出更高效的 SQL 执行算子。
  • 引擎优化, 优化调度,数据传输等等,可以让作业执行更快速。

1.赛题解读

  • 初赛

在给定的非 DCPMM 机器环境下,优化 Flink 系统及运行参数,对给定的 TPC-DS query 按照指定的顺序执行,循环三次。

  • 复赛

使用包含 DCPMM 硬件的机器,要求参赛队伍基于 DCPMM 进一步探索并实现可能的优化途径。

2.赛题要求

比赛使用的测试数据集为 100 G,用户自行用 Benchmark 工具生成,生成数据集的随机因子组委会不公开。

比赛使用 SQL query 为 TPC-DS 工具生成的 99 个 SQL(含变种 SQL),共计 103 个,组委会从中选择 20 条 SQL 进行评测。

选手可以进行 SQL 优化,执行 Plan 算子优化,引擎优化,调度优化,数据传输优化等,以便让 SQL 作业执行更快速。

选手每天有三次提交作业的机会,每个自然日提供 5 次代码运行机会。

组委会保留对赛题修改的权利。

3.详细说明

关于性能优化赛题涉及的工程结构、工程代码、生成数据集和 query、优化代码、性能评测、提交作业及格式转换工具等详细说明文档已上线:

1.工程结构
2.工程代码
3.生成数据集和 query
4.优化 Flink 代码
5.性能评测
  5.1 本地 Intellij 测试
  5.2 集群运行
6.提交作业至天池平台
7.格式转换工具

完整文档说明:
https://tianchi.aliyun.com/competition/entrance/231742/information

4.学习资料

a.深度探索 Flink SQL

b.Flink Runtime 核心机制剖析

c.Take advantage of Intel Optane DCPM in Flink workload

程序员鼓励师活动

即日起,报名参赛选手成功邀请身边小伙伴参赛,将获得鼓励师奖励。

报名时填写邀请人手机号或昵称即可,易重名同学建议名字+自定义编号哦,如李明2~

image.png

1.邀请两名小伙伴成功报名,可获得 Flink 定制马克杯一枚。

2.邀请四名小伙伴成功报名参赛,可获得 Flink 定制单肩包一个。(兑换上限为6人)

3.继续邀请还将进入鼓励师排行榜,榜单每周在技术圈更新,初赛截止时榜单为最终榜单。

鼓励师特别奖励:

第一名:1个名额,机械键盘1台

第二名:2个名额,空气净化器 1台

第三名:5个名额,运动手环 1个

:两大赛题鼓励师排行榜分开进行,按照以上规则分别获得鼓励师特别奖励。

大赛答疑交流群:

  • Flink 垃圾图片分类答疑交流钉钉群号:23129395
  • Flink TPC-DS 性能优化答疑交流钉钉群号:21950145

Tips:大赛微信交流群可加小松鼠微信,小松鼠拉大家进群(Ververica2019),加小松鼠微信请备注垃圾图片分类或性能优化哦

大赛详情:https://tianchi.aliyun.com/markets/tianchi/flink2019

还没报名的同学快上车,了解更多 Apache Flink 极客挑战赛信息~

史上超强阵容,Flink Forward Asia 2019 你报名了吗?

公众号banner.jpg

相关实践学习
基于Hologres+Flink搭建GitHub实时数据大屏
通过使用Flink、Hologres构建实时数仓,并通过Hologres对接BI分析工具(以DataV为例),实现海量数据实时分析.
实时计算 Flink 实战课程
如何使用实时计算 Flink 搞定数据处理难题?实时计算 Flink 极客训练营产品、技术专家齐上阵,从开源 Flink功能介绍到实时计算 Flink 优势详解,现场实操,5天即可上手! 欢迎开通实时计算 Flink 版: https://cn.aliyun.com/product/bigdata/sc Flink Forward Asia 介绍: Flink Forward 是由 Apache 官方授权,Apache Flink Community China 支持的会议,通过参会不仅可以了解到 Flink 社区的最新动态和发展计划,还可以了解到国内外一线大厂围绕 Flink 生态的生产实践经验,是 Flink 开发者和使用者不可错过的盛会。 去年经过品牌升级后的 Flink Forward Asia 吸引了超过2000人线下参与,一举成为国内最大的 Apache 顶级项目会议。结合2020年的特殊情况,Flink Forward Asia 2020 将在12月26日以线上峰会的形式与大家见面。
相关文章
|
3月前
|
人工智能 数据处理 API
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
Apache Flink Agents 是由阿里云、Ververica、Confluent 与 LinkedIn 联合推出的开源子项目,旨在基于 Flink 构建可扩展、事件驱动的生产级 AI 智能体框架,实现数据与智能的实时融合。
602 6
阿里云、Ververica、Confluent 与 LinkedIn 携手推进流式创新,共筑基于 Apache Flink Agents 的智能体 AI 未来
|
存储 Cloud Native 数据处理
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式
本文整理自阿里云资深技术专家、Apache Flink PMC 成员梅源在 Flink Forward Asia 新加坡 2025上的分享,深入解析 Flink 状态管理系统的发展历程,从核心设计到 Flink 2.0 存算分离架构,并展望未来基于流批一体的通用增量计算方向。
390 0
从嵌入式状态管理到云原生架构:Apache Flink 的演进与下一代增量计算范式
|
4月前
|
人工智能 运维 Java
Flink Agents:基于Apache Flink的事件驱动AI智能体框架
本文基于Apache Flink PMC成员宋辛童在Community Over Code Asia 2025的演讲,深入解析Flink Agents项目的技术背景、架构设计与应用场景。该项目聚焦事件驱动型AI智能体,结合Flink的实时处理能力,推动AI在工业场景中的工程化落地,涵盖智能运维、直播分析等典型应用,展现其在AI发展第四层次——智能体AI中的重要意义。
1533 27
Flink Agents:基于Apache Flink的事件驱动AI智能体框架
|
5月前
|
消息中间件 存储 Kafka
Apache Flink错误处理实战手册:2年生产环境调试经验总结
本文由 Ververica 客户成功经理 Naci Simsek 撰写,基于其在多个行业 Flink 项目中的实战经验,总结了 Apache Flink 生产环境中常见的三大典型问题及其解决方案。内容涵盖 Kafka 连接器迁移导致的状态管理问题、任务槽负载不均问题以及 Kryo 序列化引发的性能陷阱,旨在帮助企业开发者避免常见误区,提升实时流处理系统的稳定性与性能。
509 0
Apache Flink错误处理实战手册:2年生产环境调试经验总结
|
5月前
|
SQL 人工智能 数据挖掘
Apache Flink:从实时数据分析到实时AI
Apache Flink 是实时数据处理领域的核心技术,历经十年发展,已从学术项目成长为实时计算的事实标准。它在现代数据架构中发挥着关键作用,支持实时数据分析、湖仓集成及实时 AI 应用。随着 Flink 2.0 的发布,其在流式湖仓、AI 驱动决策等方面展现出强大潜力,正推动企业迈向智能化、实时化的新阶段。
665 9
Apache Flink:从实时数据分析到实时AI
|
5月前
|
SQL 人工智能 API
Apache Flink 2.1.0: 面向实时 Data + AI 全面升级,开启智能流处理新纪元
Apache Flink 2.1.0 正式发布,标志着实时数据处理引擎向统一 Data + AI 平台迈进。新版本强化了实时 AI 能力,支持通过 Flink SQL 和 Table API 创建及调用 AI 模型,新增 Model DDL、ML_PREDICT 表值函数等功能,实现端到端的实时 AI 工作流。同时增强了 Flink SQL 的流处理能力,引入 Process Table Functions(PTFs)、Variant 数据类型,优化流式 Join 及状态管理,显著提升作业稳定性与资源利用率。
622 0
|
5月前
|
存储 人工智能 数据处理
对话王峰:Apache Flink 在 AI 时代的“剑锋”所向
Flink 2.0 架构升级实现存算分离,迈向彻底云原生化,支持更大规模状态管理、提升资源效率、增强容灾能力。通过流批一体与 AI 场景融合,推动实时计算向智能化演进。生态项目如 Paimon、Fluss 和 Flink CDC 构建湖流一体架构,实现分钟级时效性与低成本平衡。未来,Flink 将深化 AI Agents 框架,引领事件驱动的智能数据处理新方向。
594 6
|
存储 人工智能 大数据
The Past, Present and Future of Apache Flink
本文整理自阿里云开源大数据负责人王峰(莫问)在 Flink Forward Asia 2024 上海站主论坛开场的分享,今年正值 Flink 开源项目诞生的第 10 周年,借此时机,王峰回顾了 Flink 在过去 10 年的发展历程以及 Flink社区当前最新的技术成果,最后展望下一个十年 Flink 路向何方。
826 33
The Past, Present and Future of Apache Flink
|
SQL Java API
Apache Flink 2.0-preview released
Apache Flink 社区正积极筹备 Flink 2.0 的发布,这是自 Flink 1.0 发布以来的首个重大更新。Flink 2.0 将引入多项激动人心的功能和改进,包括存算分离状态管理、物化表、批作业自适应执行等,同时也包含了一些不兼容的变更。目前提供的预览版旨在让用户提前尝试新功能并收集反馈,但不建议在生产环境中使用。
1633 13
Apache Flink 2.0-preview released

热门文章

最新文章

相关产品

  • 实时计算 Flink版
  • 推荐镜像

    更多