![个人头像照片](https://ucc.alicdn.com/avatar/avatar3.jpg)
暂无个人介绍
暂时未有相关通用技术能力~
阿里云技能认证
详细说明2022年01月
美团 Flink 大作业部署与状态稳定性优化实践
您好老师请教下:
1.首先请教下目前贵司 flink 部署到yarn 还是k8s 上的?
2.如果在yarn 上大作业taskmanager cpu和内存占比在机器上肯定会比较高,是如何做到资源隔离的,同一个节点上的contanier 不相互影响?
3.如果是在k8s pod 资源隔离的情况下,大作业有哪些可以优化的参数配置想借鉴一下.
4.对于大作业,肯定state的size也很大,面对超大size 是采用云存储还是hdfs? 面对上百G 的ck 以及上T 的state 有什么可以提高ck 的速度和比较好的实践吗?
打造批流融合:Pulsar - Flink Connector 的设计、开发和使用
盛老师您好:
1.请问pulsar + flink 的connector 是如何保证数据一致性的.
2.请问connector 是否和kafka 那样可以选择消费的offset.
3.请问消费时是否和kafka类似,有partation 和flink并行度对齐的概念.
4.请问消费速度是如何进行控制的,例如想限流或者提高消费速度.
大数据三剑合一:Flink + Zeppelin + Airflow:
章老师您好:
1.请问如何监控 flink on zeppelin 的健康状态,以及报警机制.
2.请问目前是否有 flink on zeppelin 并且 on k8s 的实践.
3.请问zeppelin + Airflow 如果调度作业较多的情况下,例如单天上万级别调度,zeppelin 服务有哪些可以调优的配置.
Flink on K8s 在京东的持续优化实践
付老师你好,有些问题请教下:
1.贵司是怎样简化提交流程(从打包,构建镜像,apply应用),或者是否有自动化部署的流程的实践?
2.贵司对on k8s 怎么去监控和管理作业(kill 、killAndSavepoint、从state恢复等)的运行,是否有推荐的开源管理工具
3.在生产实践中ck state size比较大时,用云存储会有一定的网络带宽瓶颈,是否遇到这种问题,或者有什么比较好的实践?
广告行业从零开始构建实时数据湖,有那些比较好的实践,以及hudi 和 Iceberg是否有比较好的元数据管理,怎样更好的管理数据的血缘关系.