Apache Flink 1.10.0 发布 | 云原生生态周报 Vol. 38

本文涉及的产品
函数计算FC,每月15万CU 3个月
云原生网关 MSE Higress,422元/月
可观测链路 OpenTelemetry 版,每月50GB免费额度
简介: 一周云原生生态周报概览。

周报38.png

作者 | 徐迪、陈俊、敖小剑、宋进超

业界要闻

  1. Apache Flink 1.10.0 发布

作为 Flink 社区迄今为止规模最大的一次版本升级,Flink 1.10 容纳了超过 200 位贡献者对超过 1200 个 issue 的开发实现,包含对 Flink 作业的整体性能及稳定性的显著优化、对原生 Kubernetes 的初步集成(beta 版本)以及对 Python 支持(PyFlink)的重大优化。

  1. Linkerd 2.7 发布 

此版本以安全为主题,主要更新亮点包括增加了将 Linkerd 的交叉 TLS 基础与外部证书发行商(如 Vault、cert-manager)集成的支持,改进了 GitOps 工作流,并使其易于自动轮换 TLS 凭据;还改进了 dashboard 的性能,提高了 Helm 图表的可用性。

上游重要进展

Kubernets

  1. 1.18 分支本周二正式创建了,code freeze 在 3 月 5 号;
  2. graduate PodTopologySpread to beta

feature gate PodTopologySpread 升级到 beta 版本。

  1. Provide OIDC discovery for service account token issuer

引入了新的 token issuer,符合 OIDC(OpenID Connect) 标准的都可以用来做 token issuer。

  1. Set up connection onClose prior to adding to connection map

主要为了解决 kubelet 证书 rotate 过程中出现的 crash。

  1. register queue metrics in controller manager

可以查看 controller manager 中的 work queue metrics。

  1. Add events to PV when mount fails on filesystem mismatch

kubelet 无法 mount filesystem 时候上报 event。

  1. apps/StatefulSets: Garbage collector should be able to orphan ControllerRevisions too

允许 GC 清理 ControllerRevisions,避免进入一个无法删除的 loop。

  1. 从 1.18 版本开始 pause 镜像从 3.1 升级到 3.2

使用 docker buildx 进行 cross build

Istio

  1. 支持集群本地服务

在多集群中,有些服务本质上是集群本地的,不应该从其他集群访问,因此需要支持Mesh的运维人员有选择的决定是否将单个服务合并到多集群Mesh中。

  1. 遵守 Kubernetes 的服务拓扑

Kubernetes 在 1.17 版本中推出了 Service Topology 的 alpha 版本,在之前 Service 的基础上扩展支持了 zone 和 region 标签,并容许任意拓扑,这个特性要求开启 EndpointSlice。Istio中需要计划对其提供支持,实现更丰富的区域路由和负载均衡能力。

  1. 正在规划中的 Istio 2020年 Roadmap
  • 安装:控制平面合并为 istiod,支持单个 mesh 中的多个控制平面(用于控制平面升级),支持在 Kubernetes 之外存储 istio 的配置数据,支持 K8s 和虚拟机上的现有应用不停机地移到 istio;
  • 多集群:支持单一网络/多网络,支持单一控制平面/多控制平面;
  • 虚拟机支持:重构 service entry 为 workload entry;
  • 服务发现:支持 consul / Lambda / Azure functions / Zookeeper;
  • 可扩展性方面:弃用 Mixer v1,支持 WASM 扩展 Envoy,实现 Mixer 中的 Policy 和 Tlemetry;
  • 运维:新的 traffic management API;支持 K8s Ingress v2,支持使用 WASM 扩展 Istio;
  • 安全:增加 Istio Agent;支持使用 SDS 扩展运行于虚拟机上的 Mesh;使用 SPIFFE trust bundle 的 Mesh 联邦。
  1. 同样规划的 Istio 2020 年 Release 计划,原则上每三个月进行一个版本发布:
  • Istio 1.5:预计 2 月 18 日,但目前已经延迟,改为 3 月 5 日
  • Istio 1.6:预计 5 月 19 日
  • Istio 1.7:预计 8 月 18 日
  • Istio 1.8:预计 11 月 15 日
  1. Istio准备弃用 Mixer

Mixer 将在 Istio 1.5 中标记为 deprecated;计划在 Istio 1.7 (预计在 2020 年 8 月份发布)中删除,Mixer 的代码将被移动到 Istio-ecosystem。新的 Mixer V2 方案正在开发中,Mixer 原有的功能将被移到 Envoy 中,以 WASM 的形式进行扩展。

开源项目推荐

  1. Spring Cloud Kubernetes

方便 spring cloud 对接跑在 Kubernetes 中的 spring boot 应用。

本周阅读推荐

  1. 《为什么要在虚拟机里运行 Kubernetes?》

列举了 13 点在裸金属里运行 Kubernetes 的劣势。

  1. 《Service Mesh Ultimate Guide: Managing Service-to-Service Communications in the Era of Microservices》

对 Service Mesh 生态当前概况的整体解读。

阿里巴巴云原生关注微服务、Serverless、容器、Service Mesh 等技术领域、聚焦云原生流行技术趋势、云原生大规模的落地实践,做最懂云原生开发者的技术圈。”

相关实践学习
基于Hologres轻松玩转一站式实时仓库
本场景介绍如何利用阿里云MaxCompute、实时计算Flink和交互式分析服务Hologres开发离线、实时数据融合分析的数据大屏应用。
Linux入门到精通
本套课程是从入门开始的Linux学习课程,适合初学者阅读。由浅入深案例丰富,通俗易懂。主要涉及基础的系统操作以及工作中常用的各种服务软件的应用、部署和优化。即使是零基础的学员,只要能够坚持把所有章节都学完,也一定会受益匪浅。
相关文章
|
19天前
|
SQL Java API
Apache Flink 2.0-preview released
Apache Flink 社区正积极筹备 Flink 2.0 的发布,这是自 Flink 1.0 发布以来的首个重大更新。Flink 2.0 将引入多项激动人心的功能和改进,包括存算分离状态管理、物化表、批作业自适应执行等,同时也包含了一些不兼容的变更。目前提供的预览版旨在让用户提前尝试新功能并收集反馈,但不建议在生产环境中使用。
490 13
Apache Flink 2.0-preview released
|
24天前
|
存储 缓存 算法
分布式锁服务深度解析:以Apache Flink的Checkpointing机制为例
【10月更文挑战第7天】在分布式系统中,多个进程或节点可能需要同时访问和操作共享资源。为了确保数据的一致性和系统的稳定性,我们需要一种机制来协调这些进程或节点的访问,避免并发冲突和竞态条件。分布式锁服务正是为此而生的一种解决方案。它通过在网络环境中实现锁机制,确保同一时间只有一个进程或节点能够访问和操作共享资源。
54 3
|
2月前
|
消息中间件 资源调度 API
Apache Flink 流批融合技术介绍
本文源自阿里云高级研发工程师周云峰在Apache Asia Community OverCode 2024的分享,内容涵盖从“流批一体”到“流批融合”的演进、技术解决方案及社区进展。流批一体已在API、算子和引擎层面实现统一,但用户仍需手动配置作业模式。流批融合旨在通过动态调整优化策略,自动适应不同场景需求。文章详细介绍了如何通过量化指标(如isProcessingBacklog和isInsertOnly)实现这一目标,并展示了针对不同场景的具体优化措施。此外,还概述了社区当前进展及未来规划,包括将优化方案推向Flink社区、动态调整算子流程结构等。
370 31
Apache Flink 流批融合技术介绍
|
29天前
|
分布式计算 监控 大数据
大数据-148 Apache Kudu 从 Flink 下沉数据到 Kudu
大数据-148 Apache Kudu 从 Flink 下沉数据到 Kudu
52 1
|
28天前
|
数据挖掘 物联网 数据处理
深入探讨Apache Flink:实时数据流处理的强大框架
在数据驱动时代,企业需高效处理实时数据流。Apache Flink作为开源流处理框架,以其高性能和灵活性成为首选平台。本文详细介绍Flink的核心特性和应用场景,包括实时流处理、强大的状态管理、灵活的窗口机制及批处理兼容性。无论在实时数据分析、金融服务、物联网还是广告技术领域,Flink均展现出巨大潜力,是企业实时数据处理的理想选择。随着大数据需求增长,Flink将继续在数据处理领域发挥重要作用。
|
1月前
|
Kubernetes Cloud Native 流计算
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
Flink-12 Flink Java 3分钟上手 Kubernetes云原生下的Flink集群 Rancher Stateful Set yaml详细 扩容缩容部署 Docker容器编排
68 0
|
1月前
|
消息中间件 druid Kafka
从Apache Flink到Kafka再到Druid的实时数据传输,用于分析/决策
从Apache Flink到Kafka再到Druid的实时数据传输,用于分析/决策
67 0
|
SQL 架构师 API
《Apache Flink 知其然,知其所以然》系列视频课程
# 课程简介 目前在我的公众号新推出了《Apache Flink 知其然,知其所以然》的系列视频课程。在内容上会先对Flink整体架构和所适用的场景做一个基础介绍,让你对Flink有一个整体的认识!然后对核心概念进行详细介绍,让你深入了解流计算中一些核心术语的含义,然后对Flink 各个层面的API,如 SQL/Table&DataStreamAPI/PythonAPI 进行详细的介绍,以及
1360 0
《Apache Flink 知其然,知其所以然》系列视频课程
|
3月前
|
存储 消息中间件 Java
Apache Flink 实践问题之原生TM UI日志问题如何解决
Apache Flink 实践问题之原生TM UI日志问题如何解决
44 1
|
2月前
|
SQL 消息中间件 关系型数据库
Apache Doris Flink Connector 24.0.0 版本正式发布
该版本新增了对 Flink 1.20 的支持,并支持通过 Arrow Flight SQL 高速读取 Doris 中数据。

推荐镜像

更多