勋章
我关注的人
粉丝
阿里云技术专家，在应用性能监控和软件交付方面有丰富的实践经验，目前专注于容器服务，微服务以及机器学习等领域。
-
发表了文章 2024-04-02
Fluid 携手 Vineyard，打造 Kubernetes 上的高效中间数据管理
本文阐述了如何利用 Fluid 和 Vineyard 在 Kubernetes 上优化中间数据管理，解决开发效率、成本和性能问题。 Fluid 提供数据集编排，使数据科学家能用 Python 构建云原生工作流，而 Vineyard 通过内存映射实现零拷贝数据共享，提高效率。两者结合，通过数据亲和性调度减少网络开销，提升端到端性能。 同时通过一个真实事例介绍了安装 Fluid、配置数据与任务调度及使用 Vineyard 运行线性回归模型的步骤，展示了在 Kubernetes 上实现高效数据管理的实践方法。未来，项目将扩展至 AIGC 模型加速和 Serverless 场景。
-
发表了文章 2023-11-23
Fluid支持分层数据缓存本地性调度（Tiered Locality Scheduling）
依赖容器化带来的高效部署、敏捷迭代，以及云计算在资源成本和弹性扩展方面的天然优势，以 Kubernetes 为代表的云原生编排框架吸引着越来越多的 AI 与大数据应用在其上部署和运行。但是数据密集型应用计算框架的设计理念和云原生灵活的应用编排的分歧，导致了数据访问和计算瓶颈。 CNCF开源项目Fluid作为 AI 与大数据云原生应用提供一层高效便捷的数据抽象，将数据从存储抽象出来，针对具体的场景（比如大模型），加速计算访问数据。
-
发表了文章 2022-12-20
Fluid支持子数据集
当然随着Fluid使用的深入，也有不同的需求出现。其中社区一个比较共性的需求： 1. 可以跨namespace访问数据集缓存 2. 只允许用户访问数据集的某个子目录 特别是JuiceFS的用户，他们倾向于使用Dataset指向JuiceFS的根目录。然后对于不同数据科学家组分配不同的子目录作为不同的数据集，并且希望彼此间的数据集不可见；同时还支持子数据集的权限收紧，比如根数据集支持读写，子数据集可以收紧为只读。
-
发表了文章 2022-12-19
Fluid新魔法：跨namespace共享数据
什么是Fluid？在云上通过云原生架构运行AI、大数据等任务，可以享受计算资源弹性的优势，但同时也会遇到，计算和存储分离架构带来的数据访问延迟和远程拉取数据带宽开销大的挑战。尤其在GPU深度学习训练场景中，迭代式的远程读取大量训练数据方法会严重拖慢GPU计算效率。另一方面，Kubernetes只提供了异构存储服务接入和管理标准接口（CSI，Container Storage Interface），
-
发表了文章 2022-12-19
Fluid支持子数据集
什么是Fluid？在云上通过云原生架构运行AI、大数据等任务，可以享受计算资源弹性的优势，但同时也会遇到，计算和存储分离架构带来的数据访问延迟和远程拉取数据带宽开销大的挑战。尤其在GPU深度学习训练场景中，迭代式的远程读取大量训练数据方法会严重拖慢GPU计算效率。另一方面，Kubernetes只提供了异构存储服务接入和管理标准接口（CSI，Container Storage Interface），
-
发表了文章 2022-12-08
Fluid新魔法：跨Kubernetes Namespace共享数据集
Fluid帮助数据科学家优化数据访问。不同的数据科学家团队会在多个不同的Namespace中创建数据密集型作业，且这些作业将访问相同的数据集。多个数据科学家复用相同的数据集，特别是开源数据集。各数据科学家拥有自己独立的Namespace提交作业。如果对于每个Namespace运行缓存运行时并进行缓存预热，会造成缓存资源浪费和作业启动延迟问题。
-
发表了文章 2021-04-24
Fluid给数据弹性一双隐形的翅膀 （2） -- 定时弹性伸缩
Fluid提供了数据缓存的弹性伸缩能力, 甚至可将缓存能力缩减为0。而且动态调整缓存容量变得非常简单，只需要Runtime的就可以完成数据缓存的扩缩容。与开源社区的kubernetes-cronhpa-controller可以很好的解决拥有周期性资源画像的负载弹性问题，平衡资源的使用效率和避免弹性的滞后问题。
-
发表了文章 2021-04-09
Fluid给数据弹性一双隐形的翅膀 （1） -- 自定义弹性伸缩
弹性伸缩作为Kubernetes的核心能力之一，但它一直是围绕这无状态的应用负载展开。而Fluid提供了分布式缓存的弹性伸缩能力，可以灵活扩充和收缩数据缓存。 它基于Runtime提供了缓存空间、现有缓存比例等性能指标, 结合自身对于Runtime资源的扩缩容能力，提供数据缓存按需伸缩能力。
-
发表了文章 2020-10-19
Fluid 0.3 新版本正式发布：实现云原生场景通用化数据加速
为了解决大数据、AI 等数据密集型应用在云原生计算存储分离场景下，存在的数据**访问延时高、联合分析难、多维管理杂**等痛点问题，南京大学 PASALab、阿里巴巴、Alluxio 在 2020 年 9 月份联合发起了开源项目 Fluid。近期我们更新了0.3版本
-
发表了文章 2020-10-13
Fluid: 让大数据和 AI 拥抱云原生的一块重要拼图
得益于容器化带来的高效部署、敏捷迭代，以及云计算在资源成本和弹性扩展方面的天然优势，以 Kubernetes 为代表的云原生编排框架吸引着越来越多的 AI 与大数据应用在其上部署和运行。然而，云原生计算基金会（CNCF）全景图中一直缺失一款原生组件，以帮助这些数据密集型应用在云原生场景下高效、安全、便捷地访问数据。
-
发表了文章 2020-10-04
Fluid: 让大数据和 AI 拥抱云原生的一块重要拼图
得益于容器化带来的高效部署、敏捷迭代，以及云计算在资源成本和弹性扩展方面的天然优势，以 Kubernetes 为代表的云原生编排框架吸引着越来越多的 AI 与大数据应用在其上部署和运行。然而，云原生计算基金会（CNCF）全景图中一直缺失一款原生组件，以帮助这些数据密集型应用在云原生场景下高效、安全、便捷地访问数据。
-
发表了文章 2020-04-30
从监控到隔离，阿里云容器服务提升您的GPU资源使用体验
通过使用阿里云容器服务的GPU支持，可以提升GPU资源管理的可见性，了解到需要多少的GPU资源可以支撑图像识别，语音识别，在线翻译等业务,如何能用最少的成本满足业务需求；而可以在无需修改现有GPU程序的前提下，保障多个容器共享同一个GPU时，实现彼此互相隔离。
-
发表了文章 2020-04-24
Alluxio深度学习实战-1：体验在HDFS上运行PyTorch框架
在HDFS上运行PyTorch程序本来需要用户修改PyTorch的适配器代码进行完成的工作，通过Alluxio，我们简化了适配工作，能够快速开展模型的开发和训练。而通过Kubernetes平台，这件事情变得非常简单，欢迎尝试。
-
发表了文章 2020-04-15
阿里云容器服务团队实践——Alluxio优化数倍提升云上Kubernetes深度学习训练性能
近些年，以深度学习为代表的人工智能技术取得了飞速的发展，正落地应用于各行各业。越来越多的用户在云上构建人工智能训练平台，利用云平台的弹性计算能力满足高速增长的AI业务模型训练方面的需求，然而这种“本地存储+云上训练”的训练模式加剧了计算存储分离架构带来的远程数据访问的性能影响。
-
发表了文章 2020-04-08
体验托管Prometheus监控阿里云容器服务Kubernetes的GPU资源
通过ARMS管理Kubernetes集群GPU性能指标 在阿里云容器服务中使用GPU资源运行进行AI模型训练和预测时，经常需要了解应用负载的GPU的使用情况，比如每块显存使用情况、GPU利用率，GPU卡温度等监控信息，通过内置ARMS可以从应用的维度去观测GPU的使用情况，了解资源水位，以及设定相应的报警，避免因为GPU资源的约束引发业务风险。
-
发表了文章 2019-12-02
妙到毫巅，在阿里云容器服务中体验RAPIDS加速数据科学
在阿里云容器服务中体验RAPIDS加速数据科学 摘要 算法、数据和算力称为人工智能的三大要素，如果没有算力的支撑，人工智能难以落地。而Nvidia GPU的强劲算力是AI模型训练加速的首选，但是它的价格也确实不菲。
-
发表了文章 2019-05-17
像Google一样构建机器学习系统3 - 利用MPIJob运行ResNet101
从上篇文章中，我们可以看到如何通过Kubeflow Pipeline运行单节点任务机器学习工作流，在本文中，我们会介绍如何使用Pipeline运行分布式MPI任务，该MPI任务运行模型ResNet101的测试。
-
发表了文章 2019-04-28
像Google一样构建机器学习系统2 - 开发你的机器学习工作流
按照上篇文章搭建了一套Kubeflow Pipelines之后，我们一起小试牛刀，用一个真实的案例，学习如何开发一套基于Kubeflow Pipelines的机器学习工作流。 准备工作 机器学习工作流是一个任务驱动的流程，同时也是数据驱动的流程，这里涉及到数据的导入和准备，模型训练Checkpoint的导出评估，到最终模型的导出。
-
发表了文章 2019-04-26
像Google一样构建机器学习系统 - 在阿里云上搭建Kubeflow Pipelines
谈到机器学习工作流平台，Google的工程经验非常丰富，它的TensorFlow Extended机器学习平台支撑了Google的搜索，翻译，视频等核心业务；更重要的是其对机器学习领域工程效率问题的理解深刻，
-
发表了文章 2019-02-18
开源工具GPU Sharing：支持Kubernetes集群细粒度
问题背景 全球主要的容器集群服务厂商的Kubernetes服务都提供了Nvidia GPU容器调度能力，但是通常都是将一个GPU卡分配给一个容器。这可以实现比较好的隔离性，确保使用GPU的应用不会被其他应用影响；对于深度学习模型训练的场景非常适合，但是如果对于模型开发和模型预测的场景就会比较浪费。
-
发表了文章 2018-11-02
在阿里云Kubernetes上使用ENI进行分布式机器学习训练
当云原生技术拥抱高性能计算领域的时候，一个重要的问题是如何在确保性能不受损失的前提下，更加灵活和安全进行运算。容器服务推出支持Terway网络支持弹性网卡，帮助用户保证安全隔离的前提下，享受着和主机网络一样的高性能。
-
发表了文章 2018-08-03
Arena - 打开KubeFlow的正确姿势
Arena的目标就是让数据科学家简单的释放KubeFlow的洪荒之力，像桌面机上训练一样简单，同时又拥有了集群级别调度和管理的掌控性。为了能够更好的在社区内共享和合作，我们已经在github上开源了自己的代码：https://github.com/AliyunContainerService/arena，欢迎大家了解和使用，如果您觉得不错，请给我们点赞。
-
发表了文章 2018-06-23
Kubeflow实战系列：利用TensorFlow Serving进行模型预测
本系列将介绍如何在阿里云容器服务上运行Kubeflow, 本文介绍如何使用`TensorFlow Serving`加载训练模型并且进行模型预测。
-
发表了文章 2018-06-23
Kubeflow实战系列：利用TFJob导出分布式TensorFlow模型
本系列将介绍如何在阿里云容器服务上运行Kubeflow, 本文介绍如何使用`TfJob`导出分布式模型训练模型。
-
发表了文章 2018-06-14
Kubeflow实战系列: 利用TFJob运行分布式TensorFlow
TensorFlow作为现在最为流行的深度学习代码库，在数据科学家中间非常流行，特别是可以明显加速训练效率的分布式训练更是杀手级的特性。但是如何真正部署和运行大规模的分布式模型训练，却成了新的挑战。
-
发表了文章 2018-06-13
Kubeflow实战系列：阿里云上小试TFJob
`tf-operator`是Kubeflow的第一个CRD实现，解决的是TensorFlow模型训练的问题，它提供了广泛的灵活性和可配置，可以与阿里云上的NAS，OSS无缝集成，并且提供了简单的UI查看训练的历史记录。
-
发表了文章 2018-06-08
Kubeflow实战系列：阿里云上使用JupyterHub
介绍 本系列将介绍如何在阿里云容器服务上运行Kubeflow, 本文介绍如何使用Jupyter Hub。 背景介绍 时间过得真快，李世乭和AlphaGo的人机对弈已经是两年前的事情。在过去的两年中，人工智能开始从学术界向工业界转型，基于人工智能技术的产品化落地和工业界方案的探索正如火如荼的进行。
-
发表了文章 2018-04-20
在阿里云Kubernetes容器服务上打造TensorFlow实验室
利用Jupyter开发TensorFLow也是许多数据科学家的首选，但是如何能够快速从零搭建一套这样的环境，并且配置GPU的使用，同时支持最新的TensorFLow版本, 对于数据科学家来说既是复杂的，同时也是浪费精力的。
-
发表了文章 2018-03-22
阿里云Kubernetes 1.9上利用Helm运行TensorFlow 分布式模型训练
TensorFlow和Kubernetes分别作为深度学习和容器编排领域的领航者，二者的强强联合可以真正释放分布式训练的洪荒之力。而阿里云的Helm解决方案降低了部署的难度，降低了这把`屠龙刀`的使用难度。
-
发表了文章 2018-03-19
阿里云Kubernetes 1.9上利用Helm玩转TensorFlow模型预测
TensorFlow Serving是Google开源的机器学习模型预测系统，能够简化并加速从模型到生产应用的过程。 它实际上也是一个在线服务，我们需要考虑它的部署时刻的安装配置，运行时刻的负载均衡，弹性伸缩，高可用性以及滚动升级等问题，幸运的是这正是Kubernetes擅长的地方。
-
发表了文章 2018-03-05
尝鲜阿里云容器服务Kubernetes 1.9，拥抱GPU新姿势
尝鲜阿里云容器服务Kubernetes 1.9.3， 拥抱Nvidia GPU的新姿势 自从1.8版本开始，Kubernetes已经明确表示要通过统一的设备插件方式支持像Nvidia PU，InfiniBand,FPGA等硬件加速设备。
-
发表了文章 2018-03-02
Kubernetes的Device Plugin机制源码解析（1）
Kubernetes 1.8 引入的Device Plugin机制，通过扩展的方式实现支持GPU、FPGA、高性能 NIC、InfiniBand等各种设备的集成。而Device Manager正是Kubelet内负责Device Plugin交互和设备生命周期管理的模块，在了解其基本设计后，本文对Device Manager的源码分析，理解其运作方式。
-
发表了文章 2018-02-27
Kubernetes的Device Plugin设计解读
Kubernetes的生态地位已经确立，可扩展性将是其发力的主战场。异构计算作为非常重要的新战场，Kubernetes非常重视。而异构计算需要强大的计算力和高性能网络，需要提供一种统一的方式与GPU、FPGA、NIC、InfiniBand等高性能硬件集成。
-
发表了文章 2018-01-07
阿里云上kubernetes的备份和恢复
kubernetes的备份和恢复 Kubernetes集群的运行状态都保存在ETCD中，为了确保您生产环境的稳定性。建议您定期备份。下面为您介绍如何对阿里云容器服务Kubernetes进行备份和恢复。
-
发表了文章 2017-09-28
利用GPU性能指标进行弹性伸缩
随着人工智能大潮的风起云涌， 视频识别，语音识别，图像识别，自然语言翻译，AI画匠等基于GPU的在线预测也在遍地开花。而弹性伸缩对于人工智能服务来说尤为重要，一方面是业务压力峰值时巨大的计算力需求；另一方面当业务空闲时，GPU的空耗成本也是大家很难承受的。
-
发表了文章 2017-09-12
在阿里云上轻松部署Kubernetes GPU集群，遇见TensorFlow
Kubernetes在版本1.6后正式加入了Nvidia GPU的调度功能，支持在Kubernetes上运行运行和管理基于GPU的应用。而在2017年9月12日，阿里云发布了新的异构计算类型GN5，基于P100 nvidia GPU, 提供灵活强悍的异构计算模型，从基础设施到部署环境全面升级，可有效提升矩阵运算、视频识别、机器学习、搜索排序等处理计算效率。
-
发表了文章 2017-09-05
利用阿里云容器服务实现自定义节点伸缩
容器服务目前提供创建节点触发器的功能，调用节点触发器，并可以利用openAPI查看扩容出来的ECS节点方便管理和自动化的需求. 本文将向您介绍完成这一能力的步骤。
-
发表了文章 2017-06-21
2017上海云栖TechDay-15分钟在云上玩转TensorFlow
本文为您介绍了2017年上海云栖TechDay-利用深度学习解决方案创建一个TensorFlow开发环境，运行一个MNIST程序，并且利用Tensorboard的可视化功能观测训练效果。
-
发表了文章 2017-05-24
利用TFRecord和HDFS准备TensorFlow训练数据
本文将介绍如何将数据转化为TFRecord格式，并且将生成TFRecord文件保存到HDFS中, 这里我们直接使用的是阿里云EMR（E-MapReduce）的HDFS服务。
-
发表了文章 2017-05-22
GPU资源的监控和报警，支撑高效深度学习的利器
本文将介绍如何利用阿里云容器服务的机器学习解决方案在几分钟内轻松设置GPU资源使用率，显存使用率和温度的报警机制，达到对于一些GPU潜在问题的先知先觉，避免不必要损失的目的。
-
发表了文章 2017-03-30
快速在阿里云上构建机器学习应用
3月28日云栖大会开源专场，阿里云技术专家必嘫给大家带来了“在阿里云上构建机器学习应用”的演讲。本文主要从深度学习应用发展历史开始谈起，进而介绍了如何结合阿里云容器服务的机器学习解决方案快速打造一套深度学习应用的案例。
-
发表了文章 2017-03-17
在阿里云上两分钟玩转AlextNet
本文是该系列中的第六篇文章， 将为您介绍如何在弹性GPU和阿里云容器服务上快速部署和使用AlexNet。
-
发表了文章 2016-09-19
SwarmKit的概念和架构
SwarmKit是容器集群调度领域新的挑战者，虽然不够成熟，但由于设计理念优秀，并被直接集成在Docker Engine中，大有后发而先至的可能性。对于docker的从业者来说，了解和学习Swamkit是非常必要的，我们会在这里介绍swarmKit的概念和架构，帮助大家学习和研究。
-
发表了文章
2024-05-15
Fluid 携手 Vineyard，打造 Kubernetes 上的高效中间数据管理
-
发表了文章
2023-12-01
Fluid支持分层数据缓存本地性调度（Tiered Locality Scheduling）
-
发表了文章
2022-12-20
Fluid支持子数据集
-
发表了文章
2022-12-19
Fluid新魔法：跨namespace共享数据
-
发表了文章
2022-12-19
Fluid支持子数据集
-
发表了文章
2022-12-08
Fluid新魔法：跨Kubernetes Namespace共享数据集
-
发表了文章
2021-04-24
Fluid给数据弹性一双隐形的翅膀 （2） -- 定时弹性伸缩
-
发表了文章
2021-04-09
Fluid给数据弹性一双隐形的翅膀 （1） -- 自定义弹性伸缩
-
发表了文章
2020-10-19
Fluid 0.3 新版本正式发布：实现云原生场景通用化数据加速
-
发表了文章
2020-10-13
Fluid: 让大数据和 AI 拥抱云原生的一块重要拼图
-
发表了文章
2020-10-04
Fluid: 让大数据和 AI 拥抱云原生的一块重要拼图
-
发表了文章
2020-04-30
从监控到隔离，阿里云容器服务提升您的GPU资源使用体验
-
发表了文章
2020-04-24
Alluxio深度学习实战-1：体验在HDFS上运行PyTorch框架
-
发表了文章
2020-04-15
阿里云容器服务团队实践——Alluxio优化数倍提升云上Kubernetes深度学习训练性能
-
发表了文章
2020-04-08
体验托管Prometheus监控阿里云容器服务Kubernetes的GPU资源
-
发表了文章
2019-12-02
妙到毫巅，在阿里云容器服务中体验RAPIDS加速数据科学
-
发表了文章
2019-05-17
像Google一样构建机器学习系统3 - 利用MPIJob运行ResNet101
-
发表了文章
2019-04-28
像Google一样构建机器学习系统2 - 开发你的机器学习工作流
-
发表了文章
2019-04-26
像Google一样构建机器学习系统 - 在阿里云上搭建Kubeflow Pipelines
-
发表了文章
2019-02-18
开源工具GPU Sharing：支持Kubernetes集群细粒度
